Usynlige vandmærker i AI-tekst er på vej — sådan virker teknologien

Vandmærker i det usynlige

Traditionelle vandmærker er synlige — de er der for at du kan se dem. Men den næste generation af vandmærker i AI-genereret tekst er designet til præcis det modsatte: At være fuldstændig usynlige for det menneskelige øje, men identificerbare for de rette algoritmer.

Anthropic annoncerede mandag, at tekst genereret af Claude-modellerne fremover vil indeholde indlejrede digitale vandmærker. Generede filer vil desuden, hvor det understøttes teknisk, inkludere digitalt signerede metadata om deres oprindelse. Selskabet oplyser, at metoden ikke påvirker læsbarheden eller den sproglige kvalitet af teksterne.

Hvad er teknologien bag?

AI-tekstvandemærkning fungerer typisk ved at manipulere statistiske mønstre i den genererede tekst på en måde, der er usynlig for læseren, men detekterbar for en dertil designet algoritme. Det kan eksempelvis ske ved at favorisere bestemte synonymer eller sætningsstrukturer på en ikke-tilfældig måde, der danner et skjult mønster.

Anthropic har endnu ikke offentliggjort de præcise tekniske detaljer om implementeringen — herunder hvilke værktøjer brugere og organisationer kan anvende til at detektere vandmærkerne. Det er et centralt spørgsmål, som selskabet bliver nødt til at besvare, for at systemet kan fungere i praksis.

EU's AI Act er drivkraften

Initiativet er ikke frivilligt. EU's AI Act stiller krav om, at AI-genereret indhold skal mærkes, så brugere kan identificere det. Anthropic implementerer vandmærkerne for at overholde disse lovkrav — og planlægger at sikre, at også ældre Claude-modeller lever op til reglerne.

Danmark har allerede reageret på problemstillingen med en "strakspakke" mod AI-snyd i skolerne introduceret af undervisningsminister Magnus Heunicke. Vandmærketeknologi kan i fremtiden blive et af de centrale værktøjer i denne indsats.

Hvad betyder det for AI-brugere?

For de fleste brugere ændrer vandmærkerne ingenting i hverdagen. Teksterne ser og læses præcis som før. Men for dem, der bevidst forsøger at skjule AI-brug — i skoleaflevering, på LinkedIn eller i professionelle sammenhænge — bliver det markant sværere fremover.

Teknologien er endnu ikke perfekt. Vandmærker kan potentielt fjernes ved at omskrive teksten tilstrækkeligt. Men som et lag i en bredere indsats for AI-transparens er det et skridt i den rigtige retning.