Tilsyn lukkede AI-system hos PET: Gemte persondata man kunne lokke frem med prompts

Den danske politiets efterretningstjeneste PET måtte trække stikket til et AI-system, efter at tilsynsmyndigheden TET – Tilsynet med Efterretningstjenesterne – konstaterede en alvorlig sikkerhedsbrist: Systemet kunne i visse tilfælde producere svar med personoplysninger, når medarbejdere stillede de rette spørgsmål.

Det fremgår af en tilsynsrapport offentliggjort den 19. juni 2026. Problemet er klassisk for store sprogmodeller, der er blevet trænet eller finjusteret på interne datasæt med personfølsomme oplysninger – en praksis der er teknisk mulig, men juridisk og etisk yderst problematisk i en efterretningskontekst.

Prompt injection i praksis

Kernen i problemet er, hvad sikkerhedsforskere kalder data leakage via prompting: En sprogmodel, der er eksponeret for persondata under træning eller som kontekst, kan under visse omstændigheder reproducere disse data, hvis en bruger formulerer forespørgsler på en bestemt måde. Det kræver ikke teknisk snilde – blot de rette ord.

TET konkluderede, at PETs system kunne afsløre personoplysninger «i visse tilfælde, både forsætligt og uforsætligt» – en formulering der rammer præcis det dobbeltproblem: Ikke blot ondsindede insidere, men også velmenende medarbejdere kan utilsigtet fremkalde følsomme data.

Fundamentale compliance-fejl

Tilsynet pegede på grundlæggende svigt i, hvordan PET implementerede og kontrollerede teknologien. Det handler ikke blot om én teknisk fejl, men om en manglende governance-ramme: Risikovurdering, adgangsstyring, logging og test af modellens adfærd overfor personfølsomt indhold var åbenbart utilstrækkelig.

PET er nu pålagt at implementere korrigerende foranstaltninger, inden et lignende system eventuelt kan tages i brug igen. Hvad disse konkret indebærer, er ikke offentliggjort – sandsynligvis af hensyn til efterretningsoperationel sikkerhed.

Et varsel til den offentlige sektor

Sagen er langt fra et isoleret tilfælde. Offentlige myndigheder og virksomheder verden over eksperimenterer med at integrere sprogmodeller i interne systemer uden tilstrækkelig forståelse for, hvad der sker, når modellen møder personfølsomt materiale. Hos PET er konsekvenserne potentielt langt mere alvorlige end i de fleste organisationer – her handler det om kilders identitet, operationelle detaljer og statssikkerhed.

Sagen understreger, at deployment af AI i følsomme kontekster kræver langt mere end blot teknisk implementering. Det kræver systematisk red-teaming, streng adgangskontrol og løbende tilsyn – ikke et efterfølgende eftersyn.