AI løj for britisk politi – og lignende teknologi testes nu i Danmark

En chokerende sag fra Storbritannien har sat gang i debatten om risikoen ved at lade AI-systemer spille en central rolle i myndighedsbeslutninger: Det britiske politi brugte AI-genererede beviser til at udelukke israelske fodboldfans fra en kamp – men beviserne var falske. AI-systemet havde simpelthen opfundet voldelige sammenstød, der aldrig havde fundet sted.

Hvad gik galt?

Det AI-baserede overvågningsværktøj, som det britiske politi tog i brug, skulle analysere video og anden data for at identificere potentielt farlige tilskuere. I stedet hallucinerete systemet – et velkendt fænomen i store sprogmodeller, hvor AI producerer overbevisende, men faktuelt forkert information.

Resultatet var, at reelle mennesker mistede retten til at overvære en sportskamp på baggrund af digitale løgne genereret af en algoritme. Det er en alvorlig krænkelse, der illustrerer, hvad der kan ske, når AI-output bruges uden tilstrækkelig menneskelig verificering.

Dansk test af lignende teknologi

Det bekymrende aspekt for danske borgere er, at lignende teknologi ifølge Version2 er under test i Danmark. Hvilke myndigheder der tester hvilken teknologi, og til hvilke formål, er endnu ikke fuldt klarlagt – men sagen understreger behovet for strenge krav til verificering og transparens, inden AI-systemer bruges i beslutninger, der påvirker borgernes rettigheder.

AI-eksperter og borgerrettighedsorganisationer opfordrer til, at der etableres klare retningslinjer for, hvornår og hvordan AI må bruges i politimæssig sammenhæng – og at der altid er et menneske med ansvar for den endelige beslutning.