Britisk politi fældet af AI der løj – lignende system testes i Danmark

Det britiske politi er havnet i en kontrovers, der rejser fundamentale spørgsmål om brugen af kunstig intelligens i retshåndhævelsen. Et AI-system, som politiet har anvendt til at analysere data og assistere i efterforskning, viste sig at have produceret direkte forkerte informationer – hvad man populært kalder "AI-hallucinationer".

Ifølge Version2 er der tale om et alvorligt tilfælde, der allerede har fået retslige konsekvenser. Endnu mere bekymrende er det, at et lignende AI-system er under afprøvning i Danmark.

Hvad skete der i England?

Det britiske politi brugte AI-systemet til at generere resuméer og analyser i forbindelse med konkrete sager. I mindst ét tilfælde præsenterede systemet faktuelt forkerte oplysninger som om de var sande – og disse oplysninger endte i sagsdokumenter, der blev brugt i retten.

Sagen har udløst en undersøgelse og skærpet kravene til, hvordan politiet i fremtiden dokumenterer brugen af AI i efterforskning.

Dansk politi tester tilsvarende teknologi

Version2 oplyser, at det danske politi aktuelt tester et system med sammenlignelig funktionalitet. Politiet understreger, at systemet er i en tidlig testfase, og at alle AI-genererede outputs gennemgås af menneskelige sagsbehandlere.

Det er dog ikke tilstrækkeligt for kritikere, der mener, at risikoen for AI-fejl i retslige sammenhænge er uacceptabel, uanset om der er menneskelig kontrol.

Eksperter advarer

Teknologieksperter og juristers peger på, at sprogmodeller i sagens natur kan producere overbevisende, men faktisk forkert indhold. I en retslig kontekst kan det have alvorlige følger for retssikkerheden.

Debatten om AI i politiets arbejde er nu for alvor kommet på dagsordenen – både i Danmark og på europæisk plan.