New Mexico-advokat bødes for AI-opfundne vidner i mordappel

Advokat Stephen Aarons fra New Mexico er blevet idømt 5.000 dollar i bøde og sigtet for foragt for retten, efter han brugte kunstig intelligens til at fabrikere vidner og falsk politiudtalelse i et appelgrundlag for en morddomme. Højesterets kendelse fra onsdag afslørede, at Aarons havde inkluderet fuldstændig opfundne vidneforklaringer og falske udsagn om gerningsmændenes påklædning og udseende i sit AI-genererede juridiske dokument. Retten kritiserede Aarons for ikke at 'verificere de faktiske påstande og juridiske grundlag' i sin indgivelse.

Dommen rejser alvorlige spørgsmål om juridiske fagmænds ansvar, når de læner sig på generativ AI. Under en høring i august anklagede dommer C. Shannon Bacon Aarons for at ignorere de indlysende risici, som kunstig intelligens – især dens tendens til at 'hallucere' og opfinde ikke-eksisterende kilder – udgør i retssager.

AI-faren handler om tillid til kilder

Kunstig intelligens kan generere overbevisende, men totalt opfundne referencer, vidner og juridiske præcedenser. Systemerne mangler evnen til at skelne mellem gyldige kilder og pletskud. For advokater, der baserer juridiske argumenter på AI-output uden grundig faktakontrol, kan det få katastrofale konsekvenser – både for klienterne og for retssystemets integritet.

En advarsel til hele branchen

Ifølge The Verge markerer sagen et vendepunkt i diskussionen om ansvarlighed, når juridiske fagfolk anvender AI. Den slår fast, at blot at reproducere AI-genereret indhold uden verifikation ikke er acceptabelt, uanset tidspres eller teknologiens tilsyneladende effektivitet. Kendelsen sender et klart signal: juridiske dokumenter kræver menneskelig faktakontrol, som AI ikke kan erstatte.