Googles AI-overblik er fyldt med fejl: Hver tiende svar er forkert

Google præsenterede med stort fanfare sin nye AI-oversigt – en funktion, der skal opsummere søgeresultater ved hjælp af kunstig intelligens. Men virkeligheden er betydeligt mindre glimrende end markedsføringen. Ifølge Ingeniøren afsløres det nu gennem en større undersøgelse, at hver tiende svar fra AI-oversigten er direkte fejlbehæftet.

Det betyder, at ved millioner af daglige søgninger møder brugere systemisk misinformation. Undersøgelsen tegner et billede af en teknologi, der er blevet rullet ud, før den var egentlig klar til primetime.

Kilder uden troværdighed

Problemet stikker dybere end blot forkerte fakta. Over halvdelen af de kilder, som AI-oversigten citerer, viser sig at være upålidelige eller ligefrem manipulerede. Det betyder, at Google ikke blot præsenterer fejl – det præsenterer dem som velunderbyggede påstande fra påstået troværdige kilder.

For brugere, der stoler på søgemaskinen, bliver konsekvensen alvorlig. En læge, der søger på symptomer. En journalist, der checker fakta. En student, der laver lektier. De risikerer alle at blive mødt med konfabulation – når AI-systemer helt simpelt opfinder eller forvrænger information.

Undersøgelsens egne udfordringer

Ifølge Ingeniøren har undersøgelsen selv haft sine helt egne problemer ved at dokumentere omfanget af fejlene. Det skyldes, at AI-systemernes svar varierer fra gang til gang, og det er uklart, hvor mange fejl der skyldes træningsdata mod aktuelle hallucineringer.

Spørgsmålet bliver nu: Skal brugere stole på denne teknologi? Og mere kritisk – burde Google have lanceret det så bredt, når kvalitetskontrol tilsyneladende var fraværende?