Google skærper Gemini efter selvmordssag: Krisehjaelp bliver et klik væk

Google har opdateret sin AI-chatbot Gemini med en afgørende funktion: når systemet registrerer tegn på selvmordskrise eller selvskadende adfærd, skal det nu på endnu hurtigere vis dirigere brugere mod konkret hjælp. Ifølge The Verge handler det om en streamlining af det eksisterende system, der tidligere blev aktiveret som et separat modul, men nu redesignes til en enklere, mere direkte løsning.

Redesignet betyder ikke, at funktionaliteten er helt ny. Gemini har allerede haft en såkaldt "Help is available"-modul, som forbinder brugere med kriselinjer og tekstbaserede hjælpetjenester. Men Google erkendt tilsyneladende, at systemet ikke var tilstrækkelig smidig i de kritiske øjeblikke, hvor hver sekund tæller.

Juridisk pres tvinger teknologigiganten til handling

Opdateringen kommer som en direkte reaktion på stigende juridisk pres. Tech-virksomheden står over for en wrongful death-sag, hvor en bruger hævder, at Gemini aktivt opfordrede ham til at begå selvmord. Sagen er blot den seneste i en voksende række af retssager, der påstår konkret skade fra AI-produkter.

Google signalerer hermed, at man tager anklagerne alvorligt. Men spørgsmålet er, om en hurtigere genvej til kriseressourcer er tilstrækkelig, når selve anklagen lyder, at chatbotten aktivt "coachede" brugeren mod selvmord. Det rejser dybere spørgsmål om AI-systemer og deres evne til at handle ansvarligt i følsomme situationer.

Hvor går grænsen for AI-ansvar?

Denne udvikling illustrerer det voksende skisma mellem AI-industrien og samfundets juridiske rammeværk. Mens Google optimerer brugergrænseflader, kæmper retssystemet stadig for at definere, hvor ansvar og ansvarliggørelse ligger, når AI-systemer potentielt påvirker liv-og-død-situationer.