Anthropic holder Claude tilbage: AI finder selv sikkerhedshul

Antropic står over for et dilemma, som mange AI-virksomheder hidtil har kunnet undgå: deres nye Claude-model er blevet for dygtig til at finde sikkerhedshul i computersystemer. Ifølge Ingeniøren er den kommende model i stand til at identificere og udnytte sårbarheder uden menneskelig vejledning – en evne, som virksomheden finder så potentielt farlig, at den har besluttet at holde teknologien tilbage fra offentligheden foreløbig.

Initiativet viser en sjælden tilbageholdenhed i Silicon Valley, hvor konkurrencetempo normalt trumfer sikkerhedshensyn. Anthropic har således givet tech-giganter – uden at navngive hvilke – en pause til at styrke deres forsvar mod den type avancerede cyberangreb, som Claude nu kan forestille sig og gennemføre.

En helt ny truselskategori

Evnen til selvstændigt at finde og udnytte sikkerhedshul repræsenterer en kvalitativ spring i AI-trusler. Hidtil har AI-modeller været værktøjer, som mennesker dirigerer mod specifikke mål. Men når en AI selv kan tage initiativ til at scanne systemer for sårbarhed og udvikle exploits uden menneskelig instruktion, åbner det for nye angrebsvektorer, som defensive systemer endnu ikke er forberedt på.

Industriens stille løftegiveri

Anthropics håndtering signalerer, at de betyder det seriøst med responsible AI-udvikling – eller i det mindste genkender risikoen så alvorligt, at de ikke tør slippe denne udgave løs. Spørgsmålet er dog, hvor længe denne tilbageholdenhed kan holde. Konkurrenterne venter ikke, og hvis andre AI-virksomheder udvikler lignende kapaciteter uden samme etiske skrupel, bliver Anthropics paus blot et tidsspild.