Anthropics nye AI er saa kraftfuld at den ikke maaa slippes fri

Techvirksomheden Anthropic har tilsyneladende skabt noget, der overstiger grenserne for, hvad de toer sende ud i verden. En ny sprogmodel – kaldet Claude Mythos – beskrives af virksomheden selv som saa kraftfuld, at de ikke kan frigive den.

Det er en bemærkelsesvaerdig udmelding. I en branche, der normalt konkurrerer om at praese mest muligt af sine AI-modellers kapaciteter, vaelger Anthropic altsaa at holde den tilbage.

Hvad er Claude Mythos?

Claude Mythos beskrives som Anthropics mest avancerede sprogmodel. Jf. virksomheden selv overskrider den graenser for, hvad der er sikkerhedsmaessigt forsvarligt at frigive. Detaljer er begransede, men modellen skulle vaere markant mere kapabel end de eksisterende Claude-versioner.

Kan vi stole paa Anthropic?

Techjournalist Therese Moreau fra DR stiller det afgoeerende spoergsmaal: Naar en AI-virksomhed selv advarer om sine produkters farlighed – er det genuin sikkerhedsbekymring eller avanceret markedsfoering?

"Det er en rigtig god pointe at rejse," siger Moreau. Anthropic har bygget sin brand paa at vaere den ansvarlige AI-aktoe, men det giver dem ogsaa incitament til at dramatisere de risici de tager paa sig.

AI-sikkerhed – en vaeksende debat

Historien om Claude Mythos er blot det seneste eksempel paa den vaeksende debat om frontier-AI og sikkerhed. Spoegsmaalet om, hvornaar en model er "for farlig" til at frigive, er ikke laengere teoretisk – det er politisk og kommercielt.

Uanset motiverne bag Anthropics tilbageholdenhed tegner historien om Claude Mythos et billede af, at AI-kapaciteterne udvikles hurtigere end branchens evne til at haandtere dem.