Ny hemmelig AI er så kraftfuld, at den ikke kan frigives – Anthropic advarer verden

Hvad sker der, når en AI-model er så avanceret, at selv dens skabere er nervøse for at frigive den? Det er præcis den situation, Anthropic befinder sig i med sin nyeste model, kaldet Claude Mythos.

Hvad er Claude Mythos?

Claude Mythos er Anthropics seneste sprogmodel – og ifølge virksomheden selv er den på et niveau, der giver anledning til bekymring. DR's techjournalist Therese Moreau har dykket ned i historien og beskriver en AI, der overgår alt, hvad vi hidtil har set fra selskabet.

Modellen er angiveligt i stand til at udføre komplekse opgaver på et niveau, der overskrider det, Anthropic er trygge ved at gøre offentligt tilgængeligt. Det er en usædvanlig situation i en branche, der typisk er kendetegnet ved kapløb om at frigive hurtigst muligt.

Kan vi stole på Anthropic?

Det er et legitimt spørgsmål. Anthropic er én af de AI-virksomheder, der profilerer sig stærkt på ansvarlighed og sikkerhed – men det giver også virksomheden en potentiel PR-fordel at annoncere, at ens AI er "for farlig" til at frigive. Det er en fin balance mellem ægte forsigtighed og markedsføring.

DR's Therese Moreau spørger præcist til dette: Er advarslen reel, eller er det en del af hype-maskinen?

Hvad betyder det for fremtiden?

Uanset svaret på det spørgsmål sætter historien om Claude Mythos fokus på en central diskussion i AI-verdenen: Hvornår er en model for kraftfuld til at frigives? Og hvem bestemmer det?

Mens politikere, etikere og tech-giganter debatterer, er én ting sikkert: AI-udviklingen accelererer i et tempo, der gør det svært at følge med – selv for dem, der bygger teknologien.