Anthropic bruger sin egen AI Claude til at udvikle den næste version af sig selv

Det lyder som noget fra en science fiction-film, men det er virkelighed hos AI-selskabet Anthropic: Sprogmodellen Claude bliver i stigende grad brugt til at udvikle sin egen efterfølger. Ifølge virksomheden selv går udviklingen hurtigt, og andelen af arbejde, som Claude klarer på egen hånd, vokser måned for måned.

Anthropic oplyser, at Claude i dag udfører hele 26 procent af selskabets analyse- og udviklingsarbejde helt selvstændigt, blot med en avanceret instruks og et vågent øje fra medarbejderne. Til sammenligning var det tal nul procent så sent som i februar. Derudover foregår omkring 90 procent af Anthropics samlede arbejde i et tæt samspil mellem mennesker og Claude, hvor modellen kan overtage store dele af opgaverne under menneskelig vejledning.

Springet fra nul til 26 procent på få måneder illustrerer, hvor hurtigt AI-udviklingen accelererer lige nu - og hvor tæt selskaberne bag de store sprogmodeller er på at lade AI'en tage over dele af sin egen fødekæde.

Anthropic advarer selv om konsekvenserne

Det pudsige - og bekymrende - er, at Anthropic ikke lægger skjul på risikoen ved sin egen fremgangsmåde. Virksomheden skriver selv, at når modeller i stigende grad bidrager til udviklingen af deres egne efterfølgere, kan det gøre det sværere for mennesker at forstå og kontrollere systemerne. Med andre ord: Jo mere Claude bygger Claude, desto sværere kan det blive at holde styr på, hvad der egentlig sker inde i modellen.

Anthropics topchef Dario Amodei har tidligere udtrykt bekymring over tempoet i AI-udviklingen generelt. Han har efterlyst uafhængige tilsynsfolk, mere sikkerhedskoordinering mellem AI-selskaberne og internationale aftaler, der kan holde udviklingen inden for sikre rammer - en opfordring, der får ekstra vægt, når hans eget selskab samtidig er blandt dem, der skubber hastigst på.

Skepsissen rækker ind i selskabets egne rækker. En tidligere Anthropic-forsker, Jacob Coxon, har udtalt, at folkene bag AI-udviklingen oprigtigt frygter, at teknologien i værste fald kan udgøre en eksistentiel trussel inden udgangen af årtiet. Det er et opsigtsvækkende udsagn fra en, der selv har arbejdet inde i maskinrummet hos et af verdens førende AI-selskaber.

Hvad betyder det for os andre?

For almindelige brugere af Claude og andre AI-værktøjer er udviklingen et tveægget sværd. På den ene side betyder det formentlig hurtigere fremskridt og bedre modeller i de kommende år, fordi udviklingsprocessen selv bliver mere effektiv. På den anden side rejser det spørgsmål om gennemsigtighed: Hvis AI-modeller i stigende grad former deres egne efterfølgere, hvor meget indsigt har mennesker så reelt i, hvordan de nye systemer fungerer og hvilke beslutninger de træffer?

Det er netop denne balance mellem hastighed og kontrol, der nu diskuteres ivrigt i AI-branchen - og som formentlig kommer til at fylde endnu mere, efterhånden som andelen af selvstændigt AI-drevet udvikling fortsætter med at stige.