AI-selskab har stoppet forskere hvis research kunne bruges til biologiske våben

AI-selskabet Anthropic har stoppet fem forskere, hvis research kunne have ført til udvikling af biologiske våben. Det er første gang, et privat AI-selskab offentligt rapporterer den slags sager, skriver DR.

I et af de konkrete tilfælde brugte en forsker uger på at planlægge eksperimenter med fugleinfluenza tilpasset pattedyr - med hjælp fra Anthropics AI-model Claude. Forskeren arbejdede ifølge Financial Times fra en region, som Anthropic ikke understøtter, herunder lande som Kina, Rusland og Iran, hvor selskabet blokerer adgang til sine tjenester.

Anthropic skriver selv, at eksemplerne illustrerer de typer opgaver, som selskabets AI-modeller bliver brugt til, og håber, at det at dele sagerne offentligt kan sætte gang i en bredere samtale om de biologiske risici, der kan følge med kraftfuld kunstig intelligens.

Overlæge John-Erik Stig Hansen understreger over for DR, at potentialet i AI inden for medicinsk forskning er enormt. Men han advarer samtidig om, hvad der kan ske, hvis udviklingen fortsætter uden tilstrækkelige sikkerhedsforanstaltninger: "Det virkelig farlige kommer, når og hvis AI bliver i stand til at informere autonome laboratorier, der kan fremstille faktiske virus," siger han.

Sagen føjer sig til en række interne bekymringer hos Anthropic selv. En tidligere forsker hos selskabet er ifølge DR stoppet og har advaret mod teknologien, mens en anden af selskabets forskere har udtalt, at man "virkelig oprigtigt" tror, at AI kunne udgøre en eksistentiel trussel mod mennesker - med en sandsynlighed vurderet til over 10 procent inden udgangen af årtiet.

Sagen illustrerer den dobbelthed, der i stigende grad præger debatten om kunstig intelligens: Samme teknologi, der kan fremskynde livsvigtig medicinsk forskning, kan i de forkerte hænder også bruges til at planlægge eksperimenter med farlige patogener. Anthropic fremhæver selv, at selskabets interne overvågning fangede sagerne, før de udviklede sig videre - men episoden rejser samtidig spørgsmålet om, hvor mange lignende forsøg der ikke bliver opdaget hos andre AI-udbydere.