Tech-bosser vil have killswitches og AI-vagthunde - danske eksperter bakker op

En gruppe fremtrædende tech-ledere i USA er gået sammen om et forslag, der skal gøre udviklingen af kunstig intelligens mere sikker. Blandt initiativtagerne er Dario Amodei, topchef for AI-selskabet Anthropic, som står bag chatbotten Claude.

Kernen i forslaget er to konkrete mekanismer. Den ene er såkaldte "killswitches" - tekniske nødbremser, der skal gøre det muligt hurtigt at lukke ned for et AI-system, hvis det opfører sig uforudsigeligt eller farligt. Den anden er oprettelsen af uafhængige AI-vagthunde: overvågningsorganer, der ikke er ejet eller kontrolleret af de samme selskaber, som udvikler teknologien, og som derfor kan holde et kritisk øje med udviklingen udefra.

Tanken bag initiativet er at dæmme op for risikoen for, at udviklingen af kunstig intelligens løber løbsk, før der er etableret ordentlige sikkerhedsmekanismer. Det er en bekymring, der har fyldt stadig mere i branchen i takt med, at AI-modellerne er blevet markant kraftigere de seneste år.

Ifølge Version2 bakker danske eksperter op om løsningen. Det understreger, at bekymringen for AI-sikkerhed ikke kun er et amerikansk anliggende, men også deles af fagfolk herhjemme, som følger udviklingen i den internationale AI-branche tæt.

At forslaget kommer fra folk med direkte indsigt i, hvordan de mest avancerede AI-modeller bliver bygget, giver det ekstra vægt. Dario Amodei har tidligere udtalt sig offentligt om risiciene ved AI-udvikling og har positioneret Anthropic som et selskab, der lægger vægt på sikkerhed i udviklingen af sine modeller.

Forslaget om killswitches og uafhængige vagthunde er en del af en bredere debat om, hvordan AI-udviklingen bedst reguleres. Mens nogle lande og organisationer arbejder på lovgivning, peger dette initiativ på, at dele af branchen selv ønsker at indføre sikkerhedsmekanismer - snarere end udelukkende at vente på politiske beslutninger.

Det er endnu uklart, hvordan og hvornår sådanne mekanismer konkret skal implementeres, og hvem der i givet fald skal drive de uafhængige vagthunde. Men initiativet føjer sig til en række af lignende udspil fra techindustrien, der de seneste år har forsøgt at balancere hastig AI-udvikling med kontrol og sikkerhed.