Google åbner døren til lettvinthede deepfakes af dig selv

Google tager et risikabelt skridt ind i verden af kunstig intelligens og syntetisk medier. YouTube Shorts ruller nu en ny AI-drevet funktion ud, der giver indholdsskabere mulighed for at skabe realistiske digitale kloner af sig selv – såkaldte avatarer – som kan indsættes i eksisterende videoer eller bruges til at generere helt nye. Ifølge The Verge angiver Google selv, at avatarerne vil "se og lyde som dig," og præsenterer dem som en "sikrere" måde at bruge AI på.

Men der ligger en åbenlys ironi gemt under overfladen. Mens Google promoverer værktøjet som en legitim løsning for kreative, bygger de samtidig en platform, der potentielt kan misbruges til deepfakes – realistiske falsifikationer af mennesker – i stor skala.

Googles dobbelte standard på kunstig intelligens

Tech-giganten har længe været fanget mellem to modsatrettede kræfter. På den ene side ønsker Google at være først til at integrere generativ AI i sine produkter og derved dominere markedet. På den anden side må virksomheden håndtere en bølge af AI-genereret lort – det såkaldte "AI slop" – samt bedragerier, deepfake-scams og identitetsmisbrugsforsøg på platformen.

YouTube Shorts er ikke første gang Google lancerer generativ teknologi med indbyggede sikkerhedsrisici. Platformen har allerede kæmpet med at moderere syntetisk indhold, og dette tiltag vil uvægerligt intensivere problemet. Selvom Google sandsynligvis vil inkludere autenticitets-kontroller, er historien fyldt med eksempler på, hvor hurtigt sådan beskyttelse kan omgås af beslutsomme aktører.

En alarm for regulering

Lanceringen understreger behovet for mere aggressiv regulering af generativ AI. For hver legitim use-case – som at spare tid for YouTubere – eksisterer der mindst ti potentielle misbrugsmuligheder. Indtil nu har Google været tilladt at eksperimentere på brugergrupper uden større konsekvenser, men denne gang handler det om værktøjer, der direkte kan bruges til at skabes falske versioner af mennesker.

Spørgsmålet er ikke længere, om teknologien kan laves. Spørgsmålet er: skal den på hylden uden ordentlig lovgivning på plads?