AI-industrien ignorerer sine mørkeste skyggesider

Da filmskaber Valerie Veatch eksperimenterede med OpenAIs Sora-model – en kunstig intelligens, der genererer videoer ud fra tekstbeskrivelser – troede hun, hun skulle være med på noget spændende. Hun ville forbinde sig med andre kunstnere, som delte deres AI-kreationer online. Det blev dog en ubehagelig opvågning.

Hurtigt opdagede Veatch, at systemet konstant producerede billeder gennemsyret af racisme og sexisme. Endnu værre var reaktionen fra hennes nye AI-entusiast-kollegaer: de syntes ikke, det var særligt bekymrende.

Et sortering-problem ingen vil snakke om

Ifølge The Verge tegner der sig her et betænkeligt billede af AI-miljøets kultur. Når udvikler og brugere negligerer, at deres værktøjer reproducerer diskriminering, bliver problemet ikke mindre – det bliver systematiseret. Det er ikke ligegyldigt.

Generative AI-modeller som Sora trænes på massive datasæt fra internettet. Det betyder, at bias og fordomme bliver indlejret i algoritmerne. Men når AI-industrien har prioriteret hastighed og markedsføring over grundig testing, bliver denne realitet bekvemt ignoreret.

En industri uden etik-samtale

Debatten om kunstig intelligens er blevet en lovesang om innovation og muligheder. Få steder høres bekymringer om, hvem disse systemer skader, eller hvem de favoriserer. Det er ikke tilfældigt, påpeger The Verge. Det er strategisk.

Når en hel branche kan se sit produkt spytte hadefuldt indhold ud uden at ville gøre noget ved det, handler det ikke længere bare om teknologi. Det er et værdiespørgsmål. Og det gør AI-entusiaster til medansvarlige for, hvad deres systemer forstærker i samfundet.