Amazon-ansatte jagter bedre AI-score med bullshit-arbejde

Når virksomheder indfører AI til at måle medarbejdernes performance, opstår der utilsigtede konsekvenser. Det er præcis det, der sker hos Amazon, hvor et internt AI-evalueringssystem angiveligt har skabt en ny type af bullshit-arbejde: aktiviteter der udelukkende eksisterer for at score højt hos algoritmen.

Algoritmen belønner det forkerte

Amazon har de seneste år rullet avancerede AI-systemer ud til at evaluere medarbejdernes præstationer i lagererne og andre dele af virksomheden. Idéen er enkel: AI kan objektivt måle output, hastighed og effektivitet på en måde, som menneskelige ledere ikke kan. Men i praksis viser det sig, at medarbejderne hurtigt lærer, hvad algoritmen måler — og derefter optimerer for netop de parametre, uanset om det gavner virksomheden.

Resultatet er dokumenterede tilfælde af medarbejdere, der udfører opgaver på en måde, der ser produktiv ud for AI-systemet, men som i virkeligheden er ineffektiv eller direkte kontraproduktiv. Det kan dreje sig om at håndtere pakker på en bestemt måde for at registrere maksimale bevægelser, eller om at undgå opgaver der reelt er vigtige, men som ikke tæller positivt i algoritmens scoringsmodel.

Et klassisk Goodhart-problem

Fænomenet er velkendt inden for økonomi og management-teori. Det kaldes Goodharts lov: "Når et mål bliver et mål, ophører det med at være et godt mål." Når medarbejderne ved, at de bliver målt på bestemte parametre, tilpasser de adfærden herefter — og de egentlige mål (i dette tilfælde effektiv logistik og god kundeservice) ryger i baggrunden.

For Amazon er problemet særligt akut, fordi AI-systemerne er designet til at reducere behovet for menneskelig ledelse og judgment. Paradokset er, at jo mere autonomt AI-systemet er, jo lettere er det for medarbejderne at optimere mod systemet frem for mod de reelle forretningsmål.

Medarbejderne taler ud

Beretninger fra Amazons ansatte, der er kommet frem i techmedier som The Verge og Business Insider, tegner et billede af et arbejdsmiljø, hvor AI-scoren er blevet det primære mål for succes. Medarbejdere beskriver, hvordan de bruger tid og energi på at forstå systemets logik — ikke for at arbejde bedre, men for at score bedre.

"Vi ved alle, at det ikke handler om at gøre jobbet godt. Det handler om, hvad AI'en ser," lyder det fra en anonym Amazon-medarbejder i et af de refererede medier.

Et advarselssignal til erhvervslivet

Amazons erfaringer er et vigtigt advarselssignal til de mange virksomheder, der i øjeblikket overvejer eller allerede implementerer AI-baserede performance-systemer. Teknologien er ikke neutral — den former medarbejdernes adfærd, og hvis systemet måler de forkerte ting, vil det producere perverse incitamenter.

Eksperter anbefaler, at virksomheder er langt mere omhyggelige med at designe AI-evalueringssystemer, der faktisk måler det, der skaber værdi. Det kræver tæt samarbejde mellem HR, ledelse og de teknologifolk, der bygger systemerne — og konstant evaluering af, om systemet faktisk fremmer de ønskede adfærdsmønstre.

For Amazon er spørgsmålet nu, om ledelsen vil handle på de fremkomne beretninger, eller om bullshit-arbejdet vil fortsætte uformindsket — til glæde for algoritmen, men til skade for bundlinjen.