Tumblrs automatiserede moderering gik helt galt – massivt bannet ramte især trans-brugere

Tumblr-brugere oplevede onsdag et digitalt røverkøberi, da platformens automatiserede modereringssystem sendte et storm af konti ned. Ifølge The Verge blev dusinvis af brugere smidt ud uden varsel, og talrige berørte henvendte sig til tech-mediet med samme frustration: ingen konkret forklaring på, hvorfor deres konti blev lukket.

Det mest påfaldende var, at banbolgen usproportionalt ramte konti drevet af transmandlige brugere – en gruppe, der allerede har kendt til marginalisering på sociale medier. Brugerne modtog en en kold besked fra Tumblr, der blot forklarede, at kontoen var blevet lukket som resultat af »en internt genereret rapport«, og at »automatiserede midler kan være blevet brugt til at identificere det indhold, der er tale om«.

Algoritmen som stodder

Fejlen understreger det globale problem med at stole blindt på kunstig intelligens uden menneskelig kontrol. Tumblrs automatiske system skulle ideelt set være en værktøjskasse til at få spam og brud på reglerne fjernet. I stedet blev det til en masse-afskedigelsesmekanisme uden nogen som helst mulig retsmidler for brugerne.

Tumblr må svare på sagen

Ifølge The Verge forklarede Chenda Ngak, der er ansvarlig for kommunikation hos Tumblr, ikke hvad der var gået galt eller hvordan platformens ledelse ville tage ansvar. Det er symptomatisk for en industri, hvor sjældent nogen skal stå til regnskab, når algoritmer stikker af. For brugerne var det simply et sortkald – uden forklaring, uden appelmulighed og uden løfte om, at det aldrig igen skulle ske.