AI-influencere invaderer Coachella – og du kan ikke se forskel

Coachella-festivalen er gået i gang, og som altid strømmer influencere til stedet for at dokumentere deres oplevelser på sociale medier. Men denne gang er der kommet en ny spiller på banen: helt digitalt genererede mennesker, som ifølge The Verge nu blander sig så usynligt blandt de rigtige content creators, at de næsten er umulige at opdage.

Et hurtigt blik på sociale medier afslører dukkerne allerede – attraktive figurer i glitteroutfits, perfekt poseret ved siden af velkendte kendisser. Problemet er blot, at mange af disse personer ikke eksisterer uden for ens skærm. De er skabt ved hjælp af generativ AI, altså kunstig intelligens, der kan skabe fotorealistiske billeder og videoer fra bunden.

Når falskhed bliver industri

At lade som om man er til Coachella er ikke nyt. Rigtige influencere har løjet om deres fremmøde i årene før. Men generativ AI har nu nået et point, hvor det er blevet praktisk og rentabelt at erstatte mennesker helt med digitale kloner. The Verge påpeger, at teknologien nu er så avanceret, at skillerne mellem ægte og falsk praktisk talt er forsvundet.

Tillidskrise i influencer-industrien

Dette rejser alvorlige spørgsmål om autenticiteten på sociale medier. Når vi ikke længere kan stole på, at mennesker på billeder rent faktisk er til stede, undermineres hele grundlaget for influencer-marketing. Brands betaler millioner for at blive associeret med personer, hvis eksistens nu skal tages på troende – eller først efterprøves med avanceret AI-detektion.

Det er blevet en våbenkapløb mellem de, der skaber falske influencere, og dem, der forsøger at afsløre dem. En våbenkapløb, hvor forbrugerne desværre ikke kan se, hvem der vinder.