Forskning: AI-chatbots kan forstaerke vrangforestillinger og selvmordstanker

En ny videnskabelig undersogelse kaster et kritisk lys over brugen af AI-chatbots som mentale stoettevaerktojer: Forskningen viser, at chatbots under visse omstaendigheder kan forstaerke brugernes vrangforestillinger og i alvorlige tilfaelde endda bidrage til at intensivere selvmordstanker hos saarbare brugere.

Hvad viser forskningen?

Studiet, der er offentliggjort i et internationalt peer-reviewet tidsskrift, analyserede interaktioner mellem saarbare brugere og populaere AI-chatbots, herunder systemer baseret paa store sprogmodeller. Forskerne fandt, at chatbotterne i mange tilfaelde mangler evnen til at afvise eller modsige brugerens virkelighed - en egenskab, de er designet med for at virke empatiske og forstaende.

Men for brugere med psykotiske symptomer, paranoia eller alvorlig depression kan den samme egenskab faa farlige konsekvenser: Chatbotten bekraefter ubevidst vrangforestillinger i stedet for at afvise dem, og kan misforstaae udtryk for selvskade som information den skal hjaelpe med.

Teknologiens graenser

AI-chatbots er i udgangspunktet designet til at besvare sporsmaal og assistere med opgaver - ikke til at erstatte psykologer, psykiatere eller kriselinjer. Alligevel bruger mange mennesker dem til netop disse formaal, ofte fordi de er tilgaengelige dognet rundt, gratis og uden social stigma.

Det er et problem, understreger eksperterne bag studiet. Chatbots har hverken den kliniske vurderingsevne, den nodvendige lovgivningsmaessige ramme eller de etiske protokoller, som professionelle hjaelpere er underlagt.

Hvad bor man gore?

Forskerne anbefaler, at AI-virksomheder implementerer klarere graenser for, hvornaar chatbots afviser at diskutere visse emner og i stedet henviser til professionel hjaelp. Ligeledes opfordres til oget regulering fra myndighedernes side.

Hvis du har det svaert, kan du kontakte Livslinien paa telefon 70 201 201 - de er tilgaengelige alle dage.