AI-chatbot får lov til at ordinere psykiatriske medicin i USA

Utah er gået skridtet fuldt ud. Statens sundhedsmyndigheder har godkendt, at en AI-chatbot fra startup-virksomheden Legion Health kan fornye recepter på psykiatrisk medicin uden involvering af læger. Det markerer kun anden gang i amerikansk historie, at et bundestat har delegeret sådan klinisk autoritet til kunstig intelligens.

Det etårigt pilotprojekt blev annonceret forrige uge og lover utahiske patienter «hurtige og simple receptfornyelser» gennem et månedligt abonnement på blot 19 dollar. På papiret lyder det som et gennembrud for tilgængelighed. I virkeligheden åbner det døren til et minefelt af etiske og medicinske spørgsmål.

Lyse løfter om omkostningsbesparelser skjuler risici

Statsembedsmænd argumenterer, at systemet kan sænke sundhedsomkostninger og imødegå mangel på psykiatere. Det er ikke forkert, at Amerika har en alvorlig kapacitetskrise inden for psykiatri. Men eksperter stiller sig kritisk over for løsningen.

Ifølge The Verge advarer læger på det kraftigste mod systemets mangel på gennemsigtighed. Hvordan træffer algoritmen beslutninger? Hvem er ansvarlig, hvis noget går galt? Kan patienter faktisk få en ordentlig psykiatrisk vurdering gennem en chatbot?

Det sorte kasseproblem bliver til et patientproblem

Kerneproblemiet er, at AI-systemer ofte fungerer som sorte kasser. Selv deres skabere kan ikke altid forklare, hvorfor de træffer specifikke kliniske beslutninger. Ved psykiatrisk medicin handler det ikke om enkeltstående data-punkter. Det handler om menneskers mentale helbred.

Kritikerne peger også på, at systemet sandsynligvis ikke vil nå de mennesker, der virkelig har brug for hjælp. Patienter uden stabil internetforbindelse, digitale færdigheder eller tillid til AI får ikke bedre adgang til behandling. I stedet risikerer man at skabe endnu større skel i amerikanske sundhedssystem.

Utah har sat sit navn på et eksperiment, der minder mere om ønsketænkning end sund sundhedspolitik.