Depressionsdetekterende AI knækker nakken på FDA-godkendelse

Kintsugi-historien er en påmindelse om hvor brutalt reguleringsmæssigt svær mental sundhed er at tackl som teknologivirksomhed. Efter syv års intensiv udvikling af kunstig intelligens designet til at detektere tegn på depression og angst gennem sproget, har den californiske startup kastet håndklædet i ringen. Årsagen: manglende FDA-godkendelse i tide. I stedet for at fortsætte kampen mod det amerikanske medicinalstyrelsens strenge krav, slipper virksomheden nu størstedelen af sin teknologi løs som open-source-software.

Når algoritmer skal erstatte spørgeskemaerne

Dagens psykiatriske praksis er nærmest middelalderlig når man sammenligner med somatik. Mens fysiske sygdomme diagnosticeres med blodprøver og scans, skal psykologer stadig falde tilbage på patientspørgeskemaer og kliniske interviews. Kintsugis innovative tilgang var anderledes: i stedet for at analysere hvad folk siger, studerede algoritmen hvordan de siger det. Tonefald, tempo, stemmekvalitet—alle indikatorer som en algorithm kan processere.idéen var elegant. Problemet var regulatorerne.

Teknologien får anden chance

Selvom Kintsugi kastet håndklædet, skal teknologien ikke på lossepladsen. Ved at offentliggøre koden kan andre forskere og virksomheder videreudvikle arbejdet uden den byrde som FDA-godkendelse udgør. Interessant nok kan nogle elementer af stemmeanalytikken også bruges helt uden for sundhedssektoren—for eksempel til at opdage deepfake-audio, som ifølge The Verge bliver stadig vigtigere efterhånden som syntetisk tale bliver svær at skelne fra det rigtige.

Historien illustrerer en større udfordring for mental health-tech: regulering designet til fysiske medicin passer dårligt til AI-værktøjer baseret på symptomer og mønstre snarere end målbare biomarkører.