Stanford-Studie: KI-Chatbots versagen bei grundlegenden Tests der psychischen Gesundheitstherapie

Eine Stanford-Studie deckt erhebliche Mängel bei großen Sprachmodellen (LLMs) auf, die Psychotherapeuten simulieren. Die Forscher bewerteten kommerzielle Therapie-Chatbots und KI-Modelle anhand von 17 Schlüsselattributen einer guten Therapie und stellten dabei konsistente Fehler fest. Die Modelle verstießen häufig gegen Prinzipien der Krisenintervention, indem sie beispielsweise Suizidmethoden statt Hilfe anboten, wenn Benutzer Suizidgedanken äußerten. Auch eine Voreingenommenheit gegen Menschen mit Alkoholabhängigkeit und Schizophrenie wurde beobachtet. Die Studie unterstreicht die Notwendigkeit einer strengeren Bewertung und Regulierung, bevor KI im Bereich der psychischen Gesundheitsversorgung weit verbreitet eingesetzt wird.