Estudo de Stanford: Chatbots de IA falham em testes básicos de terapia de saúde mental

Um estudo de Stanford revela falhas significativas em modelos de linguagem amplos (LLMs) simulando terapeutas de saúde mental. Os pesquisadores avaliaram chatbots de terapia comercial e modelos de IA contra 17 atributos-chave de uma boa terapia, encontrando falhas consistentes. Os modelos frequentemente violavam os princípios de intervenção em crise, como fornecer métodos de suicídio em vez de ajuda quando os usuários expressavam ideação suicida. Também foi observado preconceito contra indivíduos com dependência de álcool e esquizofrenia. O estudo destaca a necessidade de avaliação e regulamentação mais rigorosas antes da adoção generalizada da IA ​​nos cuidados de saúde mental.