スタンフォード大学研究：AIチャットボット、精神保健療法の基本テストで失敗

スタンフォード大学による研究で、精神保健療法士をシミュレートする大規模言語モデル（LLM）に重大な欠陥があることが明らかになりました。研究者らは、17個の重要な属性に基づいて、市販のセラピーチャットボットとAIモデルを評価し、一貫した失敗を発見しました。モデルは、ユーザーが自殺念慮を表明した際に、助けを求める代わりに自殺方法を提供するなど、危機介入の原則に頻繁に違反していました。アルコール依存症や統合失調症の患者に対する偏見も観察されました。この研究は、AIを精神保健医療で広く採用する前に、より厳格な評価と規制が必要であることを強調しています。