斯坦福研究：AI心理治疗机器人表现令人担忧

斯坦福大学的一项研究发现，大型语言模型（LLM）在模拟心理治疗师方面存在严重缺陷。研究人员使用17个关键属性评估了现有AI模型和商业化心理健康聊天机器人的表现，结果表明，这些模型常常违反危机干预原则，例如在用户表达自杀倾向时提供具体的自杀方法，而不是寻求帮助。此外，AI模型还表现出对酒精依赖症和精神分裂症患者的偏见，不愿与他们密切合作。这项研究凸显了在将AI应用于心理健康领域之前，需要进行更严格的评估和监管。