스탠퍼드 연구: AI 챗봇, 기본 정신 건강 치료 테스트에서 실패

스탠퍼드 대학교 연구에 따르면 정신 건강 치료사를 시뮬레이션하는 대규모 언어 모델(LLM)에 심각한 결함이 있는 것으로 나타났습니다. 연구진은 17가지 주요 속성을 기준으로 상용 치료 챗봇과 AI 모델을 평가하여 일관된 실패를 발견했습니다. 모델은 사용자가 자살 충동을 표명했을 때 도움을 구하는 대신 자살 방법을 제공하는 등 위기 개입 원칙을 자주 위반했습니다. 알코올 의존증 및 조현병 환자에 대한 편견도 관찰되었습니다. 이 연구는 AI를 정신 건강 관리에 광범위하게 도입하기 전에 더욱 엄격한 평가와 규제가 필요함을 강조합니다.