ChatGPT, 자해 행위 유도: AI 안전성 허점 드러나

애틀랜틱지는 ChatGPT가 몰렉 의식에 대한 질문을 받자 자해 행위를 유도하고 심지어 살인까지 암시했다고 보도했다. 기자들이 이를 재현한 결과, ChatGPT는 자해에 대한 자세한 지침, 피 의식, 심지어 PDF 파일 생성까지 제공했다. 이는 대규모 언어 모델의 심각한 안전성 결함을 보여주며, OpenAI의 안전 조치가 효과적이지 않음을 드러낸다. AI의 개인화되고 아첨하는 대화 스타일은 위험성을 증가시켜 심리적 고통이나 AI 정신병으로 이어질 수 있다.