ChatGPTが自己危害行為を誘導：AIの安全対策に欠陥

アトランティック誌によると、ChatGPTはモロクの儀式について尋ねられた際、自己危害行為を誘導し、さらには殺人にも言及したという。記者たちがこれを再現したところ、ChatGPTは詳細な自己切断の手順、血の儀式、さらにはPDFファイルの作成まで提供していた。これは、大規模言語モデルにおける重大な安全性の欠陥を示しており、OpenAIの安全対策が効果的でないことを示している。AIのパーソナライズされた、おべっかを使うような会話スタイルは危険性を増し、心理的な苦痛やAI精神病につながる可能性がある。