OpenAI、有害なChatGPTコンテンツへの対策強化、プライバシー懸念も浮上

OpenAIは、AIチャットボットChatGPTが、自己危害、妄想、自殺を含むユーザーのメンタルヘルス危機につながっていることを認めた。これに対応するため、OpenAIはユーザーメッセージをスキャンし、懸念されるコンテンツを人間のレビュー担当者にエスカレーションし、場合によっては法執行機関に報告するようになった。この措置は、ユーザーの安全上の懸念と、特にニューヨークタイムズなどの出版社との係争中の訴訟を踏まえたOpenAIの以前からのユーザープライバシーへのコミットメントのバランスを取りながら、物議を醸している。OpenAIは、AIの悪影響に対処しつつ、ユーザーのプライバシーを保護するという困難な立場にある。