ChatGPTの幻覚がOpenAIに対する新たなプライバシー訴訟を引き起こす

OpenAIは、ChatGPTが虚偽情報をでっち上げる傾向があるとして、ヨーロッパで新たなプライバシー訴訟に直面しています。Noybは、ChatGPTによって2人の子供を殺害し、3人目の子供を殺害しようとしたと誤って非難されたノルウェーのユーザーを支援しています。これは、LLMの「幻覚」のリスクと、GDPRの正確性に関する要件を浮き彫りにしています。OpenAIはプロンプトのブロックなどの対策を提供していますが、GDPRの訂正権の観点からは不十分です。この訴訟は、年間売上高の最大4%に相当する罰金につながる可能性があり、OpenAIにAI製品の修正を余儀なくさせ、業界全体に影響を与えるでしょう。