OpenAIによる数学的証明：ChatGPTの幻覚はなぜ解決できないのか？

OpenAIの最新の研究論文は、ChatGPTなどの大規模言語モデルが「幻覚」（事実の捏造）を起こす理由を数学的に証明しました。これは単なる訓練方法の問題ではなく、単語予測の確率的な性質から数学的に避けられないものです。完璧なデータがあっても問題は解決しません。論文は、不確実性を罰する欠陥のある評価システムも明らかにし、モデルは知らないことを認めるよりも推測するインセンティブを受けます。OpenAIは信頼度に基づく解決策を提案していますが、ユーザーエクスペリエンスと計算コストに大きな影響を与え、消費者向けアプリケーションでは非現実的です。ビジネスインセンティブが変わるまで、大規模言語モデルの幻覚は続くでしょう。