Anthropic、幻覚対策でClaudeモデルに引用APIを追加

Anthropicは、Claudeモデルに検索拡張生成（RAG）を直接統合する新しい引用APIを発表しました。これは、モデルの回答をソースドキュメントに直接リンクすることで、AIの「幻覚」（事実の捏造）問題に対処します。開発者はClaudeのコンテキストウィンドウにドキュメントを追加でき、モデルは回答生成に使用した特定の箇所を自動的に引用できます。内部テストでは、正確な再現率が15％向上しました。Thomson ReutersやEndexなどの企業はすでにこの機能を使用しており、誤情報の減少や参照数の増加などのポジティブな結果を報告しています。さらなる研究が必要ですが、これはより信頼性の高いAIに向けた重要な一歩です。