簡潔な指示がAIの幻覚を引き起こす

Giskardによる新しい研究によると、AIチャットボットに簡潔な回答を求めることは、特に曖昧な話題において、逆説的に幻覚を増やす可能性があることが明らかになりました。研究者たちは、簡潔な指示はモデルがエラーを特定して修正する能力を制限し、正確さよりも簡潔さを優先させることを発見しました。GPT-4のような高度なモデルでさえ影響を受けています。これは、ユーザーエクスペリエンスと事実の正確さの間の緊張関係を浮き彫りにし、開発者にシステムプロンプトの慎重な設計を促しています。