知性の幻想：AI、インタラクション、そして賢いハンス効果
2024-12-15
本論文は、特に大規模言語モデル（LLM）におけるAIの知性の性質を探求しています。LLMの見かけの知性は、独立した推論によるものではなく、ユーザーとのインタラクションから生じると主張しています。ソクラテスの問答法、賢いハンス効果、そしてLLMの反復的なプロンプトとの類似点を引き出すことで、著者は知性が、孤立した認知ではなく、協調から生じる関係的な現象であることを示しています。LLMは、トレーニングデータ内の確率的関係に基づいて応答を生成し、ユーザーのプロンプトに賢いハンスがハンドラーの手がかりに応答したように応答します。したがって、AIの価値は、その固有の「知識」ではなく、洞察力のある質問を促進し、協調的な探求を促進する能力にあり、最終的には人間の創造性と問題解決能力を高めます。
AI
創発的知性