LLMの致命的な欠陥：世界モデルの欠如

この記事では、大規模言語モデル（LLM）の根本的な欠陥、つまり世界に対する堅牢な認知モデルの欠如について論じています。チェスを主要な例として使用して、著者は、LLMがゲームデータとルールを記憶しているにもかかわらず、盤面の状態の動的なモデルを構築および維持することに失敗し、違法な動きやその他のエラーにつながることを示しています。これはチェスに特有のものではなく、物語の理解、画像生成、ビデオの理解など、さまざまな分野で、LLMの世界モデルの欠如が幻覚や不正確さをもたらします。著者は、堅牢な世界モデルの構築がAIの安全性にとって極めて重要であると主張し、複雑な現実世界のシナリオを処理する上で現在のLLM設計の限界を強調し、より信頼性の高いAIシステムの開発において認知科学を優先するようAI研究者に促しています。