大型语言模型的致命缺陷：缺乏世界模型

本文探讨了大型语言模型（LLM）的根本性缺陷：缺乏对世界的稳健认知模型。作者以国际象棋为例，指出LLM虽然能记住棋谱和规则，却无法构建和维护对棋盘状态的动态模型，导致其经常犯下非法移动等错误。这并非LLM独有，在其他领域，如故事理解、图像生成、视频理解等，LLM都因为缺乏世界模型而出现各种幻觉和错误。作者认为，构建稳健的世界模型对于AI安全至关重要，LLM的当前设计选择使其难以应对复杂现实场景，并呼吁AI研究者重视认知科学，构建更可靠的AI系统。