大型语言模型发展已现瓶颈 (garymarcus.substack.com)

Gary Marcus再次强调大型语言模型（LLM）的扩展效应正在减弱，投资回报率递减。知名风险投资家Marc Andreesen和行业期刊《The Information》的编辑Amir Efrati也证实了这一观点。Marcus认为，单纯依靠扩大数据和算力无法解决LLM的根本缺陷，如“幻觉”和缺乏抽象能力。他警告说，LLM的经济效益可能不佳，因为高昂的训练成本和日益激烈的竞争将导致利润下降。过度依赖LLM的现状也对美国AI政策和投资策略产生了负面影响，其他AI研究方向的资金投入不足。Marcus呼吁重新审视AI发展方向，寻求更可靠、可信的AI解决方案。