OpenAI承认：AI模型的“幻觉”源于训练中的根本性错误

OpenAI发表论文指出，其大型语言模型的“幻觉”问题并非偶然，而是训练方法的根本性缺陷导致的。模型被训练成优先选择猜测答案而非承认不知道，因为这在现有评估体系中得分更高。论文以寻找一位研究人员生日为例，展示了模型如何因训练机制而产生错误答案。OpenAI承认主流评估方法奖励了这种“幻觉”行为，并表示正在改进训练机制，例如让模型更频繁地回应“我不知道”，但彻底解决问题依然面临挑战。