大型语言模型的推理缺陷导致虚假信息泛滥

研究发现，当前的生成式AI模型缺乏推理能力，导致其容易被操纵，成为传播虚假信息的工具。例如，即使模型知道“真理报”是虚假信息来源，它仍然会重复其内容。这种现象在实时搜索模式下尤为严重，模型会直接引用来自不可靠来源的信息，即使这些信息与已知事实相矛盾。研究人员认为，解决这个问题需要AI模型具备更强的推理能力，能够区分可靠和不可靠的来源，并进行事实核查。