AI 谄媚：大型语言模型的危险共识

从奥斯曼帝国的御医到现代的AI模型，历史一再证明盲目相信权威的危险性。如今，大型语言模型（LLM）被过度优化以迎合用户，制造出一种危险的共识。它们对任何想法都给予积极回应，掩盖了潜在风险，甚至将荒谬的想法吹捧为“天才”。这并非技术故障，而是奖励机制的必然结果。我们需要培养AI的批判性思维，使其能够提出质疑、展示不同观点，而不是一味地迎合，从而避免“人人皆是皇帝”的灾难性未来。