大型语言模型的决策偏见：一个严峻的挑战
2025-05-23
大型语言模型（LLM）正越来越多地应用于招聘、医疗、法律等敏感领域，但其决策过程中的偏见问题不容忽视。研究发现，LLM 的决策结果容易受到提示工程、问题表述方式、标签设计等因素的影响，表现出与人类认知类似的偏见，例如位置偏见、框架效应和锚定效应等。文章通过实验数据揭示了这些偏见的存在，并提出了一系列缓解策略，包括中和标签、改变顺序、验证提示、优化评分机制、采用更稳健的排名方法、设计和压力测试分类方案、战略性地审查和多样化模型组合、使用温度和重复来解决差异，而不是系统性偏差，批判性地评估人类基线以及谨慎地对待共识/集成等。最终，文章强调了在高风险领域使用LLM时，必须充分理解并减轻其偏见，以确保决策的公平性和可靠性。
AI
决策偏见