QB64 搜索技巧 核手提箱 文字记录 海洋云增白 开源地图 Bliss AI 搜索答案 深海沉船 自由职业 policy 小团队 颈挂空调 Chumby 个人电脑 极端主义 团队 世界 PostgreSQL AI工具 证券 DirectX 防溢 DrawingPics Zulip 儿童读物 化学 连续滚动 代码审查 三菱电机 更多

SaySelf: 教导大型语言模型通过自我反思的推理来表达置信度 (arxiv.org)

原文: [2405.20974] SaySelf: Teaching LLMs to Express Confidence with Self-Reflective Rationales

大型语言模型 (LLM) 经常生成不准确或虚构的信息，并且通常无法表明其置信度，这限制了它们的广泛应用。这篇论文介绍了 SaySelf，一个训练框架，可以教导 LLM 表达更准确的细粒度置信度估计。除了置信度得分之外，SaySelf 还启动了指导 LLM 生成自我反思性推理的过程，这些推理可以清楚地识别其参数知识中的差距并解释其不确定性。