基于自推理的检索增强语言模型改进

文章介绍了一种新的自推理框架，用于改进检索增强语言模型（RALM）的可靠性和可追溯性。该框架通过利用语言模型本身生成的推理轨迹，包括相关性感知、证据感知选择和轨迹分析三个过程，构建自推理轨迹，从而提高模型的性能。实验结果表明，该框架在问答和事实验证等任务上优于现有模型，甚至可以与GPT-4相媲美。