Anthropic为Claude模型推出Citations API，解决AI幻觉问题

Anthropic发布了新的Citations API，该API直接将检索增强生成（RAG）技术集成到Claude模型中，通过将模型的回复与源文档链接起来，从而减少AI模型的“幻觉”（即编造事实）问题。该功能允许开发者向Claude的上下文窗口添加文档，使模型能够自动引用其用于生成答案的特定段落。测试表明，此功能将准确召回率提高了15%。Thomson Reuters和Endex等公司已开始使用该功能，并报告了积极的结果，例如减少了源文档信息错误和提高了引用次数。虽然这项技术仍需进一步研究，但它代表了AI模型可靠性提升的重要一步。