RAG：炒作过度的生成式AI模式？

近年来，检索增强生成模型（RAG）在生成式AI领域掀起热潮。然而，本文作者认为，RAG在高风险、受监管行业中的应用存在严重缺陷。RAG的核心问题在于其将LLM的输出直接呈现给用户，这导致用户暴露于LLM的幻觉风险。作者认为，RAG更适合低风险应用，例如假期政策查询等，而在高风险场景下，语义解析等技术是更安全可靠的选择。RAG的流行是多种因素共同作用的结果，包括易于开发、大量融资、行业影响力以及对现有搜索技术的改进。但作者强调，在高风险场景下，必须避免直接依赖LLM的输出，确保数据的可靠性和安全性。