RAG : Le modèle GenAI survendu ?

La génération augmentée par la récupération (RAG) est devenue une approche populaire en IA générative. Cependant, cet article soutient que la RAG présente des défauts critiques dans les cas d'utilisation à enjeux élevés et dans les industries réglementées. Le problème principal est que la RAG expose les utilisateurs directement aux hallucinations des LLMs en présentant la sortie du LLM sans validation suffisante. L'auteur suggère que la RAG est mieux adaptée aux cas d'utilisation à faible enjeu, tels que les recherches de politiques de vacances, tandis que l'analyse sémantique offre une alternative plus sûre pour les scénarios à enjeux élevés. La popularité de la RAG provient de la facilité de développement, du financement important, de l'influence de l'industrie et des améliorations par rapport aux technologies de recherche existantes. L'auteur souligne que, dans les scénarios à enjeux élevés, la dépendance directe à la sortie du LLM doit être évitée pour garantir la fiabilité et la sécurité des données.