L'API de citations d'Anthropic combat les hallucinations de Claude

Anthropic a lancé une nouvelle API de citations qui intègre la génération augmentée par la récupération (RAG) directement dans ses modèles Claude. Cela permet de lutter contre les hallucinations de l'IA en liant directement les réponses aux documents sources. Les développeurs peuvent ajouter des documents au contexte de Claude, ce qui lui permet de citer des passages spécifiques utilisés pour générer des réponses. Des tests internes ont montré une amélioration de 15 % de la précision du rappel. Les premiers utilisateurs, tels que Thomson Reuters et Endex, rapportent des résultats positifs, notamment une réduction des confabulations et une augmentation du nombre de références. Bien que des recherches supplémentaires soient nécessaires, cela représente une étape importante vers une IA plus fiable.