Le goulot d'étranglement de fiabilité des LLM : quatre stratégies pour construire des produits d'IA
Cet article explore le manque de fiabilité inhérent des grands modèles de langage (LLM) et ses implications pour la construction de produits d'IA. Les sorties des LLM s'écartent souvent de manière significative du résultat souhaité, et ce manque de fiabilité est particulièrement marqué dans les tâches impliquant des actions à plusieurs étapes et l'utilisation d'outils. Les auteurs soutiennent que cette fiabilité de base est peu susceptible de changer de manière significative à court et moyen terme. Quatre stratégies pour gérer la variance des LLM sont présentées : les systèmes fonctionnant sans vérification de l'utilisateur (poursuivant le déterminisme ou une précision « suffisamment bonne »), et les systèmes intégrant des étapes de vérification explicites (vérification par l'utilisateur final ou vérification au niveau du fournisseur). Chaque stratégie présente des forces, des faiblesses et des scénarios applicables ; le choix dépend des capacités et des objectifs de l'équipe.