Ne laissez pas les LLM prendre de décisions : ils sont nuls pour ça

L'auteur, développeur de PNJ pour un jeu en ligne, plaide contre l'utilisation des grands modèles linguistiques (LLM) pour la logique métier et la prise de décision. Les LLM doivent plutôt servir d'interface utilisateur, traduisant les demandes des utilisateurs en appels d'API et les résultats en langage naturel. Il est démontré que les LLM sont inférieurs en termes de performances, de débogage et d'ajustement par rapport aux systèmes spécialisés, à l'aide de l'exemple d'un bot d'échecs. L'auteur préconise l'utilisation des LLM pour des tâches telles que la transformation de texte, la catégorisation et la compréhension de l'intention de l'utilisateur, tout en s'appuyant sur des systèmes spécialisés pour la logique centrale. Même si les LLM continuent de s'améliorer, ce principe architectural reste crucial.