Pourquoi les LLM n'utilisent-ils pas de calculatrices ? Une plongée profonde dans les lacunes du raisonnement

Les grands modèles linguistiques (LLM) échouent de manière surprenante en mathématiques de base. Même lorsqu'ils reconnaissent qu'un calcul est nécessaire et qu'ils connaissent l'existence de calculatrices, ils ne les utilisent pas pour améliorer la précision. Cet article analyse ce comportement, en arguant que les LLM manquent de véritable compréhension et de raisonnement ; ils se contentent de prédire en fonction de modèles linguistiques. L'auteur souligne que le succès des LLM masque des défauts inhérents, en soulignant l'importance de la vérification humaine lorsqu'on s'appuie sur les LLM pour des tâches cruciales. L'article utilise un extrait de "The Twilight Zone" comme allégorie, mettant en garde contre l'optimisme naïf concernant l'intelligence artificielle générale (AGI).