Apple révèle les limites du raisonnement des grands modèles de langage

Le nouveau document d'Apple, "L'illusion de la pensée", remet en question les hypothèses sur les grands modèles de langage (LLM). Des expériences contrôlées révèlent un seuil critique au-delà duquel même les meilleurs LLM échouent complètement à résoudre des problèmes complexes. Les performances ne se dégradent pas progressivement ; elles s'effondrent. Les modèles arrêtent d'essayer, même avec des ressources suffisantes, montrant une défaillance comportementale plutôt qu'un manque de capacité. De manière inquiétante, même lorsqu'ils sont totalement erronés, les résultats des modèles semblent plausibles, rendant la détection d'erreur difficile. La recherche souligne la nécessité de systèmes véritablement raisonnables et d'une compréhension plus claire des limites des modèles actuels.