Por qué los LLM no usan calculadoras: Una inmersión profunda en las lagunas del razonamiento

Los Grandes Modelos de Lenguaje (LLM) fallan sorprendentemente en matemáticas básicas. Incluso cuando reconocen que se necesita un cálculo y saben que existen calculadoras, no las usan para mejorar la precisión. Este artículo analiza este comportamiento, argumentando que los LLM carecen de comprensión y razonamiento verdaderos; simplemente predicen basándose en patrones de lenguaje. El autor destaca que el éxito del LLM enmascara fallas inherentes, enfatizando la importancia de la verificación humana al confiar en los LLM para tareas cruciales. La pieza usa un clip de "The Twilight Zone" como una alegoría, advirtiendo contra el optimismo ingenuo sobre la Inteligencia Artificial General (AGI).