Apple Revela los Límites del Razonamiento de los Modelos de Lenguaje Grandes

El nuevo artículo de Apple, "La Ilusión del Pensamiento", cuestiona las suposiciones sobre los Modelos de Lenguaje Grandes (LLMs). A través de experimentos controlados, revela un umbral crítico en el que incluso los LLMs de primer nivel fallan completamente en problemas complejos. El rendimiento no disminuye gradualmente; se desploma. Los modelos dejan de intentarlo, incluso con recursos suficientes, mostrando una falla de comportamiento en lugar de una falta de capacidad. Preocupantemente, incluso cuando están completamente equivocados, los resultados de los modelos parecen razonables, dificultando la detección de errores. La investigación destaca la necesidad de sistemas verdaderamente racionales y una comprensión más clara de las limitaciones de los modelos actuales.