Documento de Apple expone las limitaciones del escalamiento en los grandes modelos de lenguaje

Un artículo de Apple que destaca las limitaciones en las capacidades de razonamiento de los grandes modelos de lenguaje (LLM) ha provocado un acalorado debate en la comunidad de IA. El artículo demuestra que incluso los modelos masivos tienen dificultades con tareas de razonamiento aparentemente simples, desafiando la hipótesis prevaleciente de que 'escalar resuelve todo' para lograr la Inteligencia Artificial General (AGI). Si bien surgieron algunas refutaciones, ninguna resultó convincente. El problema central, argumenta el artículo, es la falta de fiabilidad de los LLM en la ejecución de algoritmos complejos debido a las limitaciones de longitud de salida y la dependencia excesiva de los datos de entrenamiento. La verdadera AGI, sugiere el autor, requiere modelos superiores y un enfoque híbrido que combine redes neuronales con algoritmos simbólicos. La importancia del artículo radica en que impulsa una reevaluación crítica del camino de desarrollo de la AGI, revelando que el escalamiento por sí solo es insuficiente.