El Defecto Fatal de los LLMs: La Falta de Modelos del Mundo
Este ensayo profundiza en un defecto fundamental de los Grandes Modelos de Lenguaje (LLMs): la falta de modelos cognitivos robustos del mundo. Utilizando el ajedrez como ejemplo principal, el autor demuestra cómo los LLMs, a pesar de memorizar datos y reglas del juego, fallan en construir y mantener modelos dinámicos del estado del tablero, lo que lleva a movimientos ilegales y otros errores. Esto no es exclusivo del ajedrez; en varios dominios, desde la comprensión de historias y la generación de imágenes hasta la comprensión de vídeo, la ausencia de modelos del mundo de los LLMs resulta en alucinaciones e imprecisiones. El autor argumenta que la construcción de modelos del mundo robustos es crucial para la seguridad de la IA, destacando las limitaciones de los diseños actuales de LLMs en el manejo de escenarios complejos del mundo real e instando a los investigadores de IA a priorizar la ciencia cognitiva en el desarrollo de sistemas de IA más fiables.