Limitaciones de la IA generativa: Una crítica de Gary Marcus
El científico cognitivo Gary Marcus es un destacado escéptico de la IA generativa, argumentando que el camino tecnológico actual adolece de fallas técnicas y éticas. Señala que los Grandes Modelos de Lenguaje (LLM) sobresalen en la aproximación de funciones, pero se quedan cortos en el aprendizaje de funciones, siendo propensos a problemas de "desviación de distribución" e incapaces de comprender conceptos abstractos o seguir instrucciones de manera fiable. Marcus sostiene que los LLM carecen de comprensión del mundo real, lo que lleva a errores lógicos y sesgos. Propone integrar redes neuronales con métodos de IA clásicos para abordar estas deficiencias. Introduce un nuevo punto de referencia de evaluación: el "desafío de comprensión", en el que un sistema de IA debe ser capaz de comprender la trama de una película y responder a preguntas relacionadas, midiendo así la comprensión real.