Por qué los LLMs fallan en creatividad: el problema de la sorpresa
Los grandes modelos de lenguaje (LLMs) tienen dificultades con la comedia, el arte, el periodismo, la investigación y la ciencia porque están fundamentalmente diseñados para evitar sorpresas. El autor argumenta que el humor, las buenas historias y las investigaciones impactantes dependen de elementos sorprendentes que, en última instancia, son inevitables en retrospectiva. Los LLMs, entrenados para predecir la siguiente palabra, minimizan la sorpresa, lo que resulta en una salida predecible y poco inspirada. Mejorar los LLMs requiere un cambio hacia una arquitectura impulsada por la curiosidad que busque activamente e interprete verdades sorprendentes, en lugar de simplemente evitarlas.
Leer más