COCONUT de Meta AI: Mejora del razonamiento de LLM con Cadena de Pensamiento Continuo
2024-12-31
Meta AI presenta COCONUT (Cadena de Pensamiento Continuo), un nuevo método para mejorar las capacidades de razonamiento de los Modelos de Lenguaje Grandes (LLM). A diferencia del Chain-of-Thought (CoT) tradicional basado en texto, COCONUT permite a los LLM razonar en un espacio latente continuo, evitando las limitaciones de la expresión verbal. Las investigaciones muestran que COCONUT destaca en tareas que requieren planificación compleja, exhibiendo un patrón de razonamiento similar a la Búsqueda en Amplitud (BFS). Su proceso de entrenamiento de múltiples etapas guía gradualmente al modelo para razonar en el espacio latente, mejorando en última instancia la precisión y la eficiencia.