Transformadores y Mecánica Cuántica: Un parecido sorprendente
2025-02-11
Un investigador ha descubierto sorprendentes similitudes entre la arquitectura Transformer y la mecánica cuántica. Los tokens, antes de que el contexto aclare su significado, existen en un estado de superposición semántica, similar a las partículas en la mecánica cuántica. Los mecanismos de autoatención unen palabras a través de oraciones como el entrelazamiento cuántico, y los vectores de incrustación se comportan como funciones de onda de probabilidad, colapsando finalmente en interpretaciones definidas. Si bien no son perfectamente análogos, las similitudes son demasiado importantes para ignorarlas, lo que podría revelar los secretos detrás del poder de los Transformadores.
Leer más