Transformers e Mecânica Quântica: Uma Semelhança Impressionante

Um pesquisador descobriu semelhanças impressionantes entre a arquitetura Transformer e a mecânica quântica. Tokens, antes que o contexto esclareça seus significados, existem em um estado de superposição semântica, semelhante às partículas na mecânica quântica. Mecanismos de autoatenção ligam palavras em frases como emaranhamento quântico, e vetores de incorporação se comportam como funções de onda de probabilidade, eventualmente colapsando em interpretações definidas. Embora não sejam perfeitamente análogos, as semelhanças são significativas demais para serem ignoradas, potencialmente revelando os segredos por trás do poder dos Transformers.