Transformateur Annoté : Implémentation Ligne par Ligne

Ce document présente une implémentation annotée, ligne par ligne en PyTorch, de l’article sur le Transformateur. Il réorganise et supprime certaines sections de l’article original et ajoute des commentaires tout au long du processus. Le notebook fournit une implémentation complète et exécutable, expliquant l’architecture du Transformateur (encodeur, décodeur, attention, encodage positionnel, etc.), le processus d’apprentissage et un exemple concret (traduction allemand-anglais Multi30k).