注釈付きTransformer:一行ずつ実装

2025-08-26

このドキュメントは、Transformer論文の注釈付き、一行ごとのPyTorch実装を提供します。元の論文からいくつかのセクションを並べ替え、削除し、全体を通してコメントを追加しています。このノートブックは、完全で実行可能な実装を提供し、Transformerアーキテクチャ(エンコーダー、デコーダー、アテンション、位置エンコーディングなど)、トレーニングプロセス、そして現実世界の例(Multi30kドイツ語-英語翻訳)を説明しています。

続きを読む
開発