AMD Instinct MI350 深堀り：GCNベースのAIアクセラレータ

AMDのInstinctアーキテクトチーフであるAlan Smith氏がインタビューを受け、GFX9アーキテクチャに基づく新型MI350シリーズAIアクセラレータの詳細を説明しました。MI350はGFX9アーキテクチャを採用していますが、LDS容量の増加（160KB）と帯域幅の向上、FP8、FP6、FP4データ型をサポートするマイクロスケーリングフォーマットの導入により、大幅な性能向上を実現しています。特に注目すべきは、MI350のFP6とFP4が同じスループットであることで、これはAMDがFP6のトレーニングと推論の両方における可能性に自信を持っていることを示しています。さらに、MI350はTF32ハードウェアアクセラレーションを省略し、最適化されたBF16を採用しており、TF32をサポートするためのソフトウェアエミュレーションを提供しています。N3PプロセスコンピューティングチップとN6プロセスI/Oチップで構築されたMI350は、設計を最適化し、演算ユニット数を削減することで、電力消費を削減しながら高性能を実現しています。