Plongez au cœur de l'AMD Instinct MI350 : Accélérateur IA basé sur GCN

Dans une interview, Alan Smith, architecte en chef d'Instinct chez AMD, a approfondi les détails des nouveaux accélérateurs IA de la série MI350, basés sur l'architecture GFX9. Bien que le MI350 conserve l'architecture GFX9, des améliorations significatives des performances sont obtenues grâce à l'augmentation de la capacité de LDS (160 Ko) et de la bande passante, ainsi qu'à l'introduction de formats de micro-mise à l'échelle prenant en charge les types de données FP8, FP6 et FP4. Il est à noter que les FP6 et FP4 du MI350 affichent le même débit, ce qui reflète la confiance d'AMD dans le potentiel du FP6 pour l'apprentissage et l'inférence. De plus, le MI350 omet l'accélération matérielle TF32 au profit du BF16 optimisé, offrant une émulation logicielle pour la prise en charge de TF32. Construit avec des puces de calcul de processus N3P et des puces d'E/S de processus N6, le MI350 optimise la conception et réduit le nombre d'unités de calcul pour atteindre des performances élevées tout en réduisant la consommation d'énergie.