Imersão no AMD Instinct MI350: Acelerador de IA baseado em GCN

Em uma entrevista, Alan Smith, arquiteto-chefe do Instinct da AMD, mergulhou nos detalhes dos novos aceleradores de IA da série MI350, baseados na arquitetura GFX9. Embora o MI350 retenha a arquitetura GFX9, melhorias significativas de desempenho são alcançadas por meio do aumento da capacidade do LDS (160 KB) e da largura de banda, juntamente com a introdução de formatos de microescala que suportam tipos de dados FP8, FP6 e FP4. Notavelmente, o FP6 e o FP4 do MI350 possuem a mesma taxa de transferência, refletindo a confiança da AMD no potencial do FP6 para treinamento e inferência. Além disso, o MI350 omite a aceleração de hardware TF32 em favor do BF16 otimizado, oferecendo emulação de software para suporte TF32. Construído com chips de computação de processo N3P e chips de E/S de processo N6, o MI350 otimiza o design e reduz as unidades de computação para atingir alto desempenho ao mesmo tempo em que reduz o consumo de energia.