Profundizando en el AMD Instinct MI350: Acelerador de IA basado en GCN

En una entrevista, Alan Smith, arquitecto jefe de Instinct de AMD, profundizó en los detalles de los nuevos aceleradores de IA de la serie MI350, basados en la arquitectura GFX9. Si bien el MI350 conserva la arquitectura GFX9, se logran mejoras significativas en el rendimiento mediante el aumento de la capacidad de LDS (160 KB) y el ancho de banda, junto con la introducción de formatos de microescala que admiten tipos de datos FP8, FP6 y FP4. Cabe destacar que el FP6 y el FP4 del MI350 tienen el mismo rendimiento, lo que refleja la confianza de AMD en el potencial del FP6 tanto para entrenamiento como para inferencia. Además, el MI350 omite la aceleración de hardware TF32 en favor del BF16 optimizado, ofreciendo emulación de software para admitir TF32. Construido con chips de computación de proceso N3P y chips de E/S de proceso N6, el MI350 optimiza el diseño y reduce las unidades de computación para lograr un alto rendimiento al tiempo que reduce el consumo de energía.