AMD 인스팅트 MI350 심층 분석: GCN 기반 AI 가속기

AMD의 수석 인스팅트 아키텍트인 Alan Smith가 인터뷰에서 GFX9 아키텍처 기반의 새로운 MI350 시리즈 AI 가속기에 대한 자세한 내용을 설명했습니다. MI350은 GFX9 아키텍처를 유지하지만, LDS 용량 증가(160KB) 및 대역폭 향상, FP8, FP6, FP4 데이터 유형을 지원하는 마이크로 스케일링 형식 도입을 통해 상당한 성능 향상을 달성했습니다. 특히 MI350의 FP6과 FP4가 동일한 처리량을 제공하는 점은 AMD가 FP6의 훈련 및 추론 모두에서의 잠재력에 대한 자신감을 보여줍니다. 또한 MI350은 TF32 하드웨어 가속을 생략하고 최적화된 BF16을 사용하며, TF32 지원을 위한 소프트웨어 에뮬레이션을 제공합니다. N3P 공정 컴퓨팅 칩과 N6 공정 I/O 칩으로 구축된 MI350은 설계를 최적화하고 연산 유닛 수를 줄여 전력 소비를 줄이면서 고성능을 달성합니다.