AMD MI300X vs. Nvidia H100/H200 ベンチマーク:CUDAの優位性は依然として維持

2024-12-22

SemiAnalysisは、AMDのMI300XとNvidiaのH100およびH200について、5ヶ月間にわたる独立したベンチマークテストを実施しました。MI300Xは理論上の性能と総所有コスト(TCO)において優位性を誇っていますが、実際にはAMDの公開ソフトウェアスタックの欠陥とテスト不足により、実世界の結果は期待を大きく下回りました。AMDのソフトウェアは問題が多く、使い勝手が悪く、ほとんどのベンチマークでNvidia製品よりも性能が劣っていました。AMDのエンジニアによる改善にもかかわらず、ソフトウェアスタックは依然として未開発であり、CUDAの優位性は維持されています。この詳細な分析は、AMDのソフトウェアと競争力の向上のための具体的な推奨事項を提供しています。

続きを読む
ハードウェア GPUベンチマーク

AIスケーリング則:プリトレーニングを超えて、新たなパラダイムが登場

2024-12-12

この記事は、AIスケーリング則の進化を探求し、それがプリトレーニングを超えたものであると主張しています。OpenAIのo1モデルは、推論モデルの有用性と可能性を示し、スケーリングのための新たな、未開拓の次元を開拓しました。この記事では、合成データ、近接方策最適化(PPO)、強化学習などの手法がモデル性能の向上にどのように役立つかを詳しく説明しています。AnthropicのClaude 3.5 OpusとOpenAIのOrionは失敗ではなく、スケーリング戦略の変更であったことを明確にしています。著者らは、スケーリングはデータとパラメーターの増加だけにとどまらず、推論時間計算、より困難な評価、トレーニングと推論アーキテクチャの革新を含むことを強調しています。

続きを読む