Google Cloud、AIハイパーコンピューターのソフトウェアを大幅にアップデート

Google Cloudは、AIハイパーコンピューターのソフトウェアの大幅なアップデートを発表しました。これにより、AIモデルのトレーニングと推論の効率が劇的に向上します。分散型ランタイムであるPathways on CloudがGoogle Cloudで利用可能になり、弾力的なトレーニングと高スループットの推論が可能になります。Cluster DirectorはSlurmのサポートと360°の可観測性機能を追加し、高性能と信頼性を確保します。GKEはInference GatewayとInference Quickstartを統合し、推論コストの大幅な削減とスループットの向上を実現します。vLLMはTPUをサポートするようになり、推論速度がさらに向上します。Dynamic Workload Schedulerはアクセラレータのサポートを拡大し、リソースの利用率を最適化します。これらのアップデートにより、開発者はより迅速かつ費用対効果の高い方法でAIアプリケーションを構築および展開できます。