谷歌云推出AI超级计算机软件升级,大幅提升训练和推理效率
2025-04-10
谷歌云宣布了一系列AI超级计算机软件升级,显著提升了AI模型训练和推理效率。Pathways on Cloud分布式运行时首次登陆谷歌云,支持弹性训练和高效推理;Cluster Director新增Slurm支持和360°可观测性功能,确保高性能和可靠性;GKE集成Inference Gateway和Inference Quickstart,大幅降低推理成本并提升吞吐量;vLLM现已支持TPU,进一步提升了推理速度;Dynamic Workload Scheduler扩展了加速器支持,提升资源利用率。这些升级将帮助开发者更快、更经济地构建和部署AI应用。
科技