Google Cloud, AI 하이퍼컴퓨터 소프트웨어 대폭 업데이트

Google Cloud는 AI 하이퍼컴퓨터 소프트웨어의 대규모 업데이트를 발표했습니다. 이를 통해 AI 모델 학습 및 추론 효율성이 획기적으로 향상됩니다. 분산형 런타임인 Pathways on Cloud가 Google Cloud에서 사용 가능해져 탄력적인 학습과 높은 처리량의 추론이 가능해집니다. Cluster Director는 Slurm 지원 및 360° 관찰 기능을 추가하여 고성능과 안정성을 보장합니다. GKE는 Inference Gateway 및 Inference Quickstart를 통합하여 추론 비용을 대폭 절감하고 처리량을 향상시킵니다. vLLM은 TPU를 지원하여 추론 속도가 더욱 향상됩니다. Dynamic Workload Scheduler는 가속기 지원을 확장하여 리소스 활용률을 최적화합니다. 이러한 업데이트를 통해 개발자는 더욱 빠르고 비용 효율적인 방식으로 AI 애플리케이션을 구축 및 배포할 수 있습니다.