Google Cloud presenta importantes actualizaciones de software para AI Hypercomputer
Google Cloud anunció actualizaciones significativas en el software de su AI Hypercomputer, mejorando drásticamente la eficiencia del entrenamiento e inferencia de modelos de IA. Pathways on Cloud, un tiempo de ejecución distribuido, ahora está disponible en Google Cloud, permitiendo entrenamiento elástico e inferencia de alto rendimiento. Cluster Director agrega soporte para Slurm y funciones de observabilidad 360° para alto rendimiento y confiabilidad. GKE integra Inference Gateway e Inference Quickstart, reduciendo significativamente los costos de inferencia y aumentando el rendimiento. vLLM ahora admite TPUs, acelerando aún más la inferencia. Dynamic Workload Scheduler amplía el soporte para aceleradores, optimizando la utilización de recursos. Estas actualizaciones permiten a los desarrolladores crear e implementar aplicaciones de IA más rápido y de manera más económica.