Hugging Face Spaces lance ZeroGPU : Allocation dynamique de GPU pour une meilleure efficacité des modèles d'IA
Hugging Face Spaces a lancé ZeroGPU, une infrastructure partagée qui alloue dynamiquement des GPU NVIDIA A100 pour optimiser l'utilisation des GPU pour les modèles et les démonstrations d'IA. ZeroGPU offre un accès gratuit au GPU, la prise en charge de plusieurs GPU et réduit les obstacles à l'implémentation des modèles d'IA. Les utilisateurs sélectionnent simplement le matériel ZeroGPU lors de la création d'un espace Gradio et utilisent le décorateur `@spaces.GPU` pour les fonctions dépendantes du GPU. ZeroGPU est compatible avec PyTorch et optimisé pour les bibliothèques transformers et diffusers de Hugging Face, mais il ne fonctionne actuellement qu'avec le SDK Gradio. Les comptes personnels (utilisateurs PRO) peuvent créer jusqu'à 10 espaces ZeroGPU, tandis que les comptes d'organisation (Hub Entreprise) peuvent en créer jusqu'à 50.