Hugging Face Spaces führt ZeroGPU ein: Dynamische GPU-Zuweisung für effizientere KI-Modelle
Hugging Face Spaces hat ZeroGPU eingeführt, eine geteilte Infrastruktur, die NVIDIA A100 GPUs dynamisch zuweist, um die GPU-Auslastung für KI-Modelle und Demos zu optimieren. ZeroGPU bietet kostenlosen GPU-Zugriff, Multi-GPU-Unterstützung und senkt die Einstiegshürde für die Bereitstellung von KI-Modellen. Benutzer wählen einfach die ZeroGPU-Hardware bei der Erstellung eines Gradio-Spaces und verwenden den `@spaces.GPU`-Dekorator für GPU-abhängige Funktionen. ZeroGPU ist mit PyTorch kompatibel und für die Hugging Face-Bibliotheken transformers und diffusers optimiert, funktioniert aber derzeit nur mit dem Gradio SDK. Private Konten (PRO-Abonnenten) können maximal 10 ZeroGPU-Spaces erstellen, Organisationskonten (Enterprise Hub) maximal 50.