Hugging Face Spaces lança ZeroGPU: Alocação dinâmica de GPU para maior eficiência de modelos de IA
O Hugging Face Spaces lançou o ZeroGPU, uma infraestrutura compartilhada que aloca dinamicamente GPUs NVIDIA A100 para otimizar o uso de GPU para modelos e demonstrações de IA. O ZeroGPU oferece acesso gratuito à GPU, suporte para várias GPUs e reduz as barreiras para a implantação de modelos de IA. Os usuários simplesmente selecionam o hardware ZeroGPU ao criar um espaço Gradio e usam o decorador `@spaces.GPU` para funções dependentes de GPU. O ZeroGPU é compatível com PyTorch e otimizado para as bibliotecas transformers e diffusers do Hugging Face, mas atualmente funciona apenas com o SDK Gradio. Contas pessoais (usuários PRO) podem criar até 10 espaços ZeroGPU, enquanto contas de organização (Hub empresarial) podem criar até 50.