Hugging Face Spaces 推出 ZeroGPU：动态 GPU 分配提升 AI 模型效率
2024-12-15
Hugging Face Spaces 推出了 ZeroGPU，这是一个动态分配 NVIDIA A100 GPU 的共享基础设施，旨在优化 AI 模型和演示的 GPU 使用效率。ZeroGPU 支持免费 GPU 访问、多 GPU 支持，并能有效降低开发和部署 AI 模型的门槛。用户只需在创建 Gradio 空间时选择 ZeroGPU 硬件，并使用 `@spaces.GPU` 装饰器标记 GPU 相关函数即可。ZeroGPU 与 PyTorch 兼容，并针对 Hugging Face 的 transformers 和 diffusers 库进行了优化，但目前仅限于 Gradio SDK。个人账户（PRO 用户）最多可创建 10 个 ZeroGPU 空间，组织账户（企业版）最多可创建 50 个。
2