Hugging Face Spaces, ZeroGPU 출시: AI 모델 효율 향상을 위한 동적 GPU 할당
2024-12-15
Hugging Face Spaces는 AI 모델 및 데모의 GPU 사용률을 최적화하기 위해 NVIDIA A100 GPU를 동적으로 할당하는 공유 인프라인 ZeroGPU를 출시했습니다. ZeroGPU는 무료 GPU 접근, 멀티 GPU 지원을 제공하며 AI 모델 배포의 장벽을 낮춥니다. 사용자는 Gradio Space 생성 시 ZeroGPU 하드웨어를 선택하고 GPU 종속 함수에 `@spaces.GPU` 데코레이터를 사용하기만 하면 됩니다. ZeroGPU는 PyTorch와 호환되며 Hugging Face의 transformers 및 diffusers 라이브러리에 최적화되어 있지만 현재로서는 Gradio SDK에서만 작동합니다. 개인 계정(PRO 사용자)은 최대 10개의 ZeroGPU Space를 생성할 수 있으며, 조직 계정(Enterprise Hub)은 최대 50개를 생성할 수 있습니다.
AI
GPU 할당