Hugging Face Spaces、ZeroGPUを発表:AIモデルの効率向上のための動的なGPU割り当て

2024-12-15

Hugging Face Spacesは、ZeroGPUを発表しました。これは、AIモデルとデモのGPU使用率を最適化するために、NVIDIA A100 GPUを動的に割り当てる共有インフラストラクチャです。ZeroGPUは、無料のGPUアクセス、マルチGPUサポートを提供し、AIモデルのデプロイの障壁を低くします。ユーザーは、Gradio Spaceの作成時にZeroGPUハードウェアを選択し、GPU依存関数を`@spaces.GPU`デコレータで修飾するだけです。ZeroGPUはPyTorchと互換性があり、Hugging Faceのtransformersとdiffusersライブラリ用に最適化されていますが、現時点ではGradio SDKでのみ動作します。個人アカウント(PROユーザー)は最大10個のZeroGPU Spaceを作成でき、組織アカウント(Enterprise Hub)は最大50個を作成できます。