ModernBERT:BERTに取って代わる革命的な代替モデル

2024-12-19

Answer.AIとLightOnは、ModernBERTを発表しました。これは、速度と精度においてBERTを凌駕する、最先端のエンコーダーのみのモデルファミリーです。ModernBERTは、近年のLLM研究における多くの進歩を取り入れ、拡張されたコンテキスト長(8192トークン)、高速処理、そして様々なベンチマークにおける優れた性能を誇ります。特に強力なコード検索機能により、大規模コード検索や強化されたIDE機能などの新しいアプリケーションへの道が開かれます。ModernBERTはBERTモデルの直接的な代替品として、Hugging Faceで利用可能です。

続きを読む

Hugging Face Spaces、ZeroGPUを発表:AIモデルの効率向上のための動的なGPU割り当て

2024-12-15

Hugging Face Spacesは、ZeroGPUを発表しました。これは、AIモデルとデモのGPU使用率を最適化するために、NVIDIA A100 GPUを動的に割り当てる共有インフラストラクチャです。ZeroGPUは、無料のGPUアクセス、マルチGPUサポートを提供し、AIモデルのデプロイの障壁を低くします。ユーザーは、Gradio Spaceの作成時にZeroGPUハードウェアを選択し、GPU依存関数を`@spaces.GPU`デコレータで修飾するだけです。ZeroGPUはPyTorchと互換性があり、Hugging Faceのtransformersとdiffusersライブラリ用に最適化されていますが、現時点ではGradio SDKでのみ動作します。個人アカウント(PROユーザー)は最大10個のZeroGPU Spaceを作成でき、組織アカウント(Enterprise Hub)は最大50個を作成できます。

続きを読む