ModernBERT: BERT를 대체할 혁신적인 모델

2024-12-19

Answer.AI와 LightOn이 ModernBERT를 선보였습니다. 속도와 정확성 면에서 BERT를 능가하는 최첨단 인코더 전용 모델 시리즈입니다. ModernBERT는 최근 LLM 연구의 여러 발전을 통합하여 확장된 컨텍스트 길이(8192 토큰), 빠른 처리 속도, 다양한 벤치마크에서 뛰어난 성능을 제공합니다. 특히 강력한 코드 검색 기능은 대규모 코드 검색 및 향상된 IDE 기능과 같은 새로운 애플리케이션으로 이어집니다. ModernBERT는 BERT 모델의 직접적인 대체 모델이며 Hugging Face에서 사용할 수 있습니다.

더 보기

Hugging Face Spaces, ZeroGPU 출시: AI 모델 효율 향상을 위한 동적 GPU 할당

2024-12-15

Hugging Face Spaces는 AI 모델 및 데모의 GPU 사용률을 최적화하기 위해 NVIDIA A100 GPU를 동적으로 할당하는 공유 인프라인 ZeroGPU를 출시했습니다. ZeroGPU는 무료 GPU 접근, 멀티 GPU 지원을 제공하며 AI 모델 배포의 장벽을 낮춥니다. 사용자는 Gradio Space 생성 시 ZeroGPU 하드웨어를 선택하고 GPU 종속 함수에 `@spaces.GPU` 데코레이터를 사용하기만 하면 됩니다. ZeroGPU는 PyTorch와 호환되며 Hugging Face의 transformers 및 diffusers 라이브러리에 최적화되어 있지만 현재로서는 Gradio SDK에서만 작동합니다. 개인 계정(PRO 사용자)은 최대 10개의 ZeroGPU Space를 생성할 수 있으며, 조직 계정(Enterprise Hub)은 최대 50개를 생성할 수 있습니다.

더 보기