ModernBERT: BERT를 대체할 혁신적인 모델
Answer.AI와 LightOn이 ModernBERT를 선보였습니다. 속도와 정확성 면에서 BERT를 능가하는 최첨단 인코더 전용 모델 시리즈입니다. ModernBERT는 최근 LLM 연구의 여러 발전을 통합하여 확장된 컨텍스트 길이(8192 토큰), 빠른 처리 속도, 다양한 벤치마크에서 뛰어난 성능을 제공합니다. 특히 강력한 코드 검색 기능은 대규모 코드 검색 및 향상된 IDE 기능과 같은 새로운 애플리케이션으로 이어집니다. ModernBERT는 BERT 모델의 직접적인 대체 모델이며 Hugging Face에서 사용할 수 있습니다.
더 보기