ModernBERT: Uma substituição revolucionária para o BERT

2024-12-19

A Answer.AI e a LightOn apresentam o ModernBERT, uma família de modelos somente de codificador de última geração que superam o BERT em velocidade e precisão. O ModernBERT incorpora vários avanços da pesquisa recente de LLMs, possuindo um comprimento de contexto estendido (8192 tokens), processamento mais rápido e desempenho superior em vários benchmarks. Suas capacidades de recuperação de código particularmente fortes desbloqueiam novos aplicativos, como pesquisa de código em larga escala e recursos aprimorados de IDE. O ModernBERT é uma substituição direta para modelos BERT e está disponível no Hugging Face.