ModernBERT: Un reemplazo revolucionario para BERT
2024-12-19
Answer.AI y LightOn presentan ModernBERT, una familia de modelos de última generación solo de codificador que superan a BERT en velocidad y precisión. ModernBERT incorpora numerosos avances de la investigación reciente de LLM, con una longitud de contexto extendida (8192 tokens), procesamiento más rápido y un rendimiento superior en varios puntos de referencia. Sus capacidades de recuperación de código particularmente sólidas desbloquean nuevas aplicaciones como la búsqueda de código a gran escala y funciones de IDE mejoradas. ModernBERT es un reemplazo directo para los modelos BERT y está disponible en Hugging Face.
IA