ModernBERT: بديل ثوري لـ BERT
2024-12-19
تقدم Answer.AI و LightOn ModernBERT، وهي عائلة من نماذج المُشفّر فقط الأحدث من نوعها والتي تتفوق على BERT من حيث السرعة والدقة. يدمج ModernBERT العديد من التطورات الحديثة في أبحاث LLM، مع طول سياق مُمتد (8192 رمزًا)، ومعالجة أسرع، وأداءً أفضل عبر معايير مُختلفة. إن قدرات استرجاع الكود القوية بشكل خاص تُفتح أبواب تطبيقات جديدة مثل البحث عن الكود على نطاق واسع وميزات IDE مُحسّنة. يعد ModernBERT بديلاً مُباشرًا لنماذج BERT وهو مُتاح على Hugging Face.