نماذج لغة الانتشار المنفصلة على شكل كتل BD3-LMs: توليد نص أسرع وأكثر كفاءة
2025-05-08
تجمع نماذج BD3-LMs بذكاء بين نماذج اللغة التلقائية الانحدارية ونماذج الانتشار. من خلال نمذجة كتل الرموز بشكل تلقائي انحداري، ثم تطبيق الانتشار داخل كل كتلة، يتم تحقيق كل من الاحتمالات العالية وتوليد الطول المرن، مع الحفاظ على مزايا السرعة والتوازي لنماذج الانتشار. تعمل خوارزميات التدريب والاختبار الفعالة، التي تتطلب تمريرتين للأمام فقط، على تحسين الأداء بشكل أكبر، مما يجعلها نهجًا واعدًا لتوليد النصوص على نطاق واسع.
اقرأ المزيد
الذكاء الاصطناعي
نموذج تلقائي انحداري