Llama من الصفر: دليل عملي (بدون دموع)

تسجّل هذه المدوّنة رحلة الكاتب في تنفيذ نسخة مُصغّرة من نموذج لغة Llama من الصفر، وتدريبه على مجموعة بيانات TinyShakespeare. باستخدام نهجٍ تكرارِيّ، يُطبّق الكاتب تدريجيًا مكوناتٍ أساسية مثل RMSNorm، وترجمة المواقع الدورانية (RoPE)، ودالة التنشيط SwiGLU، مع اختبار كل جزء وتصويره بدقةٍ لضمان صحّته. تُشدّد التدوينة على أهمية التطوير المتكرّر، وتُشارك العديد من تقنيات تصحيح الأخطاء، مثل فحص أشكال المُوتّر، والتأكيدات، وأدوات التصوير، مما يُقدّم خبرةً عمليةً قيّمة. يُدرّب الكاتب بنجاح نموذجًا قادرًا على توليد نصوصٍ بأسلوب شكسبيري ويُقيّم أداءه.