تشغيل نماذج اللغات الكبيرة محليًا: دليل للمطورين
2024-12-29
يشارك مطورٌ تجربته في تشغيل نماذج اللغات الكبيرة (LLMs) على جهاز كمبيوتر شخصي. باستخدام جهاز ذي مواصفات عالية (معالج i9، وحدة معالجة رسومات 4090، وذاكرة وصول عشوائي 96 جيجابايت)، بالإضافة إلى أدوات مفتوحة المصدر مثل Ollama و Open WebUI، تمكن من تشغيل العديد من نماذج LLMs بنجاح لمهام مثل إكمال الكود واستعلام الملاحظات. وتفصل المقالة تفاصيل الأجهزة، والبرامج، والنماذج المستخدمة، وطرق التحديث، مع تسليط الضوء على مزايا أمان البيانات وانخفاض وقت الاستجابة لتشغيل LLMs محليًا.
اقرأ المزيد