تشغيل نماذج اللغات الكبيرة محليًا: الخصوصية، والتكلفة، والتجريب
2025-03-11
تتناول هذه المقالة مزايا و طرق تشغيل نماذج اللغات الكبيرة (LLMs) محليًا. على الرغم من الاعتراف بأن أداء نماذج LLMs المحلية لن يضاهي خدمات السحابة، إلا أن الكاتب يبرز مزاياها من حيث الخصوصية، ومراقبة التكاليف، والتطوير التجريبي. يتم تقديم ثلاث أدوات: Ollama (سهلة الاستخدام، مكتبة واسعة من النماذج)، Llama.cpp (متعددة المنصات، قوية)، و Llamafiles (ملف واحد قابل للتنفيذ، سهل المشاركة). تغطي المقالة أيضًا جوانب مهمة مثل اختيار النماذج، والمعلمات، والكمية، وقدرات النموذج، مع التحذير من أحجام ملفات النموذج والأمن. في النهاية، يوفر تشغيل نماذج LLMs محليًا للمطورين نهجًا مرنًا وقابل للتحكم في تطوير الذكاء الاصطناعي.