نماذج لغوية كبيرة سهلة الاستخدام في المنزل مع NixOS وWSL
2025-04-11
تشرح هذه المشاركة إعدادًا لتشغيل نماذج اللغات الكبيرة (LLMs) بسهولة على مختبر منزلي باستخدام NixOS ضمن نظام Windows الفرعي لنظام Linux (WSL). تغلب الكاتب على تحديات مثل قفل VRAM، وإغلاق WSL التلقائي، ومشاكل برامج تشغيل Nvidia. باستخدام Ollama وNvidia Container Toolkit وإدارة التكوين من NixOS، حقق تحديثات أوتوماتيكية وإعادة بناء سهلة للنظام. يغطي الدليل الحفاظ على تشغيل WSL، وتثبيت NixOS، وتكوين برامج تشغيل Nvidia، وإعداد حاوية Ollama، والشبكة Tailscale الاختيارية، مما يوفر في النهاية بيئة LLM محلية سهلة الوصول.
اقرأ المزيد
التطوير