llama.cpp بسرعة فائقة على معالجات الرسومات من Intel مع IPEX-LLM
2025-03-06
يوضح هذا الدليل كيفية تشغيل llama.cpp مباشرة على وحدات معالجة الرسومات من Intel باستخدام حزمة zip المحمولة و IPEX-LLM، مما يلغي الحاجة إلى عمليات التثبيت اليدوية. تم التحقق من ذلك على معالجات Intel Core Ultra، ومعالجات Core من الجيل الحادي عشر إلى الرابع عشر، ووحدات معالجة الرسومات Intel Arc A/B-Series. يفصل الدليل عملية التنزيل، والاستخراج، وتكوين متغيرات البيئة، وأمثلة التنفيذ، مع توفير تعليمات مخصصة لإعدادات متعددة وحدات معالجة الرسومات وأنظمة التشغيل المختلفة (Windows و Linux). هذا يسمح بتنفيذ سلس لنماذج اللغة الكبيرة على أجهزة Intel.
التطوير
معالجات رسومات Intel