Docker Model Runner: تبسيط تشغيل نماذج الذكاء الاصطناعي محليًا

أطلقت Docker أداة Model Runner المصممة لتبسيط تشغيل واختبار نماذج الذكاء الاصطناعي محليًا. وهي تعالج التحديات التي يواجهها المطورون مع الأدوات المجزأة، ومشاكل توافق الأجهزة، وعمليات سير العمل المنفصلة عند العمل مع نماذج الذكاء الاصطناعي محليًا. يدمج Model Runner محرك استنتاج قائم على llama.cpp، ويدعم تسريع وحدة معالجة الرسومات على Apple silicon، ويستخدم OCI Artifacts للتعبئة الموحدة للنماذج، مما يسمح بسهولة المشاركة والتحكم في الإصدار. بالإضافة إلى ذلك، تعاونت Docker مع شركات مثل Google و Hugging Face لتوفير نظام بيئي غني من النماذج والأدوات، مما يسهل بشكل كبير تطوير الذكاء الاصطناعي محليًا.
اقرأ المزيد