Ollama Turbo: تشغيل نماذج اللغات المفتوحة المصدر بسرعة فائقة

Ollama Turbo هي طريقة جديدة لتشغيل نماذج اللغات الكبيرة مفتوحة المصدر باستخدام أجهزة ذات مستوى مراكز البيانات. العديد من النماذج الجديدة كبيرة جدًا بالنسبة لوحدات معالجة الرسومات الشائعة أو تعمل ببطء شديد. يوفر Ollama Turbo حلاً للتنفيذ السريع، متوافقًا مع تطبيق Ollama وواجهة سطر الأوامر وواجهة برمجة التطبيقات. يدعم حاليًا في الإصدار التجريبي نماذج gpt-oss-20b و gpt-oss-120b. يعمل مع واجهة سطر الأوامر وواجهة برمجة التطبيقات ومكتبات JavaScript/Python الخاصة بـ Ollama. من المهم أن Ollama لا يسجل أو يحتفظ بأي استعلامات تتم في وضع Turbo. جميع الأجهزة موجودة في الولايات المتحدة. توجد حدود الاستخدام (الساعة واليوم) لإدارة السعة، مع أسعار بناءً على الاستخدام قريبًا.