nCompass: ثورة في تكلفة الاستدلال بالذكاء الاصطناعي
2024-12-16
طورت شركة nCompass Technologies برنامجًا مبتكرًا لخدمة الاستدلال بالذكاء الاصطناعي يقلل من تكلفة تقديم نماذج الذكاء الاصطناعي على نطاق واسع بنسبة تصل إلى 50%. من خلال استخدام برنامج استدلال بالذكاء الاصطناعي مخصص وجدول طلبات مُدرك للأجهزة مع توسيع نطاق Kubernetes التلقائي، تحافظ nCompass على جودة خدمة عالية باستخدام عدد أقل من وحدات معالجة الرسومات، مما يؤدي إلى تحسين يصل إلى 4 أضعاف في وقت الاستجابة وتكاليف بنية تحتية وحدات معالجة الرسومات أقل بكثير. يمكن للمستخدمين الوصول إلى نماذج مفتوحة المصدر عبر واجهة برمجة التطبيقات بدون حدود للسرعة، ويتلقون رصيدًا بقيمة 100 دولار عند التسجيل. تتوفر أيضًا حلول محلية للشركات التي تتطلب الكفاءة من حيث التكلفة والاستجابة.