أبل و NVIDIA تتعاونان لتسريع توليد النصوص من نماذج اللغات الكبيرة

تعاونت أبل و NVIDIA لدمج تقنية ReDrafter من أبل في TensorRT-LLM من NVIDIA، مما أدى إلى تسريع كبير في توليد النصوص من نماذج اللغات الكبيرة. تجمع ReDrafter بين بحث الحزمة واهتمام الشجرة الديناميكي، لتحقيق توليد نصوص أسرع بكثير دون التضحية بالجودة. تتيح هذه الشراكة للمطورين الذين يستخدمون وحدات معالجة الرسومات من NVIDIA الاستفادة بسهولة من توليد الرموز المُسرّع من ReDrafter لتطبيقات نماذج اللغات الكبيرة الخاصة بهم في الإنتاج، محققين زيادة في السرعة بمقدار 2.7 مرة في اختبارات المقارنة المعيارية، مما يقلل من وقت الانتظار واستهلاك الطاقة.