استدعاءات دالة LLM لا تتوسع؛ التنسيق البرمجي أسهل وأكثر فعالية
إعادة تغذية الإخراج الكامل لاستدعاءات الأدوات إلى نماذج اللغات الكبيرة (LLMs) مكلف وبطيء. تجادل هذه المقالة بأن مخططات الإخراج، التي تُمكّن من استعادة البيانات المُهيكلة، تسمح لنماذج اللغات الكبيرة بتنسيق المعالجة عبر الكود المُولّد - وهي طريقة أبسط وأكثر فعالية. الأساليب التقليدية، حيث يتم إعادة تغذية مخرجات الأدوات إلى نماذج اللغات الكبيرة كرسائل لتحديد الخطوة التالية، تعمل بشكل جيد مع مجموعات البيانات الصغيرة، لكنها تفشل على نطاق واسع (على سبيل المثال، كتل JSON الكبيرة من خوادم MCP Linear و Intercom). تقترح المقالة تنفيذ الكود كطريقة أساسية لمعالجة البيانات، باستخدام المتغيرات كذاكرة، والكود لتنسيق العديد من استدعاءات الدوال لمعالجة البيانات القابلة للتوسع، والتغلب على مشاكل التكلفة، والسرعة، وفقدان البيانات المحتمل لنماذج اللغات الكبيرة التي تُعالِج مجموعات البيانات الكبيرة. هذا يتطلب بيئات تشغيل آمنة وخالية من الحالة للذكاء الاصطناعي، وهي لا تزال قيد التطوير الأولي.
اقرأ المزيد