تفسير قرارات نماذج اللغة الكبيرة باستخدام قيم شابلي
2024-12-28
تُوفر نماذج اللغة الكبيرة (LLMs) إمكانيات مثيرة للاهتمام لمحاكاة السلوك البشري، لكن عمليات صنع القرار الخاصة بها تفتقر إلى الشفافية. تُقدم هذه الورقة نهجًا جديدًا قائمًا على قيم شابلي لتفسير سلوك LLMs وقياس مساهمة كل مكون من مكونات المطالبة في مخرجات النموذج. من خلال تطبيقين، يكشف البحث أن قرارات LLMs معرضة لـ "ضوضاء الرموز"، حيث يستجيب النموذج بشكل غير متناسب للرموز ذات المحتوى الإعلامي الأدنى. هذا يثير مخاوف بشأن متانة وقابلية تعميم الأفكار المستقاة من LLMs في محاكاة السلوك البشري، مؤكدًا على الحاجة إلى هندسة دقيقة للمطالبات وفهم أكثر دقة لقيودها عند استخدامها في البحث.
AI
قيم شابلي