أعلنت OpenAI: هلوسات الذكاء الاصطناعي ناتجة عن أخطاء جوهرية في التدريب

نشرت OpenAI ورقة بحثية تكشف أن "الهلوسات" في نماذج اللغات الكبيرة الخاصة بها ليست عرضية؛ بل هي نتيجة لأخطاء جوهرية في منهجية التدريب. تم تدريب النماذج على إعطاء الأولوية للتخمين بدلاً من الاعتراف بالجهل، لأن هذا يؤدي إلى درجات أعلى في أنظمة التقييم الحالية. تستخدم الورقة مثال البحث عن عيد ميلاد باحث لإظهار كيف يؤدي آلية التدريب إلى إجابات غير صحيحة. تعترف OpenAI بأن طرق التقييم السائدة تُكافئ هذا السلوك "الهلوسي" وتؤكد أنها تعمل على تحسين آليات التدريب، مثل حث النماذج على الرد بشكل متكرر بـ "لا أعرف"، لكن حل المشكلة بشكل كامل لا يزال يمثل تحديًا.