OpenAI تثبت رياضياً: لماذا قد تستمر هلوسات ChatGPT؟

تُثبت ورقة بحثية جديدة من OpenAI رياضياً سبب قيام نماذج اللغات الكبيرة مثل ChatGPT بـ "الهلوسة" - أي اختلاق الحقائق بثقة. ليس هذا مجرد مشكلة في التدريب؛ بل هو أمر لا مفر منه رياضياً بسبب الطبيعة الاحتمالية لتوقع الكلمات. حتى البيانات المثالية لن تحل المشكلة. تكشف الورقة أيضاً عن نظام تقييم معيب يعاقب عدم اليقين، مما يحفز النماذج على التخمين بدلاً من الاعتراف بالجهل. على الرغم من اقتراح OpenAI لحل قائم على الثقة، إلا أنه سيؤثر بشكل كبير على تجربة المستخدم وتكاليف الحوسبة، مما يجعله غير عملي للتطبيقات الاستهلاكية. ما لم تتغير الحوافز التجارية، فمن المرجح أن تستمر الهلوسات في نماذج اللغات الكبيرة.