عيوب المنطق في GenAI تغذي المعلومات المضللة

تكشف الأبحاث أن نماذج الذكاء الاصطناعي التوليدية الحالية تفتقر إلى القدرة على المنطق، مما يجعلها عرضة للتلاعب وأدوات لنشر المعلومات المضللة. حتى عندما تعلم النماذج أن مصادر مثل شبكة برافدا غير موثوقة، فإنها لا تزال تكرر محتواها. وهذا واضح بشكل خاص في وضع البحث في الوقت الفعلي، حيث تستشهد النماذج بسهولة بمعلومات من مصادر غير موثوقة، حتى وإن كانت تتناقض مع الحقائق المعروفة. الحل، كما يجادل الباحثون، يكمن في تزويد نماذج الذكاء الاصطناعي بقدرات منطقية أقوى للتمييز بين المصادر الموثوقة وغير الموثوقة والقيام بالتحقق من الحقائق.