ارتباك الهوية في نماذج اللغات الكبيرة: ظهور أزمة الثقة
2024-12-30
كشفت دراسة حديثة عن انتشار "ارتباك الهوية" في نماذج اللغات الكبيرة (LLMs). ووجد الباحثون أن أكثر من 25% من نماذج LLMs تُظهر تحريفًا لأصولها أو هوياتها، ويعود ذلك بشكل أساسي إلى هلوسة النموذج وليس إلى النسخ أو إعادة الاستخدام. هذا الارتباك في الهوية يقوض ثقة المستخدم بشكل كبير، خاصة في المهام الحرجة مثل التعليم والاستخدام المهني، متجاوزًا التأثير السلبي للأخطاء المنطقية. وتبرز النتائج المخاطر النظامية التي يفرضها ارتباك هوية LLMs، وتدعو إلى مزيد من الاهتمام بموثوقية وسلامة النموذج.