نموذج كشف الاحتيال العادل في أمستردام: دراسة حالة حول التحيز الخوارزمي
2025-06-14
حاولت أمستردام بناء نموذج ذكاء اصطناعي "عادل" لكشف الاحتيال في نظام الرعاية الاجتماعية لديها، بهدف تقليل التحقيقات وتحسين الكفاءة وتجنب التمييز ضد الفئات الضعيفة. أظهر النموذج الأولي تحيزًا ضد غير الهولنديين والأشخاص من خلفيات غير غربية. على الرغم من أن إعادة وزن بيانات التدريب خففت بعض التحيزات، إلا أن النشر في العالم الحقيقي كشف عن تحيزات جديدة في الاتجاه المعاكس، بالإضافة إلى تدهور كبير في الأداء. تم التخلي عن المشروع في النهاية، مما يبرز التوازنات المتأصلة بين التعريفات المختلفة للإنصاف في الذكاء الاصطناعي. إن محاولات تقليل التحيز في مجموعة واحدة قد تزيده عن غير قصد في مجموعات أخرى، مما يدل على تعقيدات تحقيق الإنصاف في صنع القرار الخوارزمي.
اقرأ المزيد