فريق الاختبار الأحمر للذكاء الاصطناعي من مايكروسوفت: تأمين الذكاء الاصطناعي معركة لا تنتهي

خلص فريق الاختبار الأحمر للذكاء الاصطناعي في مايكروسوفت، بعد اختبار أكثر من 100 منتج من منتجات الذكاء الاصطناعي التوليدي الخاصة بالشركة، إلى أن نماذج الذكاء الاصطناعي تُضخم المخاطر الأمنية الحالية وتُدخِل مخاطر جديدة. وتبرز النتائج التي توصلوا إليها سبع دروس رئيسية، مؤكدةً أن تأمين أنظمة الذكاء الاصطناعي عملية مستمرة تتطلب استثمارًا مستمرًا ومجموعة من الأدوات الآلية والمراجعة البشرية. كما يشدد التقرير على أهمية مراعاة الاستخدام المقصود للنموذج عند تقييم المخاطر، مشيرًا إلى أن طرق الهجوم الأبسط غالبًا ما تكون أكثر فعالية من الهجمات المعقدة القائمة على التدرج. علاوة على ذلك، تُسلط الضوء على التحيزات الأخلاقية والاجتماعية التي تُدخلها تقنيات الذكاء الاصطناعي كشواغل حرجة.