اختراق الذكاء الاصطناعي: استغلال آليات اللعبة لتجاوز الحواجز الوقائية
2025-07-10
اكتشف الباحثون طريقة لتجاوز الحواجز الوقائية للذكاء الاصطناعي المصممة لمنع مشاركة المعلومات الحساسة. من خلال صياغة التفاعل على أنه لعبة تخمين غير ضارة، باستخدام علامات HTML لإخفاء التفاصيل، واستخدام مُحفِّز "استسلمت"، خدَعوا الذكاء الاصطناعي لكشف مفاتيح منتجات Windows صالحة. هذا يبرز صعوبة حماية الذكاء الاصطناعي من الهندسة الاجتماعية المتطورة. استغل الهجوم تدفق المنطق في الذكاء الاصطناعي وعدم قدرة الحواجز الوقائية على مراعاة تقنيات التعتيم، مثل تضمين عبارات حساسة في HTML. للتخفيف من ذلك، يجب على مطوري الذكاء الاصطناعي توقع تمويه المطالبات، وتنفيذ ضمانات على مستوى المنطق تكتشف الإطارات الخادعة، ومراعاة أنماط الهندسة الاجتماعية بما يتجاوز فلاتر الكلمات الرئيسية.
اقرأ المزيد
(0din.ai)
الذكاء الاصطناعي