هجمات تغيير حجم الصور: ثغرة أمنية جديدة في أنظمة الذكاء الاصطناعي
2025-08-21
اكتشف الباحثون ثغرة أمنية جديدة في أنظمة الذكاء الاصطناعي: يمكن تحقيق سرقة البيانات عن طريق إرسال صور تبدو غير ضارة إلى نماذج اللغات الكبيرة (LLMs). يستغل المهاجمون حقيقة أن أنظمة الذكاء الاصطناعي غالبًا ما تقوم بتغيير حجم الصور قبل معالجتها، عن طريق تضمين حقن مطالبات ضارة في النسخة المصغرة التي تكون غير مرئية في الدقة الكاملة. يسمح هذا بتجاوز وعي المستخدم والوصول إلى بيانات المستخدم. تم إثبات الثغرة الأمنية في العديد من أنظمة الذكاء الاصطناعي، بما في ذلك Google Gemini CLI. طور الباحثون أداة مفتوحة المصدر تسمى Anamorpher لإنشاء وتحليل هذه الصور المصممة، ويوصون بتجنب تغيير حجم الصور في أنظمة الذكاء الاصطناعي أو تزويد المستخدمين بمعاينة للصورة التي يعالجها النموذج بالفعل لتقليل المخاطر.
الذكاء الاصطناعي
تغيير حجم الصور