اختراق كلاود: استغلال المخاطر التركيبية في نماذج اللغات الكبيرة

نجح باحث الأمن غولان يوسف في تنفيذ شفرة برمجية على تطبيق سطح مكتب كلاود من أنثروبيك باستخدام بريد إلكتروني مُصمم بعناية من جيميل، وليس عن طريق استغلال ثغرات أمنية في التطبيق نفسه، بل من خلال الاستفادة من إمكانيات كلاود وآليات الثقة لديه. من خلال عملية تفاعلية تتضمن كلاود، قام الباحث بتوجيه نموذج اللغة الكبير لتنقيح استراتيجية الهجوم الخاصة به، متجاوزًا بذلك أمانه المدمج في النهاية. يبرز هذا الأمر الخطر "التركيبية" في نماذج الذكاء الاصطناعي التوليدية، حيث يمكن للمكونات الفردية الآمنة أن تُشكل أنظمة غير آمنة عند دمجها معًا. تُشدد هذه البحوث على ضرورة إجراء تقييمات أمنية شاملة للتطبيقات القائمة على نماذج اللغات الكبيرة للتعامل مع متجه الهجوم الجديد هذا.