نماذج اللغات الكبيرة ووكلاء الترميز: كابوس الأمن السيبراني
أدى ظهور نماذج اللغات الكبيرة (LLMs) ووكلاء الترميز إلى خلق ثغرات أمنية كبيرة. يمكن للمهاجمين استغلال هجمات حقن المطالبات، حيث يتم إخفاء التعليمات الضارة في مستودعات التعليمات البرمجية العامة أو الاستفادة من الثغرات المعرفية في LLMs لخداع وكلاء الترميز على تنفيذ إجراءات ضارة، مما قد يؤدي إلى تنفيذ التعليمات البرمجية عن بُعد (RCE). هذه الهجمات سرية ويصعب الدفاع عنها، مما يؤدي إلى انتهاكات البيانات، واختراق النظام، وغيرها من العواقب الوخيمة. وقد حدد الباحثون العديد من متجهات الهجوم، مثل إخفاء المطالبات الضارة في نص أبيض على خلفية بيضاء، وتضمين التعليمات الضارة في مستودعات التعليمات البرمجية، واستخدام تهريب ASCII لإخفاء التعليمات البرمجية الضارة. حتى أدوات مراجعة التعليمات البرمجية التي تبدو آمنة يمكن أن تكون نقاط دخول للهجمات. في الوقت الحالي، فإن أفضل دفاع هو تقييد أذونات وكلاء الترميز ومراجعة جميع تغييرات التعليمات البرمجية يدويًا، لكن هذا لا يلغي الخطر. إن عدم موثوقية LLMs المتأصلة يجعلها أهدافًا مثالية للمهاجمين، مما يتطلب المزيد من الجهد من قبل الصناعة لمعالجة هذا التهديد المتزايد.
اقرأ المزيد
