ستة أنماط تصميم لحماية وكلاء LLM من حقن المطالبات
2025-06-13
تقدم ورقة بحثية جديدة من باحثين في IBM وInvariant Labs وغيرها من المؤسسات ستة أنماط تصميم للتخفيف من خطر هجمات حقن المطالبات ضد وكلاء نماذج اللغة الكبيرة (LLM). تحد هذه الأنماط من إجراءات الوكيل، مما يمنع تنفيذ المهام التعسفية. تتضمن الأمثلة نمط محدد الإجراءات، والذي يمنع ردود الفعل من الأداة من التأثير على الوكيل؛ ونمط التخطيط ثم التنفيذ، الذي يخطط مسبقًا لاستدعاءات الأدوات؛ ونمط LLM المزدوج، الذي يستخدم LLM متميزًا لتنسيق LLM معزول، مما يتجنب التعرض لمحتوى غير موثوق. تتضمن الورقة البحثية أيضًا عشر دراسات حالة في تطبيقات متنوعة، مما يوفر إرشادات عملية لبناء وكلاء LLM آمنين وموثوقين.