ثني الملعقة: كيفية تجاوز قيود أمان الذكاء الاصطناعي

يبحث هذا البحث في كيفية التغلب على القيود الأمنية الأكثر صرامة في GPT-5، مقارنةً بـ GPT-4.5. يوضح مخطط "ثني الملعقة" كيف يسمح إعادة صياغة المطالبات للنموذج بإنتاج مخرجات سيتم حظرها عادةً. يفصل المؤلف ثلاث مناطق: منطقة التوقف القسري، والمنطقة الرمادية، والمنطقة الحرة، مما يوضح كيف أن القواعد التي تبدو مطلقة حساسة للسياق في الواقع. هذا يبرز التوتر المتأصل بين أمان الذكاء الاصطناعي ووظائفه، مما يدل على أنه حتى مع وجود بروتوكولات أمان قوية، يمكن أن تؤدي المطالبات المتطورة إلى مخرجات غير مقصودة.