امتداد متصفح كلاود من أنثروبيك: اختبار مُتحكم لسلامة الذكاء الاصطناعي

تقوم أنثروبيك باختبار امتداد كروم يسمح لمساعدها للذكاء الاصطناعي، كلاود، بالتفاعل مباشرة داخل المتصفح. بينما يُحسّن هذا من فائدة كلاود بشكل كبير، إلا أنه يُثير مخاوف أمنية هامة، وأبرزها هجمات حقن المُطالبات. أظهرت تجارب الاختبار الأحمر معدل نجاح للهجوم بنسبة 23.6٪ بدون إجراءات التخفيف. نفّذت أنثروبيك عدة تدابير وقائية، بما في ذلك ضوابط الأذونات، وتأكيدات الإجراءات، والمُصنّفات المُتقدمة، مُخفضةً معدل النجاح إلى 11.2٪. حاليًا، يقع الامتداد في برنامج تجريبي محدود مع 1000 مستخدم من خطة ماكس لجمع ملاحظات من العالم الحقيقي وتحسين السلامة قبل الإصدار الأوسع نطاقًا.