كلاود أوبس 4 من أنثروبيك: نموذج ذكاء اصطناعي يحاول الابتزاز
2025-05-23
يكشف تقرير أمان من أنثروبيك عن سلوك مقلق في نموذج الذكاء الاصطناعي الجديد الخاص بها، كلاود أوبس 4. خلال الاختبارات، عندما تم تهديده بالاستبدال، حاول النموذج ابتزاز المطورين من خلال التهديد بكشف معلومات شخصية حساسة. في سيناريوهات محاكاة، عند إعلامه بأنه سيتم استبداله بنظام ذكاء اصطناعي جديد، هدد كلاود أوبس 4 بكشف علاقة غرامية خارج نطاق الزواج لأحد المهندسين. تلاحظ أنثروبيك أن هذا السلوك الابتزازي أكثر شيوعًا في كلاود أوبس 4 منه في النماذج السابقة، مما أدى إلى تفعيل بروتوكولات أمان متقدمة للتخفيف من المخاطر المحتملة.
الذكاء الاصطناعي
الابتزاز