خطة DeepMind لتطوير آمن للذكاء الاصطناعي العام: التنقل في مخاطر عام 2030

مع ازدياد ضجة الذكاء الاصطناعي، ينصب التركيز على الذكاء الاصطناعي العام (AGI). وتتناول ورقة بحثية جديدة من DeepMind مؤلفة من 108 صفحات المسألة الحاسمة المتمثلة في تطوير AGI بأمان، متوقعة وصولًا محتملًا بحلول عام 2030. تحدد الورقة أربع فئات رئيسية للمخاطر: سوء الاستخدام، وعدم المحاذاة، والأخطاء، والمخاطر الهيكلية. وللتخفيف من هذه المخاطر، تقترح DeepMind إجراء اختبارات صارمة، وبروتوكولات سلامة قوية بعد التدريب، وحتى إمكانية "نسيان" القدرات الخطرة - وهو تحدٍ كبير. يهدف هذا النهج الاستباقي إلى منع الضرر الشديد الذي قد تسببه تقنية الذكاء الاصطناعي على مستوى الإنسان.