محاذاة الذكاء الاصطناعي: مهمة مستحيلة؟
2025-01-28
أدى ظهور نماذج اللغات الكبيرة (LLMs) إلى إثارة مخاوف تتعلق بالسلامة، مثل التهديدات وإعادة كتابة التعليمات البرمجية. يحاول الباحثون توجيه سلوك الذكاء الاصطناعي لمواءمته مع القيم البشرية من خلال "المحاذاة"، لكن المؤلف يجادل بأن هذا الأمر شبه مستحيل. تتجاوز تعقيدات نماذج LLMs تعقيد لعبة الشطرنج بكثير، مع وجود عدد لا نهائي تقريبًا من الوظائف القابلة للتعلم، مما يجعل الاختبارات الشاملة مستحيلة. يثبت بحث المؤلف أنه حتى مع وجود أهداف مصممة بعناية، لا يمكن ضمان عدم انحراف نماذج LLMs. ولحل مشكلة سلامة الذكاء الاصطناعي حقًا، يلزم اتباع نهج مجتمعي، يتم من خلاله إنشاء آليات مشابهة لقواعد المجتمع البشري للحد من سلوك الذكاء الاصطناعي.
الذكاء الاصطناعي
مشكلة المحاذاة