السياسات التنافسية تهزم أنظمة الذكاء الاصطناعي الخارقة في لعبة جو
2024-12-24
حقق الباحثون معدل فوز تجاوز 97٪ ضد نظام KataGo، وهو نظام ذكاء اصطناعي متطور للعبة جو، من خلال تدريب سياسات تنافسية. لم يفز هؤلاء الخصوم من خلال اللعب الجيد بل من خلال خداع KataGo لارتكاب أخطاء فادحة. انتقل الهجوم دون إعادة تدريب إلى أنظمة ذكاء اصطناعي خارقة أخرى للعبة جو، وكان بسيطًا بما يكفي لتمكين الخبراء البشريين من تكراره دون مساعدة خوارزمية. استمرت الثغرة الأمنية حتى بعد تدريب KataGo بشكل تنافسي للدفاع ضدها، مما يبرز أنماطًا مفاجئة من الفشل حتى في أنظمة الذكاء الاصطناعي الخارقة.