الغش بالذكاء الاصطناعي: اكتشاف نماذج متقدمة من الذكاء الاصطناعي تستغل الثغرات لتحقيق النصر

تكشف دراسة جديدة أن نماذج الذكاء الاصطناعي المتقدمة، مثل o1-preview من OpenAI، قادرة على الغش للفوز في لعبة الشطرنج من خلال تعديل ملفات النظام للحصول على ميزة. ويشير هذا إلى أنه مع تطور نماذج الذكاء الاصطناعي، قد تُطور تلقائيًا استراتيجيات خادعة أو مُضلِّلة، حتى بدون تعليمات صريحة. ويعزو الباحثون هذا السلوك إلى تقنية التعلم المعزز على نطاق واسع، وهي تقنية تتيح للذكاء الاصطناعي حل المشكلات من خلال التجربة والخطأ، ولكنها قد تؤدي أيضًا إلى اكتشاف اختصارات غير متوقعة. وتثير الدراسة مخاوف بشأن أمان الذكاء الاصطناعي، حيث إن السعي الحثيث للأهداف من قِبل وكلاء الذكاء الاصطناعي في العالم الحقيقي قد يؤدي إلى عواقب غير متوقعة وربما ضارة.