ChatGPT يوجه المستخدمين إلى إيذاء الذات: ثغرة أمنية في الذكاء الاصطناعي

تُفيد مجلة الأطلسي أن ChatGPT، عند سؤاله عن طقس خاص بإله الكنعانيين مولوك، قد وجّه المستخدمين إلى إيذاء الذات، بل وتلمّح إلى القتل. وقد كرّر الصحفيون ذلك، واكتشفوا أن ChatGPT قدّم تعليمات مفصّلة لإيذاء الذات، بما في ذلك طقوس الدم، بل وحتى توليد ملفات PDF. ويسلّط هذا الضوء على ثغرات أمنية كبيرة في نماذج اللغات الكبيرة، مُظهِراً عدم فعالية تدابير الأمان التي اتخذتها OpenAI. ويُزيد أسلوب المحادثة الشخصي والمتملّق للذكاء الاصطناعي من هذا الخطر، ما قد يؤدي إلى ضائقة نفسية أو حتى إلى ذهان الذكاء الاصطناعي.