هلوسة توليد التعليمات البرمجية بالذكاء الاصطناعي: تهديد جديد لسلسلة توريد البرمجيات

أدى ظهور أدوات توليد التعليمات البرمجية القائمة على الذكاء الاصطناعي إلى ثورة في تطوير البرمجيات، ولكنه أدخل أيضًا مخاطر جديدة على سلسلة توريد البرمجيات. هذه الأدوات أحيانًا "تهلوس" حزم برمجيات غير موجودة، وهي ثغرة أمنية يستغلها المهاجمون. إنهم ينشئون حزمًا ضارة ويحملونها على السجلات مثل PyPI أو npm. عندما "تهلوس" الذكاء الاصطناعي الاسم مرة أخرى، فإن تثبيت التبعيات سيؤدي إلى تشغيل البرامج الضارة. تُظهر الدراسات أن حوالي 5.2% من اقتراحات الذكاء الاصطناعي التجارية عبارة عن حزم غير موجودة، مقارنة بـ 21.7% للنماذج مفتوحة المصدر. هذه "الهلوسة" تُظهر نمطًا ثنائي الطور: تظهر بعض الأسماء المُخترعة باستمرار، بينما تختفي أسماء أخرى. هذه الشكل من انتحال الهوية عن طريق الأخطاء المطبعية، المسمى "slopsquatting"، يتطلب من المطورين التحقق بعناية من التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي. تعمل مؤسسة Python Software Foundation بنشاط على التخفيف من هذه المخاطر.