نماذج اللغات الكبيرة تُحدث هلوسةً لحزم برامج غير موجودة: ثغرة أمنية في سلسلة التوريد

اكتشف الباحثون ثغرة أمنية مقلقة في نماذج اللغات الكبيرة (LLMs): وهي حدوث هلوسة لحزم برامج غير موجودة أثناء توليد الشفرة. هذه ليست مسألة عشوائية؛ بل يتم توليد أسماء محددة لحزم غير موجودة بشكل متكرر، مما يخلق نمطًا متكررًا. يمكن للمهاجمين استغلال ذلك بنشر برامج ضارة تحت هذه الأسماء الوهمية، والانتظار حتى يقوم المطورون بالوصول إليها، وبالتالي إطلاق هجوم على سلسلة التوريد. أظهرت نماذج LLMs مفتوحة المصدر معدلاً أعلى من هذه "الهلوسة الحزمية" مقارنةً بنماذج تجارية، وأظهرت شفرة بايثون عددًا أقل من الحالات مقارنةً بشفرة جافا سكريبت.