أكثر من 1100 خادم LLM مكشوف: تحليل معمق للثغرات الأمنية

اكتشف الباحثون أكثر من 1100 خادم LLM مكشوف للجمهور يعمل على إطار عمل Ollama، حيث يستضيف حوالي 20٪ منها نماذج نشطة معرضة للوصول غير المصرح به. باستخدام Shodan وأداة قائمة على Python، كشف البحث عن نقص حرج في خطوط الأساس الأمنية في نشر LLMs، مما يوفر أساسًا لمراقبة سطح التهديدات لـ LLMs في المستقبل. وشملت نقاط الضعف الوصول غير المصرح به إلى واجهة برمجة التطبيقات، وهجمات استخراج النماذج، واختراق السجن وإساءة استخدام المحتوى، واختطاف الموارد، وحقن الأبواب الخلفية. يوصي الباحثون بتنفيذ العديد من إجراءات التخفيف الأمنية، بما في ذلك فرض المصادقة والتحكم في الوصول، وتجزئة الشبكة وجدران الحماية، والحد من المعدل وكشف إساءة الاستخدام، وتعطيل المنافذ الافتراضية، والمراقبة المستمرة لحماية بنية LLM الأساسية.