EM-LLM: ذاكرة حلقية مستوحاة من الإنسان لمنظومات معالجة اللغة الضخمة ذات السياق اللانهائي
2025-05-14
EM-LLM هي بنية جديدة تعزز بشكل كبير قدرة أنظمة معالجة اللغة الضخمة (LLMs) على التعامل مع السياقات الطويلة للغاية من خلال محاكاة الذاكرة الحلقية البشرية وإدراك الأحداث. بدون ضبط دقيق، ينظم EM-LLM تسلسلات الرموز المدخلة إلى أحداث حلقية متماسكة ويصل إلى المعلومات ذات الصلة من خلال آلية استرجاع ذاكرة فعالة من مرحلتين. في اختبارات LongBench و ∞-Bench المعيارية، يتفوق EM-LLM على نماذج الاسترجاع الأكثر تقدمًا مثل InfLLM و RAG، بل يتجاوز حتى النماذج ذات السياق الكامل في معظم المهام. يقوم بنجاح باسترجاع 10 ملايين رمز، وهو أمر مستحيل حسابيًا بالنسبة للنماذج ذات السياق الكامل. تشير العلاقة القوية بين تقسيم الأحداث في EM-LLM والأحداث التي يدركها الإنسان إلى إطار حسابي جديد لاستكشاف آليات الذاكرة البشرية.