تقنية ثورية تخفض تكاليف ذاكرة نماذج اللغات الكبيرة بنسبة تصل إلى 75%
2024-12-17
طورت شركة ساكانا إيه آي الناشئة ومقرها طوكيو تقنية ثورية تسمى "ذاكرة المحول الشاملة" تعمل على تحسين كفاءة ذاكرة نماذج اللغات الكبيرة (LLMs) بشكل كبير. باستخدام وحدات ذاكرة الاهتمام العصبية (NAMMs)، تعمل هذه التقنية كمحرر ذكي، حيث تتخلص من المعلومات الزائدة مع الاحتفاظ بالتفاصيل المهمة. هذا يؤدي إلى خفض تكاليف الذاكرة بنسبة تصل إلى 75% وتحسين الأداء عبر العديد من النماذج والمهام، مما يوفر فوائد كبيرة للشركات التي تستخدم LLMs.