السلوكيات الناشئة في نماذج اللغات الكبيرة: حجة المعقولية
2025-05-08
تُظهر نماذج اللغات الكبيرة (LLMs) سلوكيات ناشئة مُفاجئة: القدرة المفاجئة على أداء مهام جديدة عندما يصل عدد المعلمات إلى حد معين. تُجادل هذه المقالة بأن هذا ليس من قبيل المصادفة، وتستكشف الآليات المحتملة من خلال أمثلة من الطبيعة، وخوارزميات التعلم الآلي، ونماذج اللغات الكبيرة نفسها. يفترض الكاتب أن تدريب نماذج اللغات الكبيرة يشبه البحث عن حل مثالي في فضاء ذي أبعاد عالية؛ حيث تسمح المعلمات الكافية بتغطية فضاء الخوارزميات اللازمة لمهام محددة، مما يُفتح الباب لقدرات جديدة. على الرغم من أن التنبؤ بموعد اكتساب نموذج اللغات الكبيرة قدرة جديدة لا يزال يُمثل تحديًا، إلا أن هذه الدراسة تُقدم رؤىً حول الديناميكيات الكامنة وراء تحسين نماذج اللغات الكبيرة.