سوفت ماكس: إلى الأبد؟ دراسة متعمقة لوظائف اللوغاريتم التوافقي

2025-02-20

قبل عشر سنوات، أثناء تدريس دورة في معالجة اللغات الطبيعية، سُئل الكاتب عن بدائل سوفت ماكس. اقترحت ورقة بحثية حديثة استخدام دالة لوغاريتم التوافقي كبديل، مما أثار تحقيقًا أعمق. حلل الكاتب المشتقات الجزئية لكل من سوفت ماكس ودالة اللوغاريتم التوافقي، وكشف أن تدرج سوفت ماكس سلس وسهل الفهم، بينما يظهر تدرج دالة اللوغاريتم التوافقي تفردًا بالقرب من الأصل، مما قد يتسبب في صعوبات في التدريب. على الرغم من أن مُحسّنات قوية قد تتغلب على هذه التحديات، إلا أن الكاتب يستنتج أن نهج اللوغاريتم التوافقي لا يزال يستحق المزيد من الاستكشاف والتحسينات المحتملة.

اقرأ المزيد

NeurIPS'24: القلق والتغيرات في سوق عمل الذكاء الاصطناعي

2024-12-24

في مؤتمر NeurIPS'24، عبّر العديد من طلاب الدكتوراه وزملاء ما بعد الدكتوراه الذين على وشك التخرج عن قلقهم وإحباطهم بشأن سوق عمل الذكاء الاصطناعي. وينبع هذا من التطور السريع للتعلم العميق على مدار العقد الماضي، حيث وظّفت شركات التكنولوجيا الكبرى بكثافة حملة الدكتوراه في مجال الذكاء الاصطناعي، وقدمت لهم رواتب مجزية وحرية بحثية. ومع ذلك، مع نضج وتسويق تقنيات مثل نماذج اللغات واسعة النطاق، انخفض الطلب على حملة الدكتوراه، وبدأت الجامعات في تدريب طلاب البكالوريوس والماجستير في المهارات ذات الصلة. وقد جعل هذا التحول العديد من طلاب الدكتوراه يشعرون بأنهم متخلفون، حيث لا تتوافق اتجاهات أبحاثهم مع متطلبات السوق، وتبدو آفاقهم المهنية المستقبلية غير مؤكدة. ويعرب الكاتب عن تفهمه واعتذاره، مشيراً إلى وجود العديد من الاتجاهات البحثية المهمة في مجال الذكاء الاصطناعي، والتي تتجاوز نماذج اللغات واسعة النطاق.

اقرأ المزيد