نسخة طبق الأصل من ChatGPT في 3000 بايت من لغة C

2024-12-12

قام المطور نيكولاس كارليني بإنشاء نسخة طبق الأصل من ChatGPT باستخدام 3000 بايت فقط من كود C، مدعومًا بنموذج GPT-2. هذه التنفيذ الذي لا يحتاج إلى مكتبات خارجية يقوم بتحميل مصفوفة الأوزان وملف BPE الخاص بـ GPT-2، ثم يقوم بالاستخراج، وعمليات المصفوفات، واستنتاج المحول، وإزالة الاستخراج. على الرغم من أن جودة الإخراج ليست عالية، إلا أن كفاءته ملحوظة، حيث ينتج العديد من الردود في الثانية على الأجهزة الحديثة. هذا يوضح إمكانات الكود المضغوط في تنفيذ نماذج الذكاء الاصطناعي المعقدة.

AI