عرض توضيحي للاستدلال على GPT-2 في المتصفح باستخدام WebGL2
2025-05-02
هذا المشروع الرائع يجلب تمريرة الامام الكاملة لنموذج GPT-2 الصغير (117 مليون معلمة) إلى المتصفح باستخدام WebGL2. من خلال الاستفادة من WebGL2 shaders للحساب على وحدة معالجة الرسومات و js-tiktoken لتمييز BPE (بدون الحاجة إلى WASM)، فإنه يقوم بتشغيل GPT-2 مباشرةً في المتصفح. يقوم برنامج نصي بلغة بايثون بتنزيل الأوزان المدربة مسبقًا، ويتم إنشاء الواجهة الأمامية باستخدام Vite لاستبدال الوحدات الساخنة. هذا مثال رائع على جلب نماذج الذكاء الاصطناعي المتقدمة إلى المتصفح، مما يبرز قدرات تقنيات الويب المتطورة.
الذكاء الاصطناعي