روبوت محادثة Graph RAG داخل المتصفح باستخدام Kuzu-Wasm و WebLLM

تُظهر هذه التدوينة مدونة روبوت محادثة يعمل بالكامل داخل المتصفح، تم إنشاؤه باستخدام Kuzu-Wasm و WebLLM، ويستخدم تقنية توليد التعزيز باستعادة الرسم البياني (Graph RAG) للإجابة على أسئلة اللغة الطبيعية حول بيانات LinkedIn. يستخدم التطبيق مزايا WebAssembly، مما يسمح بمعالجة البيانات محليًا لتعزيز الخصوصية وتبسيط النشر. تم تفصيل العمارة والتنفيذ وإدخال البيانات ومطالبات WebLLM وملاحظات الأداء. على الرغم من وجود بعض القيود الحالية، مثل حجم النموذج والسرعة، إلا أن التطورات في WebAssembly وظهور نماذج LLMs أصغر وأفضل تشير إلى مستقبل واعد لمثل هذه الأنابيب المتقدمة التي تعمل بالكامل داخل المتصفح.