تشغيل نماذج اللغات الكبيرة (LLMs) المحلية في متصفحك: مقدمة BrowserAI

BrowserAI هو مشروع مفتوح المصدر يسمح لك بتشغيل نماذج اللغات الكبيرة (LLMs) محليًا داخل متصفحك. مع إعطاء الأولوية للخصوصية، تتم جميع عمليات المعالجة على جهازك، مما يلغي تكاليف الخادم والبنية التحتية المعقدة. وهو يدعم نماذج متعددة، بما في ذلك تلك من MLC و Transformers، مستفيدًا من WebGPU للحصول على استنتاج سريع للغاية. تتيح واجهة برمجة التطبيقات (API) البسيطة للمطورين دمج إنشاء النصوص، والتعرف على الكلام، وتحويل النص إلى كلام بسهولة. العديد من النماذج مدعومة بالفعل، مع وجود خارطة طريق تحدد التحسينات المستقبلية، مثل قدرات RAG المتقدمة وميزات المؤسسات.