Yek: أداة سريعة لتقطيع ملفات المستودع من أجل نماذج اللغات الكبيرة

2025-01-19
Yek: أداة سريعة لتقطيع ملفات المستودع من أجل نماذج اللغات الكبيرة

Yek هي أداة سريعة تعتمد على لغة Rust مصممة لقراءة الملفات النصية من مستودع أو مجلد، وتقطيعها إلى أجزاء، وتحويلها إلى صيغة قابلة للاستخدام من قبل نماذج اللغات الكبيرة (LLMs). تقوم الأداة بذكاء بتخطي الملفات غير المرغوب فيها (باستخدام قواعد .gitignore وسجل Git)، وتقسّم المحتوى إلى أجزاء بناءً على عدد الرموز أو حجمها بالبايت، وتوفر خيارات تكوين واسعة النطاق مثل أنماط الإهمال المخصصة وقواعد أولوية الملفات. تهدف Yek إلى تبسيط عملية إعداد البيانات لنماذج اللغات الكبيرة، مما يزيد من الكفاءة.

التطوير