توليد مخرجات JSON مُهيكلة باستخدام Llamafile المحلي
تشرح هذه المقالة كيفية توليد مخرجات JSON مُهيكلة من Llamafile، وهو نموذج لغوي كبير قابل للتشغيل محليًا. باستخدام JsonOutputParser وPromptTemplate من LangChain، وبتعريف فئة Answer مخصصة لتحديد بنية JSON المطلوبة، يُربط الكاتب مكونات prompt وLLM وparser معًا. يتخطى هذا بذكاء عدم وجود وظيفة مُدمجة لإخراج مُهيكل في Llamafile. يُقدم مثال عملي باستخدام Llama-3.2-1B-Instruct-Q8_0.llamafile، بالإضافة إلى رابط للكود المصدر الكامل.
اقرأ المزيد