GitHub - mistralai/mistral-finetune
2024-05-25
这篇文章介绍了Mistral-finetune,一个用于高效微调Mistral模型的轻量级代码库。它基于LoRA训练范式,该范式冻结大部分权重,仅训练少量额外权重作为低秩矩阵扰动。文章详细介绍了Mistral-finetune的安装步骤、数据集准备、训练配置、模型扩展以及常见问题解答等内容,为用户提供了一个简单易懂的Mistral模型微调入门指南。
49
未分类
Mistral