大型语言模型微调终极指南：从基础到突破 (arxiv.org)

这篇报告全面概述了大型语言模型（LLM）的微调技术，整合了理论见解和实际应用，涵盖了从传统自然语言处理模型到LLM在人工智能中关键作用的历史演变，比较了不同微调方法的优缺点，并介绍了一个结构化的七阶段LLM微调流程。报告重点阐述了数据准备、模型初始化、超参数调整和模型部署等关键步骤，并深入探讨了参数高效方法、内存微调、多专家混合、代理混合等前沿技术，以及验证框架、部署后监控和推理优化等实用建议。