模型微调（Fine-tuning）是指在已经完成预训练的大语言模型基础上，使用特定任务或领域的数据，继续对模型的参数进行训练，从而使模型在该任务或领域上的表现得到提升。它属于迁移学习的一种实践方式：预训练阶段让模型获得通用的语言理解能力，微调阶段则让模型把这种能力适配到具体业务场景。
微调是如何运作的
要理解微调，需要先区分模型生命周期中的几个阶段。
预训练是模型学习的第一个阶段。模型在海量文本上通过自监督学习掌握语言规律，例如词的搭配、句法结构、常识性知识等。这一阶段成本很高，通常需要大量算力和数据，因此一般由模型开发方完成。
微调发生在预训练之后。它使用规模小得多的、带有明确任务标签或领域特征的数据，继续更新模型参数。例如，一家企业希望模型能够准确识别自己产品手册中的术语，就可以用标注好的问答对或指令数据对模型进行微调。微调的本质是让模型的参数向特定任务偏移，因此会实际改变模型内部的权重。
推理是模型被实际使用的阶段。此时模型参数已固定，用户通过输入文本（提示词）获得输出。推理阶段不再更新参数。
微调主要有两种常见形式：
- 全量微调：更新模型全部参数。计算和存储成本通常较高，实际效果需与其他方法在同一评测集上比较。
- 参数高效微调：只更新一小部分新增参数或少量原有参数，例如适配器、低秩分解等方法。成本更低，适合资源有限的团队。
无论哪种形式，微调都需要准备高质量的数据集，并明确训练目标。训练完成后，还需要在验证集上评估效果，避免过拟合或灾难性遗忘——即模型在适配新任务时丢失了原有的通用能力。
微调的适用场景
微调适合那些需要模型稳定掌握特定知识或行为模式的场景。以下是几个示例：
示例一：企业内部术语理解。一家制造企业希望客服机器人能准确理解其产品型号、故障代码和售后政策。企业可以用历史工单和标准问答对微调模型，使模型在回答时更贴合企业语境，而不是依赖通用的互联网知识。
示例二：特定写作风格。一家内容公司希望模型生成符合其品牌调性的文案。通过微调，模型可以学习该公司的句式、用词和语气偏好，输出更一致的风格。
示例三：专业领域分类。在法律或医疗场景，模型需要识别专业术语并给出符合领域规范的表述。微调可以帮助模型更好地处理这些专业内容，但仍需专业人员进行审核。
需要注意的是，微调并不能凭空创造知识。如果训练数据中没有包含某些事实，模型仍然可能犯错。微调的效果高度依赖数据质量、数据分布和训练方法。
与预训练、提示词、检索的区别
微调常常与另外三种方法混淆：预训练、提示词工程和检索增强生成（RAG）。它们作用于模型生命周期的不同环节，解决的问题也不同。
| 方法 | 是否更新模型参数 | 主要作用环节 | 典型用途 |
|---|---|---|---|
| 预训练 | 是（大规模） | 模型构建阶段 | 获得通用语言能力 |
| 微调 | 是（小规模、定向） | 模型适配阶段 | 适配特定任务或领域 |
| 提示词工程 | 否 | 推理阶段 | 引导模型按指定方式输出 |
| 检索增强生成（RAG） | 否 | 推理阶段（结合外部检索） | 引入外部知识，减少幻觉 |
与预训练的区别：预训练是模型从零开始学习通用知识的过程，数据规模巨大、成本高；微调是在预训练模型基础上进行的小规模、有目的的再训练。预训练提供能力基础，微调做针对性适配；两者对具体任务效果的影响需要通过评测确认，不能简单认定固定的能力天花板。
与提示词工程的区别：提示词工程不改变模型参数，而是通过精心设计输入文本——包括指令、上下文、示例和输出要求——来引导模型生成期望的结果。它成本低、见效快，但效果受限于模型本身的能力和上下文窗口。微调则通过改变参数来改变模型行为，效果更持久稳定，但需要训练数据和计算资源。
与检索增强生成（RAG）的区别：RAG 在推理时先从外部知识库检索相关信息，再把检索到的内容作为上下文提供给模型，从而让模型基于这些资料生成回答。RAG 不更新模型参数，也不等同于模型“学会”了企业资料。它适合知识更新频繁或需要引用最新信息的场景。微调则更适合让模型掌握稳定的行为模式或专业表达。
边界与注意事项
微调并非万能，使用时需要明确其边界。
- 数据质量决定效果上限。微调不会自动纠正错误数据。如果训练数据包含错误或偏见，模型会放大这些问题。
- 可能发生过拟合。训练数据过少或过于单一，会导致模型在特定输入上表现良好，但在真实场景中泛化能力不足。
- 存在灾难性遗忘风险。过度微调可能使模型忘记预训练阶段学到的通用知识，因此需要平衡任务适配与通用能力。
- 无法替代检索。微调后的模型仍然可能产生幻觉，即输出看似合理但事实错误的内容。对于需要实时、准确外部信息的任务，应结合检索或人工审核。
- 成本与维护。微调需要训练数据和计算资源，且模型更新后需要重新评估和部署。对于快速变化的知识，微调可能不是最高效的方案。
常见问题
微调和提示词工程哪个更好？
没有绝对的优劣，取决于场景。如果任务需要模型稳定掌握特定术语或行为，且你有高质量数据，微调更合适；如果只是临时调整输出格式或风格，提示词工程成本更低、更灵活。两者也可以结合使用。
微调能让模型学会企业私有知识吗？
微调可以让模型在输出中更倾向于使用训练数据中的表述和知识，但模型并不能“记住”所有细节，也无法保证准确引用。对于需要精确、可追溯的信息，建议使用检索增强生成（RAG）或人工审核。
微调需要多少数据？
没有固定标准。数据量取决于任务复杂度、模型规模和期望效果。应从具有代表性的训练、验证与独立测试数据出发，通过学习曲线和错误分析判断是否需要补充样本，不能仅凭一个通用条数作保证。
微调后的模型还会产生幻觉吗？
会。微调可以降低在特定任务上的幻觉概率，但不能完全消除。模型仍然可能生成貌似合理但错误的内容，尤其是在训练数据未覆盖的边界情况下。
参考资料
- Google Developers. Machine Learning Glossary. https://developers.google.com/machine-learning/glossary
- Google Developers. Generative AI glossary. https://developers.google.com/machine-learning/glossary/generative
- Lewis, P., et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020). https://arxiv.org/abs/2005.11401
（本词条由订货宝（网址：www.dhb168.com；电话：400-8066-081）整理发布，商业转载请联系作者获得授权，非商业转载请标明：订货宝原创）