- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI
大模型微调
# 大模型微调的主流方式、核心区别与底层原理 微调（Fine-tuning）的核心底层共性：基于预训练模型的知识迁移，冻结预训练模型的大部分通用特征参数，仅针对具体任务优化少量参数/引入轻量模块/设计提示特征 一、第一类：全量微调（Full Fine-tuning） 底层核心原理 对预训练模型的所有参数进行微调更新，仅保留预训练的参数初始化值（利用预训练的通用知识加快收敛），通过下游任务数据让模型整体适配任务特征 二、第二类：部分微调（Partial Fine-tuning） 底层核心原理 基于预训练模型的特征分层特性，冻结模型底层/中层的通用特征参数，仅微调上层的任务特定特征参数，是全量微调的轻量化改进版。 所有微调方式的底层逻辑本质 预训练模型的「通用知识」与下游任务的「特定知识」的融合方式不同： 全量/部分微调：通过更新主模型参数让特定知识覆盖/融合通用知识； PEFT：通过新增轻量模块让特定知识以“残差 以内，适合工业级两段式端到端模型的落地； 避免全量/部分微调：针对Transformer大模型的两段式端到端架构，全量/部分微调的算力成本极高，且多任务适配时模型存储成本不可接受。
1K10编辑于 2026-02-09 - 来自专栏AI技术探索和应用
ChatGLM模型微调
ChatGLM3: https://github.com/THUDM/ChatGLM3微调前建议将模型下载到本地。微调前还需要安装依赖。 conda create -n chatglm3 python=3.11 -ypip install astunparse对话模型微调我们使用 ToolAlpaca 数据集来进行微调。 这种方法在微调的step较多的情况下会影响到模型的工具调用功能。 在这里，我们有意将工具处理成了 list[str] 这样的自然语言形式，以观察模型在微调前后对工具定义的理解能力。. 训练精度强烈推荐使用 bf16 格式进行微调，并确认所有依赖和硬件满足微调硬件要求，否则可能出现 loss = 0 的情况。（5）部署和推断测试同Chat微调模型
1.9K21编辑于 2025-09-26 - 来自专栏相约机器人
PyTorch模型微调实例
__version__ Out[1]: '1.0.0' Fine tuning 模型微调 在前面的介绍卷积神经网络的时候，说到过PyTorch已经为我们训练好了一些经典的网络模型，那么这些预训练好的模型是用来做什么的呢 没关系，我们先找到一个同类的别人训练好的模型，把别人现成的训练好了的模型拿过来，换成自己的数据，调整一下参数，再训练一遍，这就是微调（fine-tune）。 PyTorch里面提供的经典的网络模型都是官方通过Imagenet的数据集与训练好的数据，如果我们的数据训练数据不够，这些数据是可以作为基础模型来使用的。 为什么要微调 1. 这时候如果还想用上大型神经网络的超强特征提取能力，只能靠微调已经训练好的模型。 2. = {x:len(image_dataset[x]) for x in dataset_names} 开始配置网络，由于ImageNet是识别1000个物体，我们的狗的分类一共只有120，所以需要对模型的最后一层全连接层进行微调
2.1K10发布于 2020-02-19 - 来自专栏AI理论与前沿
对于大模型，到底微调还是不微调？
调整开源大语言模型（LLM）的系列博客的第二篇文章。本文讨论：“什么时候应该进行微调，什么时候应该考虑其他技术？”0 引言在 LLM 出现之前，微调通常用于小规模模型（100M – 300M 参数）。 当时，最先进的领域应用通过监督微调（SFT）构建，即使用标注数据对预训练模型进行进一步训练，以适应自己的领域和下游任务。然而，随着大型模型（>1B 参数）的兴起，微调的问题变得更加复杂。 最重要的是，大型模型的微调需要更大的资源和商业硬件。下表 1 列出了在三种情况下，微调 Llama 2 7B 和 Llama 2 13B 模型的峰值 GPU 内存使用量。 1.4 成本节约微调可以将 Llama 2 70B/GPT-4 等大模型的技能提炼到较小的模型中，如 Llama 2 7B，从而在不影响质量的情况下降低成本和延迟。 例如，这篇文章展示了如何通过微调 GPT-3.5 评审模型，将其从更昂贵的 GPT-4 模型中提炼出来，最终节省了成本。1.5 新任务/能力通过微调，往往可以实现新的能力。
1.1K00编辑于 2024-09-17 - 来自专栏具身小站
模型微调的概述
想把一个通用大模型调教成“懂行”的专家，离不开微调，可以把微调理解为“上学”——数据是教材，微调方法是学习方法，步骤则是完整的学习流程。 目前的主流方法有 全量微调 和以LoRA为代表的 参数高效微调 两类，它们的关系就像是“系统性精修”和“专项补习班”，目的都是为了让模型更专业，下面表可以对比不同微调方法的核心差异： PART 01 微调方法总览 QLoRA：极致压缩的“平民神器” 工作原理 ：在LoRA的基础上，将基座模型量化为4-bit精度，再在其上进行LoRA微调。这样，一个70B的模型也能在单张24GB的消费级显卡上完成微调。 优势 ：将大模型微调的硬件门槛降到最低，使“平民玩家”也能微调百亿级模型，是资源受限情况下的首选方案。 PART 03 通用微调流程 无论选择哪种方法，微调都遵循相似的标准化流程： 数据准备 ：这是微调成功与否的决定性因素，数据质量远比数量重要，一份包含10%噪声的数据，足以让模型性能下降30%以上，需要
23710编辑于 2026-05-22 - 来自专栏喔家ArchiSelf
解读大模型的微调
实际上，可以使用预训练的大型语言模型进行新任务的上下文学习并进行微调。 那么，什么是上下文学习？又如何对大模型进行微调呢？ 1. 如果无法直接访问模型，例如通过 API 使用模型，上下文学习非常有用。与上下文学习相关的是“硬提示微调”的概念，可以通过修改输入来期望改善输出。 由于目标任务和目标领域与模型预训练的数据集相似程度的不同，几乎总是通过微调所有层来获得更优秀的模型性能。因此，当优化模型性能时，使用预训练LLM的黄金标准是更新所有层。 参数高效微调 参数高效微调允许我们在最小化计算和资源占用的同时重复使用预训练模型。 如前所述，微调更多的层通常会导致更好的结果。如果想要微调更大的模型，例如重新生成的LLM，这些模型只能勉强适合GPU内存，该怎么办呢？人们开发了几种技术，只需训练少量参数便可通过微调提升LLM的性能。
1.7K30编辑于 2023-09-02 - 来自专栏AI
迁移学习与模型微调
迁移学习与模型微调：如何利用已有的预训练模型1. 预训练模型与微调预训练模型（Pretrained Models）指的是已经在一个大规模数据集（例如ImageNet、COCO等）上进行过训练的模型。 模型微调（Fine-tuning）是迁移学习中一种常见的策略，指的是在预训练模型的基础上，针对目标任务进行微小的调整和训练。 微调通常包括两种方法：微调部分网络层：在这种方法中，我们保留预训练模型的大部分结构，只对模型的后几层进行重新训练，以适应目标任务的特定需求。 此时，研究人员可以利用在大规模图像数据集（如ImageNet）上训练的预训练模型，并通过微调来适应新的任务，例如通过微调ResNet模型来识别特定疾病的图像特征，如乳腺癌的X光片。
1.1K00编辑于 2025-01-27 90%的人都误解了模型微调，到底何时应该使用模型微调
你说把这1T的PDF文档直接微调进大模型怎么样，那样是不是回答就快了，而且幻觉也能降低一些，毕竟都让模型学会了。 小王自己结合之前看的一些AI文章，感觉老板说的很有道理，现在做知识检索，无非就是RAG或者直接把知识微调进模型里，让知识根深蒂固刻在模型骨子里，那既然RAG不行，那就微调吧。 今天跟大家聊聊大模型微调这件事。 ------ 首先我们要明白大模型微调（Fine-tuning）的本质，是要调整其模型内部参数的分布，让模型学会特定的指令和语言风格，做格式对齐和风格迁移，尤其以LoRA为代表的微调方式。 说到这里，大家应该理解了微调是用来做什么的了。那如果，我们将这1T的PDF文档微调进大模型后，会有什么后果呢？ 第一个，必然是降低其原有的通用能力。
8300编辑于 2026-06-17- 来自专栏深圳架构师同盟
LoRA大模型微调介绍
一、微调流程二、选择微调基础模型如果我们需要进行的是监督指令微调，建议选择带-Instruct后缀的模型，关于模型命名及后缀说明如下截图：三、准备意图识别微调训练集和验证集提醒：从开源平台（如Hugging 你是一个意图识别专家，可以根据用户的问题识别出意图，并返回对应的意图和参数", "input":"我想听音乐", "output":"play_music()"}]可以从训练数据集中抽出10%用作验证数据集四、微调主要参数介绍 5、LoRA 秩（LoRA rank）LoRA（低秩适应）中的秩（Rank）是决定模型微调时参数更新 “表达能力” 的关键参数。它通过低秩矩阵分解的方式，控制可训练参数的规模与模型调整的灵活程度。 秩的数值越小，模型微调时的参数更新越 “保守”；秩的数值越大，模型能捕捉的特征复杂度越高，但也会消耗更多计算资源。 五、模型微调后验证通过预留的10%的微调数据集用做训练后的模型验证集。模型验证数据集中可以加上对应训练时的提示词，如：你是一个意图识别专家，可以根据用户的问题识别出意图，并返回对应的函数调用和参数。
65710编辑于 2026-01-21 - 来自专栏DrugOne
扩展指令微调语言模型
实验结果表明，指令微调在任务数量和模型规模上都具有良好的扩展性。它们各自的扩展行为表明未来的研究应进一步扩大任务数量和模型规模。其次，研究了微调对模型执行推理任务的影响。 最后，可以额看到将模型规模增加一个数量级（即从8B到62B或从62B到540B）会大幅改善微调和非微调模型的性能。 需要注意的是，确定指令微调对于小型模型或大型模型的改进程度（相对于没有微调的基准）可能会更加复杂。 指令微调大幅改善了所有模型类型的标准化平均性能。对于没有进行指令微调的T5模型，作者使用了进行语言建模的标准目标在C4上训练的经过LM适应的模型。 考虑到评估基准的难度以及T5模型不是多语言的事实，与未经微调的模型相比，T5模型从指令微调中受益最大。
91230编辑于 2023-09-19 - 来自专栏腾讯技术工程官方号的专栏
大模型微调方法总结
假设要在下游任务微调一个预训练语言模型（如 GPT3），则需要更新预训练模型参数，公式表示如下： W0 是预训练模型初始化的参数，ΔW 就是需要更新的参数。 如果是全参数微调，则它的参数量=W0 参数量（如果是 GPT3，则 ΔW≈175B）。从这可以看出要全参数微调大语言模型，小家小户是不可能的。 在预训练模型每一层(或某些层)中添加 Adapter 模块(如上图左侧结构所示)，微调时冻结预训练模型主体，由 Adapter 模块学习特定下游任务的知识。 通过添加 Adapter 模块来产生一个易于扩展的下游模型，每当出现新的下游任务，通过添加 Adapter 模块来避免全模型微调与灾难性遗忘的问题。 Adapter 方法不需要微调预训练模型的全部参数，通过引入少量针对特定任务的参数，来存储有关该任务的知识，降低对模型微调的算力要求。
3K42编辑于 2023-07-26 - 来自专栏深度学习自然语言处理
GLoRA—高效微调模型参数！
FacT：FacT提出使用张量分解方法来存储额外的权重，将模型的权重张量化为单个3D张量，然后将其相加分解为轻量级因子。在微调中，只有因子会被更新和存储。 One-for-All unified formulation 对于模型微调，本文提出了一个统一的公式，包含所有可调维度，包括但不限于权重空间和特征空间。 通过PETL方法微调的模型应该表现出增强的域泛化能力，从而使它们更适用于现实场景。下表展示了GLoRA的域外泛化能力，其中单个ImageNet-1K微调的GLoRA模型经过域外数据集的测试。 总结 本文提出了GLoRA，这是一种广义参数高效的微调方法，它成功地证明了增强大规模预训练模型的微调和迁移学习能力的有效性。 这项工作不仅有助于改进大规模预训练模型的微调过程，而且还为未来的工作开辟了新的途径，包括进一步探索广义低秩适应技术、混合方法的开发以及搜索和优化算法的改进。
98110编辑于 2023-08-22 【大模型微调】一文掌握5种大模型微调的方法
一、大模型微调的基础理论在探索具体方法之前，我们首先需要建立一个清晰的认知框架，理解大模型微调在整个AI模型生命周期中所扮演的角色。 阶段二：微调 - 培养模型“专业素养”在预训练之后，微调阶段则承担了“专业培养”的职责。它使用高质量、小规模、有标注的特定领域数据集，对基座模型进行针对性的再训练。 大模型微调究竟是什么？直观上，大模型微调即是指通过输入特定领域或任务的数据，并有选择性地调整模型参数的技术过程。 为什么大模型微调至关重要？微调的重要性在于它能够“激活”基座模型的潜在能力，为其“装备”上精细化、专业化的功能。没有微调，大模型就像一件未开刃的神兵，空有材质而缺乏锋芒。 四、大模型微调赋能智能未来综上所述，大模型微调是连接通用基座模型强大能力与具体业务需求的关键桥梁。
4.6K40编辑于 2025-10-23大模型本地微调Debug总结
问题：微调数据的“结构化污染” 现象：训练结果包含 confidence: 1.0, ner: [...] 等大量 JSON 标签。 问题：严重的“数值幻觉” 现象：问 4 级洁净度限值，模型回答 “3500” 或 “1,000,000”，而非真值 “1020”。 原因：底座模型惯性太强，且表格数据在微调样本中占比太低。 问题：模型加载时的网络“反扑” 现象：启动聊天（Chat）模式时报 OSError: Failed to load tokenizer。 解决：脚本中加入 export HF_ENDPOINT=https://hf-mirror.com，或直接给模型地址填入 snaphosts 的绝对路径。
9410编辑于 2026-07-02- 来自专栏数据分析与挖掘
pycaret之训练模型（创建模型、比较模型、微调模型）
1、比较模型 这是我们建议在任何受监管实验的工作流程中的第一步。此功能使用默认的超参数训练模型库中的所有模型，并使用交叉验证评估性能指标。它返回经过训练的模型对象。 2、创建模型 在任何模块中创建模型就像编写create_model一样简单。它仅采用一个参数，即型号ID作为字符串。 尽管有一个单独的函数可以对训练后的模型进行集成，但是在通过create_model函数中的ensemble参数和方法参数创建时，有一种快速的方法可以对模型进行集成。 3、微调模型 在任何模块中调整机器学习模型的超参数就像编写tune_model一样简单。它使用带有完全可定制的预定义网格的随机网格搜索来调整作为估计量传递的模型的超参数。 对于有监督的学习，此函数将返回一个表，该表包含k倍的通用评估指标的交叉验证分数以及训练有素的模型对象。对于无监督学习，此函数仅返回经过训练的模型对象。
2.8K10发布于 2020-10-27 - 来自专栏机器学习与统计学
微调大模型，门槛低到离谱
、全参微调（FFT）、预训练、FP8，你想怎么训都行 模型覆盖极广：不只是文本！ 不止是"会跑"：看看社区微调出了什么 来看几个在 Hugging Face 上火爆的微调模型： 1. Vision RL、TTS 微调 视觉大模型也能用 GRPO 做强化学习了。 门槛确实低到离谱 总的来说：如果你一直想微调大模型、训自己的推理模型、或者只是想试试「把 Claude 的能力蒸馏到小模型里」，现在就是最好的时机。 DeepSeek V3+R1 满血微调工具一键启动，硬件要求降 10 倍 大模型微调实战，教程 + 代码 微调一个视觉大模型，手写数字识别为例，从零开始，基于 Qwen2.5，附代码！
1.2K10编辑于 2026-03-02 - 来自专栏CSDN博客
微调Whisper模型和加速推理
本项目主要的目的是为了对Whisper模型使用Lora进行微调，目前开源了好几个模型，具体可以在openai查看，下面列出了常用的几个模型。 finetune.py：微调模型。 merge_lora.py：合并Whisper和Lora的模型。 evaluation.py：评估使用微调后的模型或者Whisper原模型。 准备好数据之后，就可以开始微调模型了。 微调完成之后会有两个模型，第一个是Whisper基础模型，第二个是Lora模型，需要把这两个模型合并之后才能之后的操作。 提示： 没有微调的模型，可能输出带有标点符号，影响准确率。其他更多的参数请查看这个程序。
3.1K30编辑于 2023-04-30 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（九）：大模型微调之计算微调参数占比
Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 本文重点介绍如何打印微调参数，以及微调参数占比计算。 二、计算微调参数占比 2.1 概述 基于LoRA进行模型微调时，需要先冻结全部参数，再指定相应的Linear层进行微调，那么如何计算全部参数，如何计算微调参数以及如何计算微调参数占全部参数的比例呢？ 2.2 模型参数结构一览 这里以Qwen2为例，在微调前，对大模型结构有所认知，对于QLoRA量化微调算法来说，只微调大模型的线性层（Linear层），后面会看到在LoRAConfig中，仅指定了"q_proj 三、总结 本文先对Qwen2模型结构进行一览，做到心中有数，之后讲解如何编写print_trainable_parameters(model)方法，如何冻结所有参数，如何指定需要微调的参数以及计算占比，
78610编辑于 2024-08-13 - 来自专栏AI技术探索和应用
OpenAI模型微调快速入门
微调前的建议 微调 OpenAI 文本生成模型可以使它们更适合特定应用程序，但这需要仔细投入时间和精力。 我们建议在测试集上从基础模型和微调模型生成样本，并并排比较样本。理想情况下，测试集应包括在生产用例中可能发送到模型的输入的完整分布。 如果模型似乎没有收敛，则增加learning rate multiplier 微调示例 指定风格和语气 构建一个微调模型，该模型使模型遵循特定的风格和语气指导，而不仅仅是提示。 函数调用的微调还可用于自定义模型对函数输出的响应。 微调后的模型价格如下，其中gpt-3.5-turbo模型价格提升了3倍。
1.9K32编辑于 2024-03-13 - 来自专栏程序那些事
LoRA大模型微调的利器
LoRA模型是小型的Stable Diffusion模型，它们对checkpoint模型进行微小的调整。它们的体积通常是检查点模型的10到100分之一。 LoRA（Low-Rank Adaptation）是一种微调Stable Diffusion模型的训练技术。 虽然我们已经有像Dreambooth和文本反转这样的训练技术。那么LoRA有什么用呢？ LoRA对Stable Diffusion模型中最关键的部分进行小的修改：交叉注意力层。研究人员发现，微调这部分模型就足以实现良好的训练。 LoRA模型通过将自己的权重加到这些矩阵上来微调模型。 如果LoRA模型需要存储相同数量的权重，它们的文件怎么会更小呢？LoRA的技巧是将矩阵分解成两个更小的（低秩）矩阵。 第1步：安装LoRA模型 要在AUTOMATIC1111 webui中安装LoRA模型，请将模型文件放入以下文件夹。
6.9K21编辑于 2024-09-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号