- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI
大模型微调
# 大模型微调的主流方式、核心区别与底层原理 微调（Fine-tuning）的核心底层共性：基于预训练模型的知识迁移，冻结预训练模型的大部分通用特征参数，仅针对具体任务优化少量参数/引入轻量模块/设计提示特征 一、第一类：全量微调（Full Fine-tuning） 底层核心原理 对预训练模型的所有参数进行微调更新，仅保留预训练的参数初始化值（利用预训练的通用知识加快收敛），通过下游任务数据让模型整体适配任务特征 二、第二类：部分微调（Partial Fine-tuning） 底层核心原理 基于预训练模型的特征分层特性，冻结模型底层/中层的通用特征参数，仅微调上层的任务特定特征参数，是全量微调的轻量化改进版。 所有微调方式的底层逻辑本质 预训练模型的「通用知识」与下游任务的「特定知识」的融合方式不同： 全量/部分微调：通过更新主模型参数让特定知识覆盖/融合通用知识； PEFT：通过新增轻量模块让特定知识以“残差 以内，适合工业级两段式端到端模型的落地； 避免全量/部分微调：针对Transformer大模型的两段式端到端架构，全量/部分微调的算力成本极高，且多任务适配时模型存储成本不可接受。
47110编辑于 2026-02-09 - 来自专栏AI技术探索和应用
ChatGLM模型微调
ChatGLM3: https://github.com/THUDM/ChatGLM3微调前建议将模型下载到本地。微调前还需要安装依赖。 conda create -n chatglm3 python=3.11 -ypip install astunparse对话模型微调我们使用 ToolAlpaca 数据集来进行微调。 这种方法在微调的step较多的情况下会影响到模型的工具调用功能。 在这里，我们有意将工具处理成了 list[str] 这样的自然语言形式，以观察模型在微调前后对工具定义的理解能力。. 训练精度强烈推荐使用 bf16 格式进行微调，并确认所有依赖和硬件满足微调硬件要求，否则可能出现 loss = 0 的情况。（5）部署和推断测试同Chat微调模型
1.7K21编辑于 2025-09-26 - 来自专栏相约机器人
PyTorch模型微调实例
__version__ Out[1]: '1.0.0' Fine tuning 模型微调 在前面的介绍卷积神经网络的时候，说到过PyTorch已经为我们训练好了一些经典的网络模型，那么这些预训练好的模型是用来做什么的呢 没关系，我们先找到一个同类的别人训练好的模型，把别人现成的训练好了的模型拿过来，换成自己的数据，调整一下参数，再训练一遍，这就是微调（fine-tune）。 PyTorch里面提供的经典的网络模型都是官方通过Imagenet的数据集与训练好的数据，如果我们的数据训练数据不够，这些数据是可以作为基础模型来使用的。 为什么要微调 1. 这时候如果还想用上大型神经网络的超强特征提取能力，只能靠微调已经训练好的模型。 2. = {x:len(image_dataset[x]) for x in dataset_names} 开始配置网络，由于ImageNet是识别1000个物体，我们的狗的分类一共只有120，所以需要对模型的最后一层全连接层进行微调
2K10发布于 2020-02-19 - 来自专栏AI理论与前沿
对于大模型，到底微调还是不微调？
调整开源大语言模型（LLM）的系列博客的第二篇文章。本文讨论：“什么时候应该进行微调，什么时候应该考虑其他技术？”0 引言在 LLM 出现之前，微调通常用于小规模模型（100M – 300M 参数）。 当时，最先进的领域应用通过监督微调（SFT）构建，即使用标注数据对预训练模型进行进一步训练，以适应自己的领域和下游任务。然而，随着大型模型（>1B 参数）的兴起，微调的问题变得更加复杂。 最重要的是，大型模型的微调需要更大的资源和商业硬件。下表 1 列出了在三种情况下，微调 Llama 2 7B 和 Llama 2 13B 模型的峰值 GPU 内存使用量。 1.4 成本节约微调可以将 Llama 2 70B/GPT-4 等大模型的技能提炼到较小的模型中，如 Llama 2 7B，从而在不影响质量的情况下降低成本和延迟。 例如，这篇文章展示了如何通过微调 GPT-3.5 评审模型，将其从更昂贵的 GPT-4 模型中提炼出来，最终节省了成本。1.5 新任务/能力通过微调，往往可以实现新的能力。
90000编辑于 2024-09-17 - 来自专栏喔家ArchiSelf
解读大模型的微调
实际上，可以使用预训练的大型语言模型进行新任务的上下文学习并进行微调。 那么，什么是上下文学习？又如何对大模型进行微调呢？ 1. 如果无法直接访问模型，例如通过 API 使用模型，上下文学习非常有用。与上下文学习相关的是“硬提示微调”的概念，可以通过修改输入来期望改善输出。 由于目标任务和目标领域与模型预训练的数据集相似程度的不同，几乎总是通过微调所有层来获得更优秀的模型性能。因此，当优化模型性能时，使用预训练LLM的黄金标准是更新所有层。 参数高效微调 参数高效微调允许我们在最小化计算和资源占用的同时重复使用预训练模型。 如前所述，微调更多的层通常会导致更好的结果。如果想要微调更大的模型，例如重新生成的LLM，这些模型只能勉强适合GPU内存，该怎么办呢？人们开发了几种技术，只需训练少量参数便可通过微调提升LLM的性能。
1.5K30编辑于 2023-09-02 - 来自专栏AI
迁移学习与模型微调
迁移学习与模型微调：如何利用已有的预训练模型1. 预训练模型与微调预训练模型（Pretrained Models）指的是已经在一个大规模数据集（例如ImageNet、COCO等）上进行过训练的模型。 模型微调（Fine-tuning）是迁移学习中一种常见的策略，指的是在预训练模型的基础上，针对目标任务进行微小的调整和训练。 微调通常包括两种方法：微调部分网络层：在这种方法中，我们保留预训练模型的大部分结构，只对模型的后几层进行重新训练，以适应目标任务的特定需求。 此时，研究人员可以利用在大规模图像数据集（如ImageNet）上训练的预训练模型，并通过微调来适应新的任务，例如通过微调ResNet模型来识别特定疾病的图像特征，如乳腺癌的X光片。
88000编辑于 2025-01-27 - 来自专栏腾讯技术工程官方号的专栏
大模型微调方法总结
假设要在下游任务微调一个预训练语言模型（如 GPT3），则需要更新预训练模型参数，公式表示如下： W0 是预训练模型初始化的参数，ΔW 就是需要更新的参数。 如果是全参数微调，则它的参数量=W0 参数量（如果是 GPT3，则 ΔW≈175B）。从这可以看出要全参数微调大语言模型，小家小户是不可能的。 在预训练模型每一层(或某些层)中添加 Adapter 模块(如上图左侧结构所示)，微调时冻结预训练模型主体，由 Adapter 模块学习特定下游任务的知识。 通过添加 Adapter 模块来产生一个易于扩展的下游模型，每当出现新的下游任务，通过添加 Adapter 模块来避免全模型微调与灾难性遗忘的问题。 Adapter 方法不需要微调预训练模型的全部参数，通过引入少量针对特定任务的参数，来存储有关该任务的知识，降低对模型微调的算力要求。
2.9K42编辑于 2023-07-26 - 来自专栏深圳架构师同盟
LoRA大模型微调介绍
一、微调流程二、选择微调基础模型如果我们需要进行的是监督指令微调，建议选择带-Instruct后缀的模型，关于模型命名及后缀说明如下截图：三、准备意图识别微调训练集和验证集提醒：从开源平台（如Hugging 你是一个意图识别专家，可以根据用户的问题识别出意图，并返回对应的意图和参数", "input":"我想听音乐", "output":"play_music()"}]可以从训练数据集中抽出10%用作验证数据集四、微调主要参数介绍 5、LoRA 秩（LoRA rank）LoRA（低秩适应）中的秩（Rank）是决定模型微调时参数更新 “表达能力” 的关键参数。它通过低秩矩阵分解的方式，控制可训练参数的规模与模型调整的灵活程度。 秩的数值越小，模型微调时的参数更新越 “保守”；秩的数值越大，模型能捕捉的特征复杂度越高，但也会消耗更多计算资源。 五、模型微调后验证通过预留的10%的微调数据集用做训练后的模型验证集。模型验证数据集中可以加上对应训练时的提示词，如：你是一个意图识别专家，可以根据用户的问题识别出意图，并返回对应的函数调用和参数。
41310编辑于 2026-01-21 - 来自专栏DrugOne
扩展指令微调语言模型
实验结果表明，指令微调在任务数量和模型规模上都具有良好的扩展性。它们各自的扩展行为表明未来的研究应进一步扩大任务数量和模型规模。其次，研究了微调对模型执行推理任务的影响。 最后，可以额看到将模型规模增加一个数量级（即从8B到62B或从62B到540B）会大幅改善微调和非微调模型的性能。 需要注意的是，确定指令微调对于小型模型或大型模型的改进程度（相对于没有微调的基准）可能会更加复杂。 指令微调大幅改善了所有模型类型的标准化平均性能。对于没有进行指令微调的T5模型，作者使用了进行语言建模的标准目标在C4上训练的经过LM适应的模型。 考虑到评估基准的难度以及T5模型不是多语言的事实，与未经微调的模型相比，T5模型从指令微调中受益最大。
72430编辑于 2023-09-19 - 来自专栏深度学习自然语言处理
GLoRA—高效微调模型参数！
FacT：FacT提出使用张量分解方法来存储额外的权重，将模型的权重张量化为单个3D张量，然后将其相加分解为轻量级因子。在微调中，只有因子会被更新和存储。 One-for-All unified formulation 对于模型微调，本文提出了一个统一的公式，包含所有可调维度，包括但不限于权重空间和特征空间。 通过PETL方法微调的模型应该表现出增强的域泛化能力，从而使它们更适用于现实场景。下表展示了GLoRA的域外泛化能力，其中单个ImageNet-1K微调的GLoRA模型经过域外数据集的测试。 总结 本文提出了GLoRA，这是一种广义参数高效的微调方法，它成功地证明了增强大规模预训练模型的微调和迁移学习能力的有效性。 这项工作不仅有助于改进大规模预训练模型的微调过程，而且还为未来的工作开辟了新的途径，包括进一步探索广义低秩适应技术、混合方法的开发以及搜索和优化算法的改进。
84110编辑于 2023-08-22 【大模型微调】一文掌握5种大模型微调的方法
一、大模型微调的基础理论在探索具体方法之前，我们首先需要建立一个清晰的认知框架，理解大模型微调在整个AI模型生命周期中所扮演的角色。 阶段二：微调 - 培养模型“专业素养”在预训练之后，微调阶段则承担了“专业培养”的职责。它使用高质量、小规模、有标注的特定领域数据集，对基座模型进行针对性的再训练。 大模型微调究竟是什么？直观上，大模型微调即是指通过输入特定领域或任务的数据，并有选择性地调整模型参数的技术过程。 为什么大模型微调至关重要？微调的重要性在于它能够“激活”基座模型的潜在能力，为其“装备”上精细化、专业化的功能。没有微调，大模型就像一件未开刃的神兵，空有材质而缺乏锋芒。 四、大模型微调赋能智能未来综上所述，大模型微调是连接通用基座模型强大能力与具体业务需求的关键桥梁。
3.3K40编辑于 2025-10-23- 来自专栏数据分析与挖掘
pycaret之训练模型（创建模型、比较模型、微调模型）
1、比较模型 这是我们建议在任何受监管实验的工作流程中的第一步。此功能使用默认的超参数训练模型库中的所有模型，并使用交叉验证评估性能指标。它返回经过训练的模型对象。 2、创建模型 在任何模块中创建模型就像编写create_model一样简单。它仅采用一个参数，即型号ID作为字符串。 尽管有一个单独的函数可以对训练后的模型进行集成，但是在通过create_model函数中的ensemble参数和方法参数创建时，有一种快速的方法可以对模型进行集成。 3、微调模型 在任何模块中调整机器学习模型的超参数就像编写tune_model一样简单。它使用带有完全可定制的预定义网格的随机网格搜索来调整作为估计量传递的模型的超参数。 对于有监督的学习，此函数将返回一个表，该表包含k倍的通用评估指标的交叉验证分数以及训练有素的模型对象。对于无监督学习，此函数仅返回经过训练的模型对象。
2.7K10发布于 2020-10-27 - 来自专栏猿人谷
大语言模型的微调策略
本文章讲大语言模型的微调策略及基于 ChatGPT 的微调。 一.大语言模型的微调策略 微调是让预训练的大语言模型适应特定领域任务的关键技术。根据不同的需求和资源用户可以选择全面微调或参数高效微调。 下面详细介绍这两种策略： 1.全面微调 全面微调是指对预训练模型的所有参数进行调整，通过合理的数据准备、训练、评估和策略调整，使模型在特定领域的数据集或任务上表现得更出色。 可见模型大小的增速远远超过计算资源的增速，超越了摩尔定律。这使得全面微调对于大部分模型来说不现实，也行不通。然而，参数高效微调可以在计算资源受限的情况下，有效地实现预训练模型的微调。 微调的步骤包括：准备和上传数据；训练新的微调模型；评估结果，并在需要时继续迭代；微调结束后使用模型。 在准备数据阶段，OpenAI对数据集以及内容格式有一定的要求。 使用微调模型：完成微调之后，就可以使用微调模型了。
59010编辑于 2025-10-21 - 来自专栏机器学习与统计学
微调大模型，门槛低到离谱
、全参微调（FFT）、预训练、FP8，你想怎么训都行 模型覆盖极广：不只是文本！ 不止是"会跑"：看看社区微调出了什么 来看几个在 Hugging Face 上火爆的微调模型： 1. Vision RL、TTS 微调 视觉大模型也能用 GRPO 做强化学习了。 门槛确实低到离谱 总的来说：如果你一直想微调大模型、训自己的推理模型、或者只是想试试「把 Claude 的能力蒸馏到小模型里」，现在就是最好的时机。 DeepSeek V3+R1 满血微调工具一键启动，硬件要求降 10 倍 大模型微调实战，教程 + 代码 微调一个视觉大模型，手写数字识别为例，从零开始，基于 Qwen2.5，附代码！
62310编辑于 2026-03-02 - 来自专栏CSDN博客
微调Whisper模型和加速推理
本项目主要的目的是为了对Whisper模型使用Lora进行微调，目前开源了好几个模型，具体可以在openai查看，下面列出了常用的几个模型。 finetune.py：微调模型。 merge_lora.py：合并Whisper和Lora的模型。 evaluation.py：评估使用微调后的模型或者Whisper原模型。 准备好数据之后，就可以开始微调模型了。 微调完成之后会有两个模型，第一个是Whisper基础模型，第二个是Lora模型，需要把这两个模型合并之后才能之后的操作。 提示： 没有微调的模型，可能输出带有标点符号，影响准确率。其他更多的参数请查看这个程序。
3K30编辑于 2023-04-30 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（九）：大模型微调之计算微调参数占比
Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 本文重点介绍如何打印微调参数，以及微调参数占比计算。 二、计算微调参数占比 2.1 概述 基于LoRA进行模型微调时，需要先冻结全部参数，再指定相应的Linear层进行微调，那么如何计算全部参数，如何计算微调参数以及如何计算微调参数占全部参数的比例呢？ 2.2 模型参数结构一览 这里以Qwen2为例，在微调前，对大模型结构有所认知，对于QLoRA量化微调算法来说，只微调大模型的线性层（Linear层），后面会看到在LoRAConfig中，仅指定了"q_proj 三、总结 本文先对Qwen2模型结构进行一览，做到心中有数，之后讲解如何编写print_trainable_parameters(model)方法，如何冻结所有参数，如何指定需要微调的参数以及计算占比，
64510编辑于 2024-08-13 - 来自专栏数据科学（冷冻工厂）
微调预训练的 NLP 模型
针对任何领域微调预训练 NLP 模型的分步指南 简介 在当今世界，预训练 NLP 模型的可用性极大地简化了使用深度学习技术对文本数据的解释。 ❞ 本教程重点介绍使用易于访问的开源数据微调通用句子编码器 (USE) 模型。 可以通过监督学习和强化学习等各种策略来微调 ML 模型。 在本教程中，我们将专注于一次（几次）学习方法与用于微调过程的暹罗架构相结合。 理论框架 可以通过监督学习和强化学习等各种策略来微调 ML 模型。 下一步涉及使用基线模型构建暹罗模型架构，并使用我们的特定领域数据对其进行微调。 本教程以通用句子编码器 (USE) 模型为例，提供了微调过程的分步指南。我们探索了理论框架、数据准备、基线模型评估和实际微调过程。结果证明了微调在增强域内相似性得分方面的有效性。
64831编辑于 2023-08-10 - 来自专栏数据派THU
独家 | 何时微调大语言模型？
作者：Skanda VIvek翻译：陈之炎校对：zrx 本文约3100字，建议阅读7分钟对开源的大语言模型进行微调的确令人兴奋不已，相比之下，又如何微调非开源的大语言模型呢？ 标签：大语言模型 领英（LinkedIn）账号的fork中向我提出了这样一个问题：如何微调诸如LLaMA的开源模型。 其中一个观点是，假设需要回答成千上万份文件中的问题，此时，对这些数据进行训练或微调开源模型，并询问利用这些数据微调模型会不会更容易一些？ 这就是微调的作用所在。 微调LLM 在讨论微调大语言模型之前，首先谈谈像BERT这样的小语言模型的微调，这在大语言模型出现之前很常见。 这与在特定的任务上微调BERT模型截然不同。
59420编辑于 2023-08-08 - 来自专栏大模型&AIGC
6种大模型微调技术
当我们想在用特定领域的数据微调模型时，如果想要full-tuning所有模型参数，看着是不太实际，一来需要相当多的硬件设备（GPU），二来需要相当长的训练时间。 》（2）摘要内容微调是实际上利用大型预训练语言模型执行下游任务的首选方法。 值得一提的是，通过使用T5模型进行模型大小的消融实验，我们展示了提示微调随着规模的增加变得更加具有竞争力：当模型参数超过数十亿时，我们的方法“缩小了差距”并达到了模型微调（即调整所有模型权重）的强大性能 （2）摘要提示微调（Prompt Tuning），该方法仅对冻结的语言模型中的连续提示进行微调，极大地减少了训练时每个任务的存储和内存使用。 随着我们预训练更大的模型，全面微调（即重新训练所有模型参数）变得不太可行。以GPT-3 175B为例，部署独立的微调模型实例，每个实例都有175B参数，成本是极其昂贵的。
2.4K00编辑于 2025-05-08 - 来自专栏程序那些事
LoRA大模型微调的利器
LoRA模型是小型的Stable Diffusion模型，它们对checkpoint模型进行微小的调整。它们的体积通常是检查点模型的10到100分之一。 LoRA（Low-Rank Adaptation）是一种微调Stable Diffusion模型的训练技术。 虽然我们已经有像Dreambooth和文本反转这样的训练技术。那么LoRA有什么用呢？ LoRA对Stable Diffusion模型中最关键的部分进行小的修改：交叉注意力层。研究人员发现，微调这部分模型就足以实现良好的训练。 LoRA模型通过将自己的权重加到这些矩阵上来微调模型。 如果LoRA模型需要存储相同数量的权重，它们的文件怎么会更小呢？LoRA的技巧是将矩阵分解成两个更小的（低秩）矩阵。 第1步：安装LoRA模型 要在AUTOMATIC1111 webui中安装LoRA模型，请将模型文件放入以下文件夹。
4.8K21编辑于 2024-09-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号