- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI
大模型微调
# 大模型微调的主流方式、核心区别与底层原理 微调（Fine-tuning）的核心底层共性：基于预训练模型的知识迁移，冻结预训练模型的大部分通用特征参数，仅针对具体任务优化少量参数/引入轻量模块/设计提示特征 -3层； 微调嵌入层+顶层：针对低资源语言/领域，微调词嵌入层（适配任务专属词汇）+顶层特征层。 3. 核心特点：效果接近全量微调，是工业级大模型的主流选择，参数量仍控制在5%以内。 3.
81910编辑于 2026-02-09 - 来自专栏喔家ArchiSelf
解读大模型的微调
实际上，可以使用预训练的大型语言模型进行新任务的上下文学习并进行微调。 那么，什么是上下文学习？又如何对大模型进行微调呢？ 1. 上下文学习与索引 自从GPT-2和GPT-3出现以来，可以发现在预训练的通用文本语料库上的生成式大型语言模型（LLM）具备了上下文学习的能力，这意味着如果我们想要执行LLM没有明确训练的特定或新任务，不需要进一步训练或微调预训练的 上面的情景突出了微调的三种极端情况：基于特征，仅训练最后一层或几层，或者训练所有层。当然，根据模型和数据集的不同，在各种选项之间探索也可能是值得的。 3. 参数高效微调 参数高效微调允许我们在最小化计算和资源占用的同时重复使用预训练模型。 ChatGPT中的RLHF 解读Toolformer 知识图谱的5G追溯 图计算的学习与思考 AI系统中的偏差与偏见 面向AI 的数据生态系统 机器学习与微分方程的浅析 神经网络中常见的激活函数 老码农眼中的大模型
1.6K30编辑于 2023-09-02 - 来自专栏AI理论与前沿
对于大模型，到底微调还是不微调？
调整开源大语言模型（LLM）的系列博客的第二篇文章。本文讨论：“什么时候应该进行微调，什么时候应该考虑其他技术？”0 引言在 LLM 出现之前，微调通常用于小规模模型（100M – 300M 参数）。 最重要的是，大型模型的微调需要更大的资源和商业硬件。下表 1 列出了在三种情况下，微调 Llama 2 7B 和 Llama 2 13B 模型的峰值 GPU 内存使用量。 QLoRA 这样的算法使得使用有限资源对大模型进行微调变得更加可行。作为示例，表 1 显示了 Llama 2 7B 的三种微调模式（全微调、LoRA 和 QLoRA）的峰值 GPU 内存。 1.4 成本节约微调可以将 Llama 2 70B/GPT-4 等大模型的技能提炼到较小的模型中，如 Llama 2 7B，从而在不影响质量的情况下降低成本和延迟。 3 总结请参考上述问题，以指导你是否需要 RAG 和/或微调，并通过内部实验来分析错误并理解可能的指标提升。最后，微调探索确实需要一个稳健的数据收集和数据改进策略，我们建议在开始微调之前进行这一步。
1K00编辑于 2024-09-17 - 来自专栏腾讯技术工程官方号的专栏
大模型微调方法总结
但是随着预训练语言模型越来越大，这个范式存在以下问题： ● 当我们 finetune 大模型时，由于训练成本太高，不太可能重新训练所有模型参数 ● 以前的方法（论文发表于 2021 年）都或多或少有其它性能问题 假设要在下游任务微调一个预训练语言模型（如 GPT3），则需要更新预训练模型参数，公式表示如下： W0 是预训练模型初始化的参数，ΔW 就是需要更新的参数。 如果是全参数微调，则它的参数量=W0 参数量（如果是 GPT3，则 ΔW≈175B）。从这可以看出要全参数微调大语言模型，小家小户是不可能的。 目前该技术已经广泛应用于大模型的微调，如 Alpaca，stable diffusion+LoRA，而且能和其它参数高效微调方法有效结合，例如 State-of-the-art Parameter-Efficient 对于 BERT 类双向语言模型采用模版(P1, x, P2, [MASK], P3)，对于单向语言模型采用(P1, x, P2, [MASK])： 同时加了两个改动： 1、考虑到预训练模型本身的 embedding
3K42编辑于 2023-07-26 - 来自专栏深圳架构师同盟
LoRA大模型微调介绍
一、微调流程二、选择微调基础模型如果我们需要进行的是监督指令微调，建议选择带-Instruct后缀的模型，关于模型命名及后缀说明如下截图：三、准备意图识别微调训练集和验证集提醒：从开源平台（如Hugging 然后看情况看模型效果，慢慢调高或者。特别是小数据集的朋友们，一开始不要用特别大的学习率。例如1e-4、2e-4这种的。总的来说，小一点的学习率确实比较好拟合。也有不错的效果。 3、截断长度（Cutoff length）截断长度（Max Length）决定了模型处理文本时能接收的最大 token 数量（token 是文本分块后的单元，如词语、子词）。 这样就能实现用小显存实现大 batch size 的效果，类似于 “分期付款” 的效果。 五、模型微调后验证通过预留的10%的微调数据集用做训练后的模型验证集。模型验证数据集中可以加上对应训练时的提示词，如：你是一个意图识别专家，可以根据用户的问题识别出意图，并返回对应的函数调用和参数。
56810编辑于 2026-01-21 - 来自专栏机器学习与统计学
微调大模型，门槛低到离谱
微调大模型这件事，门槛低到什么程度了？ 之前这事儿都可以做成商业模式了，数据、环境、脚本、硬件一套下来，成本极高。 Unsloth 会自动安装依赖、下载模型、开始训练。 你甚至不需要自己有 GPU，用 Google 的免费 T4 就能微调 8B 参数的大模型，真正的零成本入门。 Vision RL、TTS 微调 视觉大模型也能用 GRPO 做强化学习了。 门槛确实低到离谱 总的来说：如果你一直想微调大模型、训自己的推理模型、或者只是想试试「把 Claude 的能力蒸馏到小模型里」，现在就是最好的时机。 DeepSeek V3+R1 满血微调工具一键启动，硬件要求降 10 倍 大模型微调实战，教程 + 代码 微调一个视觉大模型，手写数字识别为例，从零开始，基于 Qwen2.5，附代码！
98710编辑于 2026-03-02 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（九）：大模型微调之计算微调参数占比
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 本文重点介绍如何打印微调参数，以及微调参数占比计算。 二、计算微调参数占比 2.1 概述 基于LoRA进行模型微调时，需要先冻结全部参数，再指定相应的Linear层进行微调，那么如何计算全部参数，如何计算微调参数以及如何计算微调参数占全部参数的比例呢？ 2.2 模型参数结构一览 这里以Qwen2为例，在微调前，对大模型结构有所认知，对于QLoRA量化微调算法来说，只微调大模型的线性层（Linear层），后面会看到在LoRAConfig中，仅指定了"q_proj
72310编辑于 2024-08-13 【大模型微调】一文掌握5种大模型微调的方法
一、大模型微调的基础理论在探索具体方法之前，我们首先需要建立一个清晰的认知框架，理解大模型微调在整个AI模型生命周期中所扮演的角色。 大模型微调究竟是什么？直观上，大模型微调即是指通过输入特定领域或任务的数据，并有选择性地调整模型参数的技术过程。 3、解码器层（Decoder，右侧）与编码器对应的是解码器，它同样由N个相同层堆叠而成，但结构更为复杂。 3、QLoRA-极致压缩的微调方案QLoRA（Quantized Low-Rank Adaptation）是LoRA的“量化增强版”，通过将预训练模型量化为4位精度，进一步压低了微调的内存门槛。 四、大模型微调赋能智能未来综上所述，大模型微调是连接通用基座模型强大能力与具体业务需求的关键桥梁。
4.2K40编辑于 2025-10-23- 来自专栏数据派THU
独家 | 何时微调大语言模型？
作者：Skanda VIvek翻译：陈之炎校对：zrx 本文约3100字，建议阅读7分钟对开源的大语言模型进行微调的确令人兴奋不已，相比之下，又如何微调非开源的大语言模型呢？ 标签：大语言模型 领英（LinkedIn）账号的fork中向我提出了这样一个问题：如何微调诸如LLaMA的开源模型。 这就是微调的作用所在。 微调LLM 在讨论微调大语言模型之前，首先谈谈像BERT这样的小语言模型的微调，这在大语言模型出现之前很常见。 要点 应用于特定领域的LLM在行业中非常有价值，在增加成本和可定制性方面分为3个层面： 1. 如果具备大约~50-100k指令或对话来微调基线模型的数据库，这也值得一试。 3.
65520编辑于 2023-08-08 - 来自专栏大模型&AIGC
6种大模型微调技术
之后拼接query正常输入LLM，并只训练这些embedding(4) 特点效果优于GPT-3的few-shot learning当模型参数量达100亿时，接近于全模型微调效果4.P-tuning（2021 我们提出了一个新颖的实验发现：经过适当优化的提示微调可以在广泛的模型规模和NLU任务中普遍有效。它在性能上与微调相当，但仅需要调整0.1%-3%的参数。 ，无需verbalizer(4) 特点在小、大模型上，效果均优于P-tuning。 随着我们预训练更大的模型，全面微调（即重新训练所有模型参数）变得不太可行。以GPT-3 175B为例，部署独立的微调模型实例，每个实例都有175B参数，成本是极其昂贵的。 与使用Adam对GPT-3 175B进行微调相比，LoRA可以将可训练参数数量减少10,000倍，GPU内存需求减少3倍。
2.9K00编辑于 2025-05-08 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（八）：大模型微调之LoraConfig
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 LoRA是一种用于微调大型语言模型的轻量级方法，它通过添加低秩矩阵到预训练模型的权重上来实现适应性调整，从而在不显著增加模型大小的情况下提升特定任务的性能。 target_modules: 指定模型中的哪些模块（层）将应用LoRA适应。这允许用户集中资源在对任务最相关的部分进行微调。 get_peft_model(model, config) print_trainable_parameters(model) 三、总结 本文简要介绍LoraConfig的配置参数情况，具体的机遇peft对大模型进行微调后面单独开一页详细讲解
1K10编辑于 2024-08-13 - 来自专栏charlieroro
2024年大语言模型的微调
微调包括调节通用模型并将其调节为特定模型，它是连接通用预训练模型和特定应用的特定需求之间的桥梁，从而保证大语言模型能够接近人类的预期。 用于微调大语言模型的数据集必须服务于指导的目的。 完整微调会为每个训练的任务提供一个新版本模型，这些新模型和原始模型一样大，因此如果你需要为多个任务进行微调的话，看会导致存储成本问题。 在大语言模型的上下文中，RAG和微调通常被认为是相互竞争的方法，但二者的结合可以显著提升模型的表现。在将微调应用到RAG系统一文中就通过将二者结合来确定和改进模型中较弱的组件。 RAG和微调的对比如下： 微调最佳实践 明确定义任务 定义任务是微调大语言模型的基础步骤。
85010编辑于 2024-03-08 - 来自专栏程序那些事
LoRA大模型微调的利器
LoRA模型是小型的Stable Diffusion模型，它们对checkpoint模型进行微小的调整。它们的体积通常是检查点模型的10到100分之一。 LoRA（Low-Rank Adaptation）是一种微调Stable Diffusion模型的训练技术。 虽然我们已经有像Dreambooth和文本反转这样的训练技术。那么LoRA有什么用呢？ LoRA对Stable Diffusion模型中最关键的部分进行小的修改：交叉注意力层。研究人员发现，微调这部分模型就足以实现良好的训练。 LoRA模型通过将自己的权重加到这些矩阵上来微调模型。 如果LoRA模型需要存储相同数量的权重，它们的文件怎么会更小呢？LoRA的技巧是将矩阵分解成两个更小的（低秩）矩阵。 第1步：安装LoRA模型 要在AUTOMATIC1111 webui中安装LoRA模型，请将模型文件放入以下文件夹。
6.1K21编辑于 2024-09-04 - 来自专栏具身小站
大模型参数高效微调概述（PEFT）
PEFT，全称是 参数高效微调 （Parameter-Efficient Fine-Tuning），是一套用于调整大型预训练模型（如大语言模型LLM）以适应特定下游任务的方法论，其核心思想是在 极小化计算和存储资源 QLoRA ：LoRA的进化版， 结合了4-bit量化技术 ，进一步将模型的基本权重压缩，使得在单张消费级GPU（如24GB显存）上微调650亿参数的大模型成为可能。 3 PEFT的主要作用与优势 PEFT之所以成为大模型应用的关键技术，是因为它解决了全量微调的几大痛点： 极大降低硬件门槛 ：由于需要计算和存储梯度的参数极少，对GPU显存的需求大幅下降。 4 应用领域 PEFT的应用早已不限于大语言模型（NLP），它已扩展到AI的各个前沿领域： 多模态模型 ：用于微调图像生成模型（如Stable Diffusion）进行风格化训练（如DreamBooth 总的来说，PEFT不是单一的算法，而是一套 让大模型“飞入寻常百姓家”的方法论 。
78710编辑于 2026-03-09 - 来自专栏程序随笔
聊聊大模型的微调实现及其应用
微调框架概述 模型的微调有多种方式，对于入门的来说，一般都是基于官方的文档微调；最近发现很多开源库，其目的就是支持应用多种微调策略来微调模型，简化模型的微调门槛。 应用 目前绝大多数的大模型都是基于基座模型(GLM、QWen、LlaMa、BaiChuan)等微调训练而来，不过实现的逻辑却是有多种，要么基于官方的微调文档，要么基于开源微调库实现。 CareGPT 就是基于开源微调库LLaMA-Factory实现的医疗领域大模型。 其架构设计如下： 在其架构设计中，有两个部分比较值得关注： 微调框架的集成 通过集成了微调框架，调用底层具备的能力，准备多种格式的数据集微调模型。 在这里面的道道还是蛮多的，有一定的大模型知识再基于这些库去做参考去做应用，将极大的降低LLM的应用门槛。更有甚者可以了解底层的实现逻辑。
84710编辑于 2024-03-16 - 来自专栏具身小站
大模型微调概述 - LoRA（低秩适应）
LoRA 是目前大模型微调领域最流行的参数高效微调技术之一，核心思想非常巧妙： 在冻结原始预训练模型权重的基础上，通过添加少量可训练的低秩矩阵来模拟模型对特定下游任务的适应过程。 1 原理详解 在预训练模型中，权重矩阵（例如 Transformer 中的 Wq 、 Wk 、 Wv 、 Wo 等）通常都是满秩的，当针对某个下游任务进行全参数微调时，会得到一个权重的更新量 ΔW，微调后的权重就是 尽管预训练模型本身是高维复杂的，但针对特定任务的适应性调整往往是低维的。例如，模型原本已经学会了通用语法和知识，要适应某个特定领域的对话，只需要在几个关键方向上微调即可，这些方向就对应着低秩子空间。 3 主要特点与优势 参数效率极高：可训练参数量通常只有全量微调的 0.1% ~ 1% 左右。例如，7B 参数的 LLaMA，若只微调注意力层，r=8 时 LoRA 参数量仅约几百万。 显存占用大幅降低：由于不需要计算和存储大部分参数的梯度，且优化器状态（如 Adam 的一阶和二阶矩）也大幅减少，训练所需的显存可降低 2/3 以上，使得在消费级 GPU 上微调大模型成为可能。
98020编辑于 2026-03-09 Replicate平台部署与微调大语言模型
语言模型现已登陆某机构平台发布时间：2023年4月5日 作者：bfirsh现在您可以在某机构平台上部署、运行和微调大语言模型。 该平台已提供 FLAN-T5、GPT-J 和 LLaMA 的官方版本，您也可以推送任何其他自定义模型。同时，平台发布了语言模型微调的预览版。 语言模型可以通过几行代码运行，就像该平台上的任何其他模型一样：import replicateoutput = replicate.run( "replicate/flan-t5-xl:3ae0799123a1fe11f8c89fd99632f843fc5f7a761630160521c4253149754523 预览版：微调模型在良好提示下，这些模型可以执行许多任务，但在自有数据上进行微调后会更加强大。可以创建了解产品的支持机器人、按个人风格撰写邮件、从文本中提取结构化数据，以及实现各种其他功能。 平台发布了云端训练模型的预览版。可以微调 FLAN-T5、GPT-J 和 LLaMA。未来将很快增加对其他模型的支持以及自定义训练脚本。
8410编辑于 2026-05-20- 来自专栏xiaosen
LLaMA Factory微调Llama3模型
LLaMA Factory是一款开源低代码大模型微调框架，集成了业界最广泛使用的微调技术，支持通过Web UI界面零代码微调大模型，目前已经成为开源社区内最受欢迎的微调框架。 } ] } ] 模型微调 我们不光可以通过命令行进行微调，还可以启动一个webui来微调推理 ! web界面： 数据集使用上述下载的train.json，点击「预览数据集」可以预览一下数据 设置学习率为1e-4，梯度累积为2，有利于模型拟合，其他的可以按需调整； 将输出目录修改为train_llama3 点击开始然后开始评估模型，大概三分钟，这里跳过。。。 选择「Chat」栏，确保适配器路径是train_llama3，点击「加载模型」即可在Web UI中和微调模型进行对话。 模型微调之前的对话： 微调之后：
71310编辑于 2024-09-05 - 来自专栏AI前沿技术
大模型训练｜LoRA高效参数微调技术
它打破传统全量微调的局限，只对模型中少量参数进行调整，就能让模型在特定任务上表现出色，大大降低了大模型在不同任务适配过程中的资源门槛。 如： • 图像、文本等数据的特征矩阵中，大部分有价值的信息可通过低秩矩阵捕捉，冗余信息（高秩分量）对结果影响较小； • 大模型的权重更新矩阵，微调时的 ，本身具有 “低秩特性”，所以模型适应新任务时，权重的变化不需要满秩矩阵来描述 这也是低秩适应技术在大模型优化中广泛应用的核心原因。 2，LoRA微调策略 • 传统的全量微调策略 预训练好的模型，其权重矩阵为 ，维度是 。 图1，LoRA 微调训练示意图。 3，LoRA微调相关问题 3.1，模型中那部分参数应该使用LoRA 表1，对自注意力中不同的参数进行微调的效果。 在大模型的自注意力层，可训练的参数有四个 ，通过变化矩阵的秩 r，保持可微调的参数总量为18M，分别在两个任务上进行测试。
1.2K10编辑于 2026-01-13 - 来自专栏有文化的技术人
大模型微调开源框架推荐
LLaMA-Factory 「GitHub」: https://github.com/hiyouga/LLaMA-Factory 「特点」: 支持 100+ 种 LLM 的微调（LLaMA、Mistral 、Qwen、ChatGLM 等） 提供 WebUI 界面，零代码微调 支持 LoRA、QLoRA、全参数微调等多种方法 内置数据集处理和评估功能 2. 特点」: Hugging Face 官方出品 支持 LoRA、Prefix Tuning、P-Tuning、Adapter 等方法 与 Transformers 库深度集成 显存占用低，适合消费级显卡 3. Axolotl 「GitHub」: https://github.com/OpenAccess-AI-Collective/axolotl 「特点」: 配置驱动，通过 YAML 文件定义训练流程 支持多种模型和微调方法 快速选择建议 场景 推荐框架 新手入门、零代码 LLaMA-Factory Hugging Face 生态 PEFT 显存有限、追求速度 Unsloth 超大规模分布式训练 DeepSpeed 国产模型微调
33410编辑于 2026-04-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号