- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型&AIGC
6种大模型微调技术
值得一提的是，通过使用T5模型进行模型大小的消融实验，我们展示了提示微调随着规模的增加变得更加具有竞争力：当模型参数超过数十亿时，我们的方法“缩小了差距”并达到了模型微调（即调整所有模型权重）的强大性能 input和target，则使用原始的input embedding(5) 使用方式离散和连续template token混合时，显示地插入一下anchor（离散的token）有助于template的优化(6) 当参数量达10B，效果相当于FT6.LoRA（2021）(1) 论文信息来自论文：《LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS》（2）摘要自然语言处理的一个重要范式包括在通用领域数据上进行大规模预训练 随着我们预训练更大的模型，全面微调（即重新训练所有模型参数）变得不太可行。以GPT-3 175B为例，部署独立的微调模型实例，每个实例都有175B参数，成本是极其昂贵的。 Model)，学习目标为而加入LoRA后，学习目标为：(6) 配置在多个部位$(Q/K/V/Output)$同时添加$\bigtriangleup W$ ，会比只在单一部分上添加权重$\bigtriangleup
3.1K00编辑于 2025-05-08 - 来自专栏程序随笔
ChatGLM2-6B模型的微调
对GLM-130B，ChatGLM千亿模型，ChatGLM-6B的区分不够清楚，这里给出说明： GLM-130B：于2022年8月由清华智谱AI开源放出。 ChatGLM千亿模型: 该模型是为了解决大基座模型在复杂问题、动态知识、人类对齐场景的不足，基于GLM-130B，引入面向对话的用户反馈，进行指令微调后，得到的对话机器人。 ChatGLM-6B：于2023年3月开源。在进行ChatGLM千亿模型内测的同时，清华团队也开放出了同样技术小参数量的版本，方便研发者们进行学习和开发（非商用）。 模型部署 有两种方式用来运行微调后的模型： 基于Huggingface的开发规范，将原模型超参数文件与微调后的超参数文件一起加载，并调用。 调整 web_demo.sh 文件中的路径配置，运行即可。 参考 ChatGLM2-6B微调视频讲解 基于第二代 ChatGLM2-6B P-Tuning v2 微调训练医疗问答任务 官方p-tuning微调文档
65110编辑于 2023-12-18 - 来自专栏MavenTalk
ChatGLM-6B大模型微调实战总结
上篇我们已经具备了 ChatGLM-6B 初步的运行环境，这为实现完全属于自己的模型奠定了基础（快速部署ChatGLM-6B大模型实战总结），接下来将针对模型进行微调，以便让它真正成为一个定制化智能助手 在这个过程中，我将直接使用官方的P-Tuning v2工具对ChatGLM-6B模型进行参数微调。 /THUDM/chatglm-6b \ # 加载模型文件地址 --output_dir output/adgen-chatglm-6b-pt-$PRE_SEQ_LEN-$LR \ # 保存训练模型文件地址 推理完成后，就可以运行训练的模型，来查看实际的微调效果到底如何。 在实践中，我们使用了 ChatGLM-6B 模型，并经历了模型的训练和推理过程。训练模型消耗了相当多的时间，但也让我们体会到了模型训练的复杂性和挑战性。
4.2K43编辑于 2023-09-06 - 来自专栏AI
大模型微调
# 大模型微调的主流方式、核心区别与底层原理 微调（Fine-tuning）的核心底层共性：基于预训练模型的知识迁移，冻结预训练模型的大部分通用特征参数，仅针对具体任务优化少量参数/引入轻量模块/设计提示特征 一、第一类：全量微调（Full Fine-tuning） 底层核心原理 对预训练模型的所有参数进行微调更新，仅保留预训练的参数初始化值（利用预训练的通用知识加快收敛），通过下游任务数据让模型整体适配任务特征 二、第二类：部分微调（Partial Fine-tuning） 底层核心原理 基于预训练模型的特征分层特性，冻结模型底层/中层的通用特征参数，仅微调上层的任务特定特征参数，是全量微调的轻量化改进版。 所有微调方式的底层逻辑本质 预训练模型的「通用知识」与下游任务的「特定知识」的融合方式不同： 全量/部分微调：通过更新主模型参数让特定知识覆盖/融合通用知识； PEFT：通过新增轻量模块让特定知识以“残差 以内，适合工业级两段式端到端模型的落地； 避免全量/部分微调：针对Transformer大模型的两段式端到端架构，全量/部分微调的算力成本极高，且多任务适配时模型存储成本不可接受。
1K10编辑于 2026-02-09 - 来自专栏AI技术探索和应用
ChatGLM模型微调
ChatGLM3: https://github.com/THUDM/ChatGLM3微调前建议将模型下载到本地。微调前还需要安装依赖。 这种方法在微调的step较多的情况下会影响到模型的工具调用功能。 ，export CUDA_VISIBLE_DEVICES=6 # 指定序号6的卡微调命令如下：. （6）推理验证对于输入输出格式的微调，可使用 inference.py 进行基本的推理验证。 inference.py \ --tokenizer THUDM/chatglm3-6b \ --model "path to finetuned model checkpoint" 基座模型微调
1.9K21编辑于 2025-09-26 - 来自专栏相约机器人
PyTorch模型微调实例
__version__ Out[1]: '1.0.0' Fine tuning 模型微调 在前面的介绍卷积神经网络的时候，说到过PyTorch已经为我们训练好了一些经典的网络模型，那么这些预训练好的模型是用来做什么的呢 没关系，我们先找到一个同类的别人训练好的模型，把别人现成的训练好了的模型拿过来，换成自己的数据，调整一下参数，再训练一遍，这就是微调（fine-tune）。 PyTorch里面提供的经典的网络模型都是官方通过Imagenet的数据集与训练好的数据，如果我们的数据训练数据不够，这些数据是可以作为基础模型来使用的。 为什么要微调 1. 这时候如果还想用上大型神经网络的超强特征提取能力，只能靠微调已经训练好的模型。 2. = {x:len(image_dataset[x]) for x in dataset_names} 开始配置网络，由于ImageNet是识别1000个物体，我们的狗的分类一共只有120，所以需要对模型的最后一层全连接层进行微调
2.1K10发布于 2020-02-19 - 来自专栏AI理论与前沿
对于大模型，到底微调还是不微调？
调整开源大语言模型（LLM）的系列博客的第二篇文章。本文讨论：“什么时候应该进行微调，什么时候应该考虑其他技术？”0 引言在 LLM 出现之前，微调通常用于小规模模型（100M – 300M 参数）。 当时，最先进的领域应用通过监督微调（SFT）构建，即使用标注数据对预训练模型进行进一步训练，以适应自己的领域和下游任务。然而，随着大型模型（>1B 参数）的兴起，微调的问题变得更加复杂。 最重要的是，大型模型的微调需要更大的资源和商业硬件。下表 1 列出了在三种情况下，微调 Llama 2 7B 和 Llama 2 13B 模型的峰值 GPU 内存使用量。 1.4 成本节约微调可以将 Llama 2 70B/GPT-4 等大模型的技能提炼到较小的模型中，如 Llama 2 7B，从而在不影响质量的情况下降低成本和延迟。 例如，这篇文章展示了如何通过微调 GPT-3.5 评审模型，将其从更昂贵的 GPT-4 模型中提炼出来，最终节省了成本。1.5 新任务/能力通过微调，往往可以实现新的能力。
1.1K00编辑于 2024-09-17 - 来自专栏具身小站
模型微调的概述
想把一个通用大模型调教成“懂行”的专家，离不开微调，可以把微调理解为“上学”——数据是教材，微调方法是学习方法，步骤则是完整的学习流程。 目前的主流方法有 全量微调 和以LoRA为代表的 参数高效微调 两类，它们的关系就像是“系统性精修”和“专项补习班”，目的都是为了让模型更专业，下面表可以对比不同微调方法的核心差异： PART 01 微调方法总览 QLoRA：极致压缩的“平民神器” 工作原理 ：在LoRA的基础上，将基座模型量化为4-bit精度，再在其上进行LoRA微调。这样，一个70B的模型也能在单张24GB的消费级显卡上完成微调。 优势 ：将大模型微调的硬件门槛降到最低，使“平民玩家”也能微调百亿级模型，是资源受限情况下的首选方案。 PART 03 通用微调流程 无论选择哪种方法，微调都遵循相似的标准化流程： 数据准备 ：这是微调成功与否的决定性因素，数据质量远比数量重要，一份包含10%噪声的数据，足以让模型性能下降30%以上，需要
23710编辑于 2026-05-22 - 来自专栏大模型应用
大模型应用：情感分析模型微调深度分析：从基础预测到性能优化.6
随着预训练语言模型的普及，微调（Fine-tuning）已成为将通用语言模型适配到特定情感分析任务的标准方法。 今天我们将从实践角度出发，由浅入深地探讨情感分析模型微调后的深度分析方法，从而能够掌握模型评估与优化的完整流程。二、情感分析模型微调1. 微调的概念 模型微调是指在预训练模型的基础上，使用特定领域的数据进行额外训练，使模型适应目标任务的过程，相比从零开始训练，微调具有以下优势：数据效率：只需少量标注数据即可获得良好性能训练速度 BERT模型进行微调，用于情感分析任务，主要功能包括：1. 模型微调：在情感分析任务上对预训练模型进行微调2.3 核心组件2.3.1 Tokenizer（分词器）将中文文本转换为模型可理解的数字序列处理特殊字符、标点符号添加模型所需的特殊token2.3.2 BERT
52333编辑于 2026-02-03 - 来自专栏喔家ArchiSelf
解读大模型的微调
实际上，可以使用预训练的大型语言模型进行新任务的上下文学习并进行微调。 那么，什么是上下文学习？又如何对大模型进行微调呢？ 1. 如果无法直接访问模型，例如通过 API 使用模型，上下文学习非常有用。与上下文学习相关的是“硬提示微调”的概念，可以通过修改输入来期望改善输出。 由于目标任务和目标领域与模型预训练的数据集相似程度的不同，几乎总是通过微调所有层来获得更优秀的模型性能。因此，当优化模型性能时，使用预训练LLM的黄金标准是更新所有层。 参数高效微调 参数高效微调允许我们在最小化计算和资源占用的同时重复使用预训练模型。 如前所述，微调更多的层通常会导致更好的结果。如果想要微调更大的模型，例如重新生成的LLM，这些模型只能勉强适合GPU内存，该怎么办呢？人们开发了几种技术，只需训练少量参数便可通过微调提升LLM的性能。
1.7K30编辑于 2023-09-02 - 来自专栏AI
迁移学习与模型微调
迁移学习与模型微调：如何利用已有的预训练模型1. 预训练模型与微调预训练模型（Pretrained Models）指的是已经在一个大规模数据集（例如ImageNet、COCO等）上进行过训练的模型。 微调通常包括两种方法：微调部分网络层：在这种方法中，我们保留预训练模型的大部分结构，只对模型的后几层进行重新训练，以适应目标任务的特定需求。 此时，研究人员可以利用在大规模图像数据集（如ImageNet）上训练的预训练模型，并通过微调来适应新的任务，例如通过微调ResNet模型来识别特定疾病的图像特征，如乳腺癌的X光片。 6.
1.1K00编辑于 2025-01-27 90%的人都误解了模型微调，到底何时应该使用模型微调
你说把这1T的PDF文档直接微调进大模型怎么样，那样是不是回答就快了，而且幻觉也能降低一些，毕竟都让模型学会了。 小王自己结合之前看的一些AI文章，感觉老板说的很有道理，现在做知识检索，无非就是RAG或者直接把知识微调进模型里，让知识根深蒂固刻在模型骨子里，那既然RAG不行，那就微调吧。 今天跟大家聊聊大模型微调这件事。 ------ 首先我们要明白大模型微调（Fine-tuning）的本质，是要调整其模型内部参数的分布，让模型学会特定的指令和语言风格，做格式对齐和风格迁移，尤其以LoRA为代表的微调方式。 说到这里，大家应该理解了微调是用来做什么的了。那如果，我们将这1T的PDF文档微调进大模型后，会有什么后果呢？ 第一个，必然是降低其原有的通用能力。
8300编辑于 2026-06-17- 来自专栏深圳架构师同盟
LoRA大模型微调介绍
一、微调流程二、选择微调基础模型如果我们需要进行的是监督指令微调，建议选择带-Instruct后缀的模型，关于模型命名及后缀说明如下截图：三、准备意图识别微调训练集和验证集提醒：从开源平台（如Hugging 比如我们像设定批量大小为 6，但是我们的CPU 显存只能支持到 2了，这时候就可以把梯度累计步数 设置为 3，实际的步骤就是：先算 2 个样本的梯度，不更新参数；再算 2 个样本的梯度，不更新参数；再算 5、LoRA 秩（LoRA rank）LoRA（低秩适应）中的秩（Rank）是决定模型微调时参数更新 “表达能力” 的关键参数。它通过低秩矩阵分解的方式，控制可训练参数的规模与模型调整的灵活程度。 秩的数值越小，模型微调时的参数更新越 “保守”；秩的数值越大，模型能捕捉的特征复杂度越高，但也会消耗更多计算资源。 五、模型微调后验证通过预留的10%的微调数据集用做训练后的模型验证集。模型验证数据集中可以加上对应训练时的提示词，如：你是一个意图识别专家，可以根据用户的问题识别出意图，并返回对应的函数调用和参数。
65710编辑于 2026-01-21 - 来自专栏DrugOne
扩展指令微调语言模型
需要注意的是，确定指令微调对于小型模型或大型模型的改进程度（相对于没有微调的基准）可能会更加复杂。 图 6 图 7 指令微调使用包含和不包含示例的CoT数据的最后一个好处是，由此产生的模型能够在零样本设置中进行CoT推理。 图6显示了针对23个未知的具有挑战性的BIG-Bench任务的BBH基准测试中，Flan-PaLM模型通过利用由短语“let's think step-by-step”激活的CoT推理能力可以实现改进的性能 指令微调大幅改善了所有模型类型的标准化平均性能。对于没有进行指令微调的T5模型，作者使用了进行语言建模的标准目标在C4上训练的经过LM适应的模型。 考虑到评估基准的难度以及T5模型不是多语言的事实，与未经微调的模型相比，T5模型从指令微调中受益最大。
91230编辑于 2023-09-19 - 来自专栏腾讯技术工程官方号的专栏
大模型微调方法总结
假设要在下游任务微调一个预训练语言模型（如 GPT3），则需要更新预训练模型参数，公式表示如下： W0 是预训练模型初始化的参数，ΔW 就是需要更新的参数。 如果是全参数微调，则它的参数量=W0 参数量（如果是 GPT3，则 ΔW≈175B）。从这可以看出要全参数微调大语言模型，小家小户是不可能的。 在预训练模型每一层(或某些层)中添加 Adapter 模块(如上图左侧结构所示)，微调时冻结预训练模型主体，由 Adapter 模块学习特定下游任务的知识。 通过添加 Adapter 模块来产生一个易于扩展的下游模型，每当出现新的下游任务，通过添加 Adapter 模块来避免全模型微调与灾难性遗忘的问题。 Adapter 方法不需要微调预训练模型的全部参数，通过引入少量针对特定任务的参数，来存储有关该任务的知识，降低对模型微调的算力要求。
3K42编辑于 2023-07-26 - 来自专栏开源心路
ChatGLM-6B使用、微调、训练
ChatGLM-6B 参考了 ChatGPT 的设计思路，在千亿基座模型 GLM-130B 中注入了代码预训练，通过有监督微调等技术实现与人类意图对齐（即让机器的回答符合人类的期望和价值观）。 https://github.com/THUDM/ChatGLM-6B模型3月14日开源后，Github Star增速惊人，连续12天位列全球大模型下载榜第一名。 /blob/main/ptuning/README.md P-Tuning 用自己的数据集对ChatGLM模型进行微调 P-Tuning V2已将需要微调的参数减少到原来的0.1%- 3%，大大加快了训练速度 bash train.sh Thinking：将 train.sh 中的 THUDM/chatglm-6b 改为本地的模型路径 (参考train2.sh) Thinking：如何使用训练好的ChatGLM 参数，所以在推理时需要同时加载原 ChatGLM-6B 模型以及 PrefixEncoder 的权重 轻量库 Peft库：https://github.com/huggingface/peft很方便地实现将普通的
2.5K20编辑于 2024-01-13 - 来自专栏深度学习自然语言处理
GLoRA—高效微调模型参数！
FacT：FacT提出使用张量分解方法来存储额外的权重，将模型的权重张量化为单个3D张量，然后将其相加分解为轻量级因子。在微调中，只有因子会被更新和存储。 One-for-All unified formulation 对于模型微调，本文提出了一个统一的公式，包含所有可调维度，包括但不限于权重空间和特征空间。 通过PETL方法微调的模型应该表现出增强的域泛化能力，从而使它们更适用于现实场景。下表展示了GLoRA的域外泛化能力，其中单个ImageNet-1K微调的GLoRA模型经过域外数据集的测试。 总结 本文提出了GLoRA，这是一种广义参数高效的微调方法，它成功地证明了增强大规模预训练模型的微调和迁移学习能力的有效性。 这项工作不仅有助于改进大规模预训练模型的微调过程，而且还为未来的工作开辟了新的途径，包括进一步探索广义低秩适应技术、混合方法的开发以及搜索和优化算法的改进。
98110编辑于 2023-08-22 【大模型微调】一文掌握5种大模型微调的方法
一、大模型微调的基础理论在探索具体方法之前，我们首先需要建立一个清晰的认知框架，理解大模型微调在整个AI模型生命周期中所扮演的角色。 阶段二：微调 - 培养模型“专业素养”在预训练之后，微调阶段则承担了“专业培养”的职责。它使用高质量、小规模、有标注的特定领域数据集，对基座模型进行针对性的再训练。 大模型微调究竟是什么？直观上，大模型微调即是指通过输入特定领域或任务的数据，并有选择性地调整模型参数的技术过程。 为什么大模型微调至关重要？微调的重要性在于它能够“激活”基座模型的潜在能力，为其“装备”上精细化、专业化的功能。没有微调，大模型就像一件未开刃的神兵，空有材质而缺乏锋芒。 四、大模型微调赋能智能未来综上所述，大模型微调是连接通用基座模型强大能力与具体业务需求的关键桥梁。
4.6K40编辑于 2025-10-23CharacterGLM-6B-Chat Lora微调
概述 本文简要介绍如何基于transformers、peft等框架，对CharacterGLM-6B-chat模型进行Lora微调。 Lora原理可参考博客：知乎|深入浅出Lora 本文代码未使用分布式框架，微调 ChatGLM3-6B-Chat 模型至少需要 21G 及以上的显存，且需要修改脚本文件中的模型路径和数据集路径。 指令集构建 LLM微调一般指指令微调过程。所谓指令微调，是说我们使用的微调数据形如： { "instruction":"回答用户以下问题，直接给出结果。" 加载tokenizer和半精度模型 模型以版精度形式加载，如果显卡比较新，可以用torch.bfloat形式加载，对于自定义的模型一定要指定trust_remote_code参数为True tokenizer (**ipt, max_length=128, do_sample=True)[0], skip_special_tokens=True) 从新加载 通过PEFT所微调的模型，都可以使用下面的方法进行重新加载
39700编辑于 2025-07-20大模型本地微调Debug总结
三、 生产工具链集成 (LLaMA-Factory & WebUI) 6. 原因：Gradio 6.x 彻底移除了 4.x 的 type="messages" 参数，而 LLaMA-Factory 源码尚未适配最新版。 问题：微调数据的“结构化污染” 现象：训练结果包含 confidence: 1.0, ner: [...] 等大量 JSON 标签。 问题：严重的“数值幻觉” 现象：问 4 级洁净度限值，模型回答 “3500” 或 “1,000,000”，而非真值 “1020”。 原因：底座模型惯性太强，且表格数据在微调样本中占比太低。 问题：模型加载时的网络“反扑” 现象：启动聊天（Chat）模式时报 OSError: Failed to load tokenizer。
9410编辑于 2026-07-02
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号