- 综合排序
- 最热优先
- 最新优先
- 来自专栏一点人工一点智能
全景解读 LLM 后训练技术
这些聪明表现的背后，得益于大语言模型（LLM）的两个关键训练阶段：预训练（Pretraining）和后训练（Post-training）。 ，我们沿用上述原论文给出的分类视角（taxonomy），从「微调」、「强化学习」、「测试时拓展」三个类别去认识各种后训练技术。 更新后的权重矩阵为： 由于r远小于d和k，因此 LoRA 只需要训练很少的参数，就可以达到与全参数微调相近的性能。 3）位置选择策略： · Prefix-Tuning（粉色）： 核心思想：只在每层的开头插入可训练的提示向量。 实践指南：如何选择后训练方案 6.1 决策流程图 6.2 工具链推荐
70610编辑于 2025-03-20 - 来自专栏机器之心
后训练时代如何延续Scaling Law？这是你该读的LLM后训练综述
机器之心报道 编辑：Panda 现如今，微调和强化学习等后训练技术已经成为提升 LLM 能力的重要关键。 LLM 的训练过程大致可分为两个阶段：预训练和后训练。 预训练阶段通常依赖在大规模语料库上的下一 token 预测目标，后训练阶段通常则包括多轮微调和对齐。 通过这些目标明确的后训练技术，LLM 可以更好地与人类意图和道德伦理要求对齐，最终提高其在现实世界中的适用性。下面总结了关键的后训练阶段。 LLM 中的监督微调 如图 2 所示，微调是 LLM 后训练配方的基本组成部分。 表 3 概述了这些基准分组下的关键数据集。 未来方向 最后，作者团队还收集了与 LLM 后训练方法相关的论文并分析了它们的趋势，如图 7 所示。
56200编辑于 2025-05-02 Llama-3 70B后训练中语言混合比优化实践
A Practice of Post-Training on Llama-3 70B with Optimal Selection of Additional Language Mixture Ratio 大型语言模型（LLM）通常需要进行持续预训练（CPT）以获得不熟悉的语言技能或适应新领域。 CPT的巨大训练成本往往要求谨慎选择关键超参数，例如额外语言或领域语料的混合比例。然而，目前缺乏系统研究来弥合最优混合比例与实际模型性能之间的差距，以及实验缩放定律与全模型规模实际部署之间的差距。 本文在Llama-3 8B和70B模型上进行CPT以增强其中文能力。研究了8B规模上额外语言混合比例（ALMR）与学习率（LR）之间的最优相关性，这直接指明了最佳实验设置。
16200编辑于 2025-09-17- 来自专栏AI科技评论
预训练后性能反而变差，自训练要取代预训练了吗？
自训练适用不同规模数据集和不同强度增强数据的训练； 3、自训练并且可以看作对预训练的补充，联合预训练和自训练可以获得更大的增益。 3）Augment-S3：它包括大规模缩放、AutoAugment、翻转和裁剪。缩放范围比Augment-S1:更大。 此处的缩放等级与Augment-S2/S3相同。 ? 3、预训练 为了研究预训练的有效性，作者使用了ImageNet预训练的检查点。 我的看法：在ImageNet上训练的大多数模型都没有使用很高强度的增强方法。高强度增强数据后，模型可能无法正确收敛。实际上，模型有时可能会对增强过拟合，当然这还需要进行适当的细节研究。 3、自监督预训练 vs 自训练 有监督的 ImageNet预训练会损害最大规模数据集和高强度数据增强下的训练效果。但是自监督的预训练呢？
1.4K10发布于 2020-07-23 - 来自专栏自然语言处理
推理大模型的后训练增强技术-预训练篇
阶段3：强化学习（Reinforcement Learning）：强化学习是一种基于奖励信号的学习方式，模型通过与环境的互动来学习。 支持预训练、后训练、英语、中文等场景中的数据分析、清洗和合成。 支持数据模型协同开发，通过沙盒实验室实现快速迭代，提供反馈循环、可视化等功能，让您更好地理解和改进数据和模型。 在获取充足的预训练数据后，数据质量直接决定了模型的实际性能。通过提升数据质量，语言模型就能展现出与更大规模模型相匹敌甚至更为优异的性能。 虽然直接使用已有的分词器较为方便（例如 GPT-3 模型使用了 GPT-2 的分词器），但是使用为语料专门设计的分词器会更加有效，尤其对于混合了多领域、多语言和多种格式的语料。 （Mixture-of-Denoisers, MoD） 语言建模任务是最广泛采用的预训练任务，其核心在于“预测下一个词元”，经常被用于训练基于解码器的大语言模型， 例如 GPT-3、PaLM 等。
1.1K10编辑于 2025-03-08 - 来自专栏AI系统
【AI系统】训练后量化与部署
本文将会重点介绍训练后量化技术的两种方式：动态和静态方法，将模型权重和激活从浮点数转换为整数，以减少模型大小和加速推理。并以 KL 散度作为例子讲解校准方法和量化粒度控制来平衡模型精度和性能。 训练后量化的方式 训练后量化的方式主要分为动态和静态两种。 其核心是计算量化比例因子，使用静态量化后的模型进行预测，在此过程中量化模型的缩放因子会根据输入数据的分布进行调整。相比量化训练，静态离线量化不需要重新训练，可以快速得到量化模型。 数据量化涉及 Quantize，Dequantize 和 Requantize 等 3 种操作： 量化过程 量化 将 FP32 数据量化为 INT8。 训练后量化的技巧 对权重使用每通道（per-channel）粒度，对激活使用每张量（per-tensor）粒度 权重张量在不同通道中的值分布差异很大，如果使用单一的缩放因子进行量化，可能会导致较大的精度损失
1.2K10编辑于 2024-12-06 - 来自专栏Python编程 pyqt matplotlib
模型训练好后 预测 numpy图片
神经网络训练好后，预测若干张图片（实际上是numpy 数组），可将numpy 数组转换成 size 为 (batch,channels, height, width), 类型为float 的 tersor 后，直接预测。 注意要手动将数据归一化，mean值和标准差 与 训练集的 transforms 的归一化参数一致。
51730编辑于 2022-11-18 - 来自专栏素履coder
Leetcode模块训练3
示例 1： 输入：nums = [1,1,2,1,1], k = 3 输出：2 解释：包含 3 个奇数的子数组是 [1,1,2,1] 和 [1,2,1,1] 。 ([[3,0,1,4,2],[5,6,3,2,1],[1,2,0,1,5],[4,1,0,1,7],[1,0,3,0,5]]); numMatrix.sumRegion(2, 1, 4, 3); // _3 := obj.SumRegion(1, 2, 2, 4) fmt.Println(param_1) fmt.Println(param_2) fmt.Println(param_3) } 3 示例 2： 输入：numbers = [2,3,4], target = 6 输出：[1,3] 解释：2 与 4 之和等于目标数 6 。因此 index1 = 1, index2 = 3 。 示例 1： 输入：[1,8,6,2,5,4,8,3,7] 输出：49 解释：图中垂直线代表输入数组 [1,8,6,2,5,4,8,3,7]。
59330编辑于 2023-03-23 - 来自专栏AI异构
AdaRound：训练后量化的自适应舍入
本文提出了 AdaRound，一种用于训练后量化的更好的权重舍入机制，它可以适应数据和任务损失。AdaRound 速度很快，不需要对网络进行微调，仅需要少量未标记的数据。 AdaRound 不仅比舍入取整有显著的提升，而且还为几种网络和任务上的训练后量化建立了新的最新技术。 在全面的研究中，表明 AdaRound 为几个网络和任务（包括 ResNet18，ResNet50，MobilenetV2，InceptionV3 和 DeeplabV3）提供了最新的训练后量化新技术。 这意味着在进行训练后量化时，通过仔细舍入权重，可以获得很多收益。本文的其余部分旨在设计一种有充分根据和计算效率的舍入机制。 ? 随机舍入与四舍五入对比 方法 在本节中，提出AdaRound，这是一种用于训练后量化的新舍入程序，在理论上是有充分根据的，并且在实践中显示出显着的性能改进。本文从理论上分析由于量化引起的损失。
2.8K11发布于 2021-03-09 - 来自专栏ypw
天梯赛模拟训练【3】
main(){ int n; cin>>n; if(n == 5) cout<<"7"<<endl; else cout<<(n+2)%7<<endl; return 0; } C.7-3 ,m,n); return 0; } E.7-5 一帮一 (15分) 思路：一个从前往后遍历，一个从后往前，要设置一个flag，表示当前这个人是否匹配成功，当都匹配成功后就break。 <bits/stdc++.h> using namespace std; bool solve(string s){ if(s[0]-'0' + s[1]-'0' +s[2]-'0' == s[3] > #include<set> #include<queue> #include<stack> #include<vector> using namespace std; #define inf 0x3f3f3f3f
71520发布于 2020-11-12 - 来自专栏罗西的思考
Facebook如何训练超大模型 --- (3)
[源码分析] Facebook如何训练超大模型 --- (3) 目录 [源码分析] Facebook如何训练超大模型 --- (3) 0x00 摘要 0x01 ZeRO-Offload 1.1 设计原则 反向传播后，ZeRO-Offload 直接在CPU上更新fp32参数和剩余优化器状态（如动量和方差），并将更新后的fp32参数从CPU内存复制为GPU内存上的fp16参数。 更新后，参数分区移回GPU，然后在GPU上执行类似于ZeRO-2的all gather操作来收集所有参数。 完成后向传播后，模型的所有参数将使用位于CPU上的梯度进行更新，具体可以参见下面的示例图。 for memory footprint # 计算modules的每层参数的元素数目之和 # p.numel()作用是获取tensor中一共包含多少个元素，比如 torch.randn(3,3
1.8K21编辑于 2022-11-28 - 来自专栏火星娃统计
mlr3_训练和测试
mlr3_训练和测试 概述 之前的章节中，我们已经建立了task和learner，接下来利用这两个R6对象，建立模型，并使用新的数据集对模型进行评估 建立task和learner 这里使用简单的tsk和 是learner中用来存储训练好的模型 # 可以看到目前是没有模型训练好的 learner$model ## NULL 接下来使用任务来训练learner # 这里使用row_ids选择训练数据 learner $train(task, row_ids = train_set) # 训练完成后查看模型 print(learner$model) 预测 使用剩余的数据进行预测 predict # 返回每一个个案的预测结果 ## 191 M M ## 199 M M ## 204 M M # 为了提取预测后的数据 对于回归任务 library("mlr3viz") library("mlr3learners") task = tsk("mtcars") learner = lrn("regr.lm") learner
1.1K10发布于 2021-02-05 - 来自专栏人人都是极客
3.训练模型之在GPU上训练的环境安装
一般来说我们会在笔记本或者 PC 端编写模型和训练代码，准备一些数据，配置训练之后会在笔记本或者 PC 端做一个简单验证，如果这些代码数据都 OK 的话，然后真正的训练放在计算力更强的的计算机上面执行， 下载完成后运行： sudo tar -zxf cudnn-8.0-linux-x64-v6.0.tgz cd cuda sudo cp lib64/* /usr/local/cuda 继续训练 前面花了一点时间来配置 GPU 的环境，现在是时候继续我们的训练了。 中的相应项；最后运行训练脚本，这次的输出是这样的： ? 一个训练的流程就跑完了，我们配置好了深度学习的软硬件环境，下节课我们开始准备数据，训练自己的模型吧。
3.5K61发布于 2018-03-16 - 来自专栏深度学习自然语言处理
NLP的12种后BERT预训练方法
使用NLP的工具来识别短语和实体，包括3种层级的Masking：基本、phrase和entity。依次对基于基本级别、短语级别、实体级别分别进行mask训练。 对于对话数据，还训练了Dialogue LM。使用Q和R标记query和response。 与BERT 的对比图如下： ? 3. 构造多个无监督任务来学习词法、句法和语义的信息；且通过增量的方式进行多任务学习，引入新任务后，并不是只使用新的任务来训练，而是通过多任务学习同时学习之前的任务和新增加的任务，这样既要学习新的信息的同时也不能忘记老的信息 预训练了一个微调后可以同时用于自然语言理解和自然语言生成的下游任务模型，核心框架transformer，预训练和目标结合了以下三个： 单向语言模型(同ELMO/GPT)，在做attention时只能mask CMLM可以将显式的跨语言信息作为训练信号，更好的训练跨语言预训练模型。方法分为3步： 由n-gram向量推断得到n-gram翻译表。
1.4K10发布于 2020-02-24 pcl安装后测试代码3
include<iostream> #include <thread> #include <pcl/common/common_headers.h> #include <pcl/features/normal_3d.h 创建和设置可视化窗口 std::string strWinName = "3D Viewer", strWinTitle = "Point Cloud Viewer"; int scnWidth cameras viewer->createViewPortCamera(v1); viewer->createViewPortCamera(v2); double pos[3] = { 6,0,0 }; // camera at X-axis double foc[3] = { 0,0,0 }; // viewpoint at orgin double up[ 3] = { 0,0,1 }; // up is Z-axis viewer->setCameraPosition(pos[0], pos[1], pos[2], foc[0], foc[1]
30210编辑于 2025-07-20利用darknet yolov3训练yolov3-spp的预训练模型获取方法
yolov3-spp训练过程和yolov3完全一样，只是预训练模型在哪呢，网上都么有找到，可以用下面方法生成 . /darknet partial cfg/yolov3-spp.cfg Yolov3-spp.weight yolov3-spp.conv.15 15 更新说明：利用上面生成预训练模型只有3.6M，应该不行 ，后来文问了下，就用yolov3预训练模型就可以了，然后我就yolov3预训练模型训练测试了一下，发现没有问题，看来用yolov3预训练模型即可。
13310编辑于 2025-07-18【大模型后训练专题】 LoRA微调原理及实现
LoRA 原理及实现前言✍ 在大模型后训练这条线里，大模型的参数量往往是几十亿、上百亿。 1）预训练模型已经学到大部分通用能力，下游只需要“小幅度方向修正”，本身就低维；2）实证上，全参微调的权重差分 ΔW 做 SVD 会发现谱衰减很快，“有效秩”不高；3）LoRA 把更新限制在低秩子空间里 了解了为什么可以这么做后，我们来看一下LoRA在实际工程中是怎么实现的, 以 Transformer 里最常见的线性层为例：原始权重矩阵：W_0 \in \mathbb{R}^{d_{\text{out 2.2 LoRA Dropout在很多工程实现中，LoRA 会在A x 后加一个 dropout，例如：h_{\text{out}} = W_0 x + \frac{\alpha}{r} B(\text Trainertrainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, # 预处理后的数据
2.2K31编辑于 2025-11-27- 来自专栏ypw
【队伍训练3】Codeforces Round #661 (Div. 3)
A 签到 #include<bits/stdc++.h> #define ios ios::sync_with_stdio(false);cin.tie(0);cout.tie(0); using namespace std; int a[105]; int main(){ ios int n,t; cin>>t; while(t--){ cin>>n; for(int i=1;i<=n;i++){ cin>>a[i];
41210发布于 2020-09-10 - 来自专栏简书专栏
目标检测第3步-模型训练
image.png 3.解决第3个报错 进行完第2章后，需要在桌面的目标检测文件夹中重新打开cmd。 /p/c1d8f1c76de7 4.解决第4个报错 进行完第3章后，使用第3章中的cmd即可。 image.png 修改代码文件model_lib.py完成后，则可以在cmd中重新输入命令开启模型训练。 模型训练稳定地进行一段时间后，会做一次模型评估，如下图所示。 所以如果读者看到下图中的情况，则说明模型训练很顺利。 ? image.png 6.查看模型训练状况 模型训练稳定地进行后，在桌面的目标检测文件夹中重新打开cmd。 如果读者有Linux的主机，本文作者建议为了工作效率，应该使用Linux主机做模型训练。 3.在测试集的图片中，有的图片目标检测效果不错，下面给出了2张演示图。 ? 预测结果1 ? 预测结果2
2.2K20发布于 2018-12-21 - 来自专栏Goboy
从零开始后训练文生图大模型完全指南
当我们谈论"训练自己的文生图模型"时，实际上存在两条截然不同的路径：预训练（Pre-training）和后训练（Post-training）。 二、核心概念深度解析2.1预训练与后训练的本质区别要理解后训练的价值，我们首先需要了解预训练模型的本质。 2.2扩散模型的工作原理在深入后训练技术之前，有必要简要理解扩散模型（DiffusionModel）的工作原理，因为这直接关系到我们如何设计训练策略。 三、后训练技术全景图后训练技术经过近两年的快速发展，已经形成了一个丰富的技术生态。不同的技术适用于不同的场景，选择正确的技术路线是成功的关键。 五、选择基础模型选择合适的基础模型是后训练的第一个重要决策。
1K22编辑于 2026-01-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号