- 综合排序
- 最热优先
- 最新优先
- 来自专栏张善友的专栏
IIS 7.5 Application Warm-Up Module
另外微软设计了一个模块，让应用程序可以有充足的时间暖机，暖机完成后才会开始接收第一个 HTTP 要求，这个模块即是 Application Warm-up 模块。 Application Warm-up 模块是负责在应用程序处理第一个要求前，先给予其初始化的时间，让它可以在服务第一个要求前先做完初始化的工作后，再开放处理第一个要求。 Application Warm-up 具有下列的功能： 通过工作进程预载（pre-load worker process）来减少响应所需要的时间，尤其是第一个响应。 安装后再每个网站上都会看到下面Application Warm-up图标（Application Warm-up 模块图标只会在网站节点以及应用程序节点出现，服务器节点以及一般目录节点是不会出现的）： 接下来，我们启动 Application Warm-up 模块，到设置 Application Warm-up 的界面，并将两个复选框都打勾： 接着，在右方的指令列中，按 Add Request
1.3K50发布于 2018-01-30 - 来自专栏深度学习自然语言处理
VPGTrans: 10%的成本定制你自己的类GPT-4多模态大模型
(2)先warm-up训练projector可以防止掉点，且进一步加速收敛：于是，我们固定住VPG和LLM，先warm-up训练projector 3个epoch，再解冻VPG进行下一步训练。 所以，我们开始探究加速projector warm-up的关键技术。 ▲图6:先warm-up训练projector可以防止掉点+加速收敛 (3)词向量转化器初始化可以加速projector warm-up：首先，VPG是通过把图像转化为LLM可以理解的soft prompt 通过这个初始化，我们可以将projector的warm-up训练由3个epoch减为2个epoch。 通过5倍学习率的训练，projector warm-up可以进一步被缩短到１个epoch。 (5)一个附加发现: 虽然projector warm-up很重要，但仅训练projector是不够的。
39320编辑于 2023-08-22 - 来自专栏AI科技评论
VPGTrans：10% 的成本定制你自己的类 GPT-4 多模态对话模型
2.先warm-up训练projector可以防止掉点，且进一步加速收敛：于是，我们固定住VPG和LLM，先warm-up训练projector 3个epoch，再解冻VPG进行下一步训练。 所以，我们开始探究加速projector warm-up的关键技术。 图6:先warm-up训练projector可以防止掉点+加速收敛 3.词向量转化器初始化可以加速projector warm-up：首先，VPG是通过把图像转化为LLM可以理解的soft prompt 通过这个初始化，我们可以将projector的warm-up训练由3个epoch减为2个epoch。 通过5倍学习率的训练，projector warm-up可以进一步被缩短到１个epoch。 5.一个附加发现: 虽然projector warm-up很重要，但仅训练projector是不够的。
75220编辑于 2023-05-12 - 来自专栏新智元
训练成本不到1000元，直降90%！NUS、清华发布VPGTrans：轻松定制类GPT-4多模态大模型
（2）先warm-up训练projector可以防止掉点，且进一步加速收敛： 于是，我们固定住VPG和LLM，先warm-up训练projector 3个epoch，再解冻VPG进行下一步训练。 所以，我们开始探究加速projector warm-up的关键技术。 图6：先warm-up训练projector可以防止掉点+加速收敛 （3）词向量转化器初始化可以加速projector warm-up： 首先，VPG是通过把图像转化为LLM可以理解的soft prompt 通过这个初始化，我们可以将projector的warm-up训练由3个epoch减为2个epoch。 通过5倍学习率的训练，projector warm-up可以进一步被缩短到１个epoch。 （5）一个附加发现： 虽然projector warm-up很重要，但仅训练projector是不够的。
53650编辑于 2023-05-22 - 来自专栏AiCharm
训练开销骤减，10%成本定制专属类GPT-4多模态大模型
(2) 先 warm-up 训练 projector 可以防止掉点，且进一步加速收敛：于是，我们固定住 VPG 和 LLM，先 warm-up 训练 projector 3 个 epoch，再解冻 VPG 所以，我们开始探究加速 projector warm-up 的关键技术。 图 6: 先 warm-up 训练 projector 可以防止掉点 + 加速收敛 (3) 词向量转化器初始化可以加速 projector warm-up：首先，VPG 是通过把图像转化为 LLM 可以理解的 通过 5 倍学习率的训练，projector warm-up 可以进一步被缩短到１个 epoch。 (5) 一个附加发现：虽然 projector warm-up 很重要，但仅训练 projector 是不够的。
50220编辑于 2023-06-07 - 来自专栏CVer
伊利诺伊大学和微软研究院提出：用于目标检测的 Anchor Box 优化
An illustration of the anchor optimization process 创新点 Online Clustering Warm-Up Soft Assignment Warm-Up
66510发布于 2019-12-31 - 来自专栏秋枫学习笔记
CIKM'21「快手」视频推荐 | 概念感知的去噪图神经网络
主要包含三个步骤：warm-up propagation, graph denoising and preference refinement。构建三方异构图：用户-视频，视频-概念。 方法 image.png 2.1 Warm-up Propagation 图定义为，V和E分别表示节点和边。 该方法主要包含三个步骤：warm-up propagation，graph denoising， preference refinement。 warm-up阶段主要是在原始构造的图上进行信息传播，得到注入了concept的用户和视频表征；然后在graph denosing阶段对用户交互过程中存在的噪声进行去噪处理，主要依靠计算分数和采样的方式 ；最后refinement阶段可以理解为再次进行类似warm-up阶段的信息传播，得到更细化的用户和视频表征，然后计算两者分数。
1.1K30编辑于 2022-09-19 - 来自专栏机器之心
训练开销骤减，10%成本定制专属类GPT-4多模态大模型
(2) 先 warm-up 训练 projector 可以防止掉点，且进一步加速收敛：于是，我们固定住 VPG 和 LLM，先 warm-up 训练 projector 3 个 epoch，再解冻 VPG 所以，我们开始探究加速 projector warm-up 的关键技术。 图 6: 先 warm-up 训练 projector 可以防止掉点 + 加速收敛 (3) 词向量转化器初始化可以加速 projector warm-up：首先，VPG 是通过把图像转化为 LLM 可以理解的 通过 5 倍学习率的训练，projector warm-up 可以进一步被缩短到１个 epoch。 (5) 一个附加发现：虽然 projector warm-up 很重要，但仅训练 projector 是不够的。
57520编辑于 2023-05-22 - 来自专栏Java
深入了解Prompt工程及其在GPT-3中的应用
温暖启动（Warm-up Prompts）： 在开始主要任务前，使用一些简单的prompt来“温暖”模型，帮助其更好地理解你的任务。 例子： Warm-up: Generate a sentence about your favorite color.
42310编辑于 2025-01-21 - 来自专栏lib库
NA嵌入Flutter页面
方法从名称上也能看出每次都是创建一个新的FlutterEngine对象来显示Flutter UI，但是从官方文档中可以了解到每个FlutterEngine对象在显示出Flutter UI之前是需要一个warm-up （简单理解为预热）期的，这会导致屏幕呈现短暂的空白，解决方式就是预先创建并启动FlutterEngine，完成warm-up过程，然后将这个FlutterEngine缓存起来，之后使用这个FlutterEngine （不知道能不能翻译为预热）期的，这会导致屏幕呈现短暂的空白， // 解决方式就是预先创建并启动FlutterEngine，完成warm-up过程，然后将这个FlutterEngine缓存起来， // 猜测这就是由于上面提到过的FlutterEngine的warm-up机制，这是一个耗时过程， // 因此FlutterFragment并不会立刻执行onAttach()方法，导致我们在Activity 问题分析 FlutterEngine的warm-up机制，这是一个耗时过程，因此FlutterFragment并不会立刻执行onAttach()方法，导致我们在Activity的onCreate()方法中直接使用
4.4K00发布于 2021-08-16 - 来自专栏腾讯开源的专栏
不蒸馏也超强？揭秘端到端文档OCR模型 POINTS-Reader
在端到端方案中，POINTS-Reader提出了一套高度可扩展的数据生成方案，包含两个核心阶段：统一格式预热阶段(Uniform Format Warm-up Stage)和迭代自我改进阶段(Iterative 第一阶段：统一格式预热阶段 (Uniform Format Warm-up Stage, UWS) 目标是为模型打下坚实的基础，使其能够处理各种文档元素。 1. 甚至超越了一些私有模型和更大尺寸的模型 消融实验 为了让实验具有更高的可信度，我们对训练 POINTS-Reader 中的每一步进行了详细的消融，下面我们选取几个重点的实验进行展示: Uniform Format Warm-up
48010编辑于 2025-09-11 - 来自专栏炼丹笔记
神经网络调参技巧：warmup策略
Normalization in the Transformer Architecture》等，论文中作者发现Post-LN Transformer在训练的初始阶段，输出层附近的期望梯度非常大，所以没有warm-up Transformer中的Warmup Transformer中的warm-up可以看作学习率 lr 随迭代数 t 的函数： 学习率 lr 会以某种方式递减，学习率从0开始增长，经过 Twarmup
1.5K20编辑于 2022-04-06 - 来自专栏秋枫学习笔记
SIGIR'21「微信」利用元网络学习冷启动商品ID Embedding
根据集合 U 的大小是否为0可以分为冷启动阶段和warm-up阶段，这里作者关注的是warm up阶段。冷启动阶段是完全没有交互数据，warm-up阶段是进行了一段时间的交互，有部分少量的交互数据。
1.2K10编辑于 2022-09-19 - 来自专栏java 成神之路
RocketMQ MappedFile 预热原理解析
// 把剩余的数据强制刷新到磁盘中 if (type == FlushDiskType.SYNC_FLUSH) { log.info("mapped file warm-up System.currentTimeMillis() - beginTime); mappedByteBuffer.force(); } log.info("mapped file warm-up
3.1K40发布于 2019-01-03 - 来自专栏DotNet NB && CloudNative
做好毫秒级的C#执行器要考虑哪些因素？
System"); // 免写 using await CSharpScript.EvaluateAsync( "Console.WriteLine(\"warm-up Console.WriteLine({i});", opts); Console.WriteLine($"耗时：{sw.Elapsed.TotalMilliseconds:F2} ms，结果：{d}"); } 输出如下： warm-up
18410编辑于 2025-08-06 - 来自专栏机器之心
76分钟训练BERT！谷歌大脑新型优化器LAMB加速大批量训练
增大批大小能起到 warm-up 初始训练和稳定最优化过程的效果，但是降低批大小可能会带来最优化过程的紊乱，并导致训练的不收敛。 在研究者的实验中，他们发现有一些技术能稳定第二阶段的最优化过程。 因为这两阶段会切换到不同的最优化问题，因此有必要重新 warm-up 最优化过程。研究者没有在第二阶段进行学习率衰减，而是将学习率从零开始增加（re-warm-up）。
1.8K40发布于 2019-04-29 - 来自专栏GiantPandaCV
Bag of Tricks for Neural Architecture Search
基于梯度的NAS的稳定&训练one-shot模型的方法 2.1 weights warm-up Gradient-based NAS（最经典的DARTS）通常是将离散的搜索空间进行连续化，使用网络架构参数 Sampling-based NAS也会有类似的weights warm-up的方法。
69020发布于 2021-11-12 - 来自专栏机器之心
ICLR 2018 | 清华&斯坦福提出深度梯度压缩DGC，大幅降低分布式训练网络带宽需求
DGC 还应用了动量因子掩蔽（momentum factor masking）和预热训练（warm-up training）以克服通信量减少带来的陈化问题。 使用了四个方法：动量修正（momentum correction）、局域梯度修剪（local gradient clipping）、动量因子掩蔽（momentum factor masking）以及预热训练（warm-up
2.1K80发布于 2018-05-09 - 来自专栏数据库干货铺
MySQL崩溃后启动慢如蜗牛？3招提速InnoDB恢复速度！
子系统，吞吐更高，恢复更快 Instant DDL 减少元数据变更对 undo/redo 的影响 并行 Redo 应用 恢复时可多线程重放 redo log（需开启） 持久化Buffer Pool 快速 warm-up
15110编辑于 2026-03-04 - 来自专栏机器之心
继1小时训练ImageNet之后，大批量训练扩展到了3万2千个样本
目前，最优秀的方法是与批量大小成正比地提高学习率（Learning Rate /LR），并使用带有「warm-up」策略的专用学习率来克服优化困难。 大批量训练的困难 2.3 学习率（LR） 2.4 顶尖的大批量训练 3 ImageNet-1k 训练 3.1 重现和延伸 Facebook 的研究结果 与 facebook 的论文类似，我们使用预热策略（warm-up
1.8K50发布于 2018-05-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号