- 综合排序
- 最热优先
- 最新优先
- 来自专栏GiantPandaCV
知识蒸馏综述：蒸馏机制
，可以分为离线蒸馏，在线蒸馏和自蒸馏。 感性上理解三种蒸馏方式： 离线蒸馏可以理解为知识渊博的老师给学生传授知识。 在线蒸馏可以理解为教师和学生一起学习。 自蒸馏意味着学生自己学习知识。 1. 早期的KD方法都属于离线蒸馏，将一个预训练好的教师模型的知识迁移到学生网络，所以通常包括两个阶段： 在蒸馏前，教师网络在训练集上进行训练。 使用在线蒸馏的时候，教师网络和学生网络的参数会同时更新，整个知识蒸馏框架是端到端训练的。 自蒸馏 Self-Distillation 在自蒸馏中，教师和学生模型使用相同的网络。自蒸馏可以看作是在线蒸馏的一种特殊情况，因为教师网络和学生网络使用的是相同的模型。
2.2K30编辑于 2021-12-09 - 来自专栏AI机器学习与深度学习算法
学习分类 2-3 感知机
要如何求出权重向量呢？基本做法和回归时相同，将权重向量用作参数，创建更新表达式来更新参数。这就需要一个被称为感知机的模型。
67310编辑于 2022-11-08 - 来自专栏算法无遗策
动画 | 什么是2-3树？
2-3树正是一种绝对平衡的树，任意节点到它所有的叶子节点的深度都是相等的。 2-3树的数字代表一个节点有2到3个子树。它也满足二分搜索树的基本性质，但它不属于二分搜索树。 2-3树查找元素 2-3树的查找类似二分搜索树的查找，根据元素的大小来决定查找的方向。 动画：2-3树插入 2-3树删除元素 2-3树删除元素相对比较复杂，删除元素也和插入元素一样先进行命中查找，查找成功才进行删除操作。 2-3树为满二叉树时，删除叶子节点 2-3树满二叉树的情况下，删除叶子节点是比较简单的。 动画：2-3树删除 -----END---
1.1K10发布于 2020-01-02 - 来自专栏自然语言处理(NLP)论文速递
模型蒸馏升级！高温蒸馏：Softmax With Temperature
一个是知识蒸馏的方法用于深度学习，同时也需要深入学习；另一个则是本文的核心：蒸馏中如何合理运用温度，让隐藏的知识更好地挥发和凝结。 蒸馏模型 模型蒸馏或知识蒸馏，最早在 2006 年由 Buciluǎ 在文章 Model Compression [14] 中提出（很多博主把人名都写错了。 先简要概括一下模型蒸馏在做什么。出于计算资源的限制或效率的要求，深度学习模型在部署推断时往往需要进行压缩，模型蒸馏是其中一种常见方法。 对于相同的输入，让学生输出的概率分布尽可能的逼近教师输出的分布，则大模型的知识就通过这种监督训练的方式「蒸馏」到了小模型里。 后话 写完这篇文章才发现，潘小小【经典简读】知识蒸馏（Knowledge Distillation）经典之作 [17] 一文中已有类似的探讨。
2.3K30编辑于 2022-12-06 - 来自专栏算法之名
知识蒸馏
知识蒸馏概述 蒸馏指的是把不纯净的水加热变成蒸汽，蒸汽冷凝之后变成冷凝水。知识蒸馏也是把有杂质的东西，大的东西变成小的东西，纯的东西。 把一个大的模型(教师模型)里面的知识给萃取蒸馏出来浓缩到一个小的学生模型上。 教师网络是一个比较大的神经网络，它把知识传递给了小的学生网络。这个过程称之为蒸馏或者叫迁移。 这就是知识蒸馏的核心目的。 现在的预训练大模型的参数往往都是成指数型增加。 知识蒸馏的过程 我们来看一下学生网络、教师网络到底是怎么样来进行蒸馏学习的，首先有一个已经训练好的教师网络，然后我们把很多数据喂给教师网络，这里会给一个温度为t的时候的softmax。 知识蒸馏是把一个模型的知识迁移到另一个模型上。 知识蒸馏的原理 上图中大的绿色的矩形为非常大的教师网络，中间的蓝色的矩形是学生网络。
93030编辑于 2022-03-24 - 来自专栏我是攻城师
什么是2-3树
2-3树 VS 二叉搜索树 同样的一组数据，在2-3树和二叉搜索树里面的对比如下： ? 可以看到2-3树的节点分布非常均匀，且叶子节点的高度一致，并且如果这里即使是AVL树，那么树的高度也比2-3树高，而高度的降低则可以提升增删改的效率。 2-3树的插入 为了保持平衡性，2-3树的插入如果破坏了平衡性，那么树本身会产生分裂和合并，然后调整结构以维持平衡性，这一点和AVL树为了保持平衡而产生的节点旋转的作用一样，2-3树的插入分裂有几种情况如下 2-3树的删除 2-3树节点的删除也会破坏平衡性，同样树本身也会产生分裂和合并，如下： ? 总结 本篇文章，主要介绍了2-3树相关的知识，2-3树，2-3-4树以及B树都不是二叉树，但与二叉树的大致特点是类似的，它们是一种平衡的多路查找树，节点的孩子个数可以允许多于2个，虽然高度降低了，但编码相对复杂
2.4K20发布于 2019-04-28 - 来自专栏NLP/KG
知识蒸馏相关技术【模型蒸馏、数据蒸馏】以ERNIE-Tiny为例
1.1 模型蒸馏原理知识蒸馏是一种模型压缩常见方法，指的是在teacher-student框架中，将复杂、学习能力强的网络(teacher)学到的特征表示"知识"蒸馏出来，传递给参数量小、学习能力弱的网络 实验表明通用蒸馏阶段和任务蒸馏阶段的蒸馏loss不匹配时，学生模型的效果会受到影响。 具体来说，第一阶段，General Distillation，在预训练的老师、一般数据和潜在蒸馏损失的指导下进行蒸馏。 如果已提供的通用蒸馏学生模型尺寸符合需求，用户可以主要关注接下来的任务蒸馏过程。 教师模型和通用数据继续用通用蒸馏的方式蒸馏学生模型，进一步提升学生模型的效果；a.
1.8K31编辑于 2022-11-14 - 来自专栏刷题笔记
2-3 链表拼接 (20 分)
本文链接：https://blog.csdn.net/shiliang97/article/details/101050371 2-3 链表拼接 (20 分) 本题要求实现一个合并两个有序链表的简单函数
73540发布于 2019-11-08 - 来自专栏NLP/KG
知识蒸馏相关技术【模型蒸馏、数据蒸馏】以ERNIE-Tiny为例
1.1 模型蒸馏原理 知识蒸馏是一种模型压缩常见方法，指的是在teacher-student框架中，将复杂、学习能力强的网络(teacher)学到的特征表示"知识"蒸馏出来，传递给参数量小、学习能力弱的网络 实验表明通用蒸馏阶段和任务蒸馏阶段的蒸馏loss不匹配时，学生模型的效果会受到影响。 具体来说，第一阶段，General Distillation，在预训练的老师、一般数据和潜在蒸馏损失的指导下进行蒸馏。 如果已提供的通用蒸馏学生模型尺寸符合需求，用户可以主要关注接下来的任务蒸馏过程。 fine-tuned教师模型和通用数据继续用通用蒸馏的方式蒸馏学生模型，进一步提升学生模型的效果； a.
1.6K20编辑于 2022-12-21 - 来自专栏python3
2-3 选项卡控件
2-3 选项卡控件 u本节学习目标： n了解选项卡控件的基本属性 n掌握如何设置选项卡控件的属性 n掌握统计页面选项卡控件页面基本信息 n掌握选项卡控件的功能操作控制 2-3-1 简介 在 Windows 一般选项卡在Windows操作系统中的表现样式如图2-3所示。 ? 图2-3 图片框控件的属性及方法 2-3-2 选项卡控件的基本属性 图片框控件是使用频度最高的控件，主要用以显示窗体文本信息。 其基本的属性和方法定义如表2-3所示： 属性 说明 MultiLine 指定是否可以显示多行选项卡。如果可以显示多行选项卡，该值应为 True，否则为 False。 使用这个集合可以添加和删除TabPage对象 表2-3 选项卡控件的属性 2-3-3 选项卡控件实践操作 1．
2.3K10发布于 2020-01-07 - 来自专栏python3
2-3 T-SQL函数
2-3 T-SQL函数 学习系统函数、行集函数和Ranking函数；重点掌握字符串函数、日期时间函数和数学函数的使用参数以及使用技巧 重点掌握用户定义的标量函数以及自定义函数的执行方法 掌握用户定义的内嵌表值函数以及与用户定义的标量函数的主要区别 我们首先运行一段SQL查询：select tno,name , salary From teacher，查询后的基本结构如图2-3所示。我们看见，分别有三位教师的薪水是一样高的。 图2-3 薪酬排序基本情况 图2-4 row_number函数排序 图2-5 row_number另一使用 我们可以使用Row_number函数来实现查询表中指定范围的记录，一般将其应用到Web应用程序的分页功能上
2.2K10发布于 2020-01-08 - 来自专栏机器之心
苹果也在蒸馏大模型，给出了蒸馏Scaling Laws
蒸馏扩展定律的外推。蒸馏扩展定律适用于一系列损失为 LT 的教师的弱学生模型（L_S > 2.3）。 如果要蒸馏多个学生模型，或者已有教师模型，蒸馏在计算水平上优于监督预训练，直到计算水平随着学生模型规模的增加而可预测地增长。如果要蒸馏一个学生模型且还需要训练教师模型，则应采用监督学习。 此外，作者在大规模蒸馏研究中提供了深入的见解，这些见解增加了我们对蒸馏的理解，并为实验设计提供了信息。 老师已经存在，或者要训练的老师有超出单次蒸馏的用途。 新的定律和分析有望指导 AI 社区构建更强大的模型，实现更低的推理成本和总计算成本。 蒸馏扩展率 文章概述了他们如何得出蒸馏扩展率所采取的步骤。 本文的目标是理解教师模型在蒸馏过程中的作用，因此，该研究在纯蒸馏情况下（λ = 1，公式 7）进行蒸馏，以避免数据带来的混淆。本文验证了 λ = 1 的选择能够产生与最优 λ∗ 统计相似的结果。
33900编辑于 2025-02-19 - 来自专栏OpenMMLab
知识蒸馏系列（二）：知识蒸馏的迁移学习应用
知识蒸馏系列文章继续更新啦！在上一篇文章中，我们介绍了三类基础知识蒸馏算法，今天我们一起来学习知识蒸馏的迁移学习应用。 本文内容 1 前言 2 蒸馏特征的迁移学习 3 蒸馏参数的迁移学习 4 总结 1. （feature-based）的知识蒸馏 基于样本或特征层间关系（relation-based）的知识蒸馏 1.3 蒸馏知识迁移的优点及应用领域 相对于基于实例的迁移和基于关系的迁移，蒸馏知识迁移具有的主要优势如下 蒸馏特征的迁移学习 蒸馏特征的迁移学习通过在源域教师模型和目标域学生模型间寻找输出 logits 或中间层特征作为迁移目标的蒸馏知识，实现不同数据域和任务域间的教师—学生关系间的知识蒸馏。 MMRazor 库中实现了蒸馏算法中蒸馏模型结构 distiller、蒸馏特征对齐模块 connector、特征信息传递 recorder、蒸馏损失 loss 的功能抽象解耦和可配置解析，让你可通过配置文件自由调整教师模型向学生模型迁移中的特征选取和特征对齐方式
2.1K10编辑于 2022-12-30 - 来自专栏机器学习入门
算法原理系列：2-3查找树
结构缘由 首先，搞清楚2-3查找树为什么会出来，它要解决什么样的问题？假设我们对它的基本已经有所了解了。先给它来个简单的定义： 2-3查找树： 一种保持有序结构的查找树。 而2-3树就是为了规避上述问题而设计发明出来的模型。现在请思考该如何设计它呢？ 这里我们从BST遇到的实际问题出发，提出设计指标，再去思考利用些潜在的性质来构建2-3树。 这部分内容，没有什么理论根据，而是我自己尝试去抓些字典的性质来构建，而2-3树的诞生过程并非真的如此，所以仅供参考。 构建2-3树 字典的两个主要操作为：查找和插入。 我就不卖关子了，直接给出2-3树的其中一个基本定义： 一棵2-3查找树或为一颗空树，或由以下节点组成： 2-节点：含有一个键和两条链接，左链接指向的2-3树中的键都小于该节点，右链接指向的2-3树中的键都大于该节点 3-节点：含有两个键和三条链接，左链接指向的2-3树中的键都小于该节点，中链接指向的2-3树中的键都位于该节点的两个键之间，右链接指向的2-3树中的键都大于该节点。 ！！！
1.2K20发布于 2019-05-26 - 来自专栏机器学习与生成对抗网络
综述 | 知识蒸馏（1）
4 蒸馏的策略 根据教师模型是否与学生模型同时更新，知识蒸馏的学习方案可以直接分为三大类：离线蒸馏，在线蒸馏和自蒸馏，如图6所示 ? 在线蒸馏中，教师模型和学生模型同时更新，整个知识蒸馏框架是端到端训练的。 它也可视为在线蒸馏的特殊情况。 为了进一步直观地了解蒸馏，还可以从人类教师-学生学习的角度总结离线，在线和自蒸馏。 离线蒸馏意味着知识渊博的老师向新生传授知识；在线蒸馏是指师生在老师为主要监督下互相学习；自蒸馏是学生无需老师就能自学知识。这三种蒸馏方法可以结合起来进行优势互补。 6 蒸馏算法 7 蒸馏应用
1.9K20发布于 2020-07-24 - 来自专栏CSDN社区搬运
逐步蒸馏论文复现
为此，研究人员通常通过微调（finetuning）或蒸馏（distillation）训练更小的任务特定模型，但这两种方法都需要大量的训练数据。 本文提出了一种新的方法——逐步蒸馏（Distilling Step-by-Step），它通过提取LLM生成的推理过程作为监督信号，训练小模型并显著减少数据需求。 2.论文方法 逐步蒸馏（Distilling Step-by-Step），其核心思想是利用大规模语言模型（LLMs）推理预测的能力，通过生成带有理由的标签数据来辅助训练更小的下游模型。 逐步蒸馏方法：采用多任务学习方式，将标签预测和理由生成结合起来，训练小模型同时具备预测能力和推理能力。 （Standard Distillation） 使用LLM生成的标签（PaLM label）对模型进行蒸馏： python run.py --from_pretrained .
64210编辑于 2025-01-02 - 来自专栏我爱计算机视觉
位置蒸馏：针对目标检测提高定位精度的知识蒸馏
02 知识蒸馏基础 知识蒸馏（KD，Knowledge Distillation）使得轻量级的学生网络能够模仿高性能的教师网络，提高学生网络的性能。 为预测目标框中某个边框，教师网络和学生网络分别输出和，对它们进行softmax操作，得到概率分布和，可以用下面的公式表示边框的蒸馏损失： 回归框中4个边框的蒸馏损失表示为： 上述关于位置蒸馏的表述可以用下图表示 位置蒸馏和普通的蒸馏在形式上是一样的，而且不依赖于特定的架构，具有很强的通用性。 3.3 Self-LD 蒸馏学习使得轻量化学生网络拥有高性能教师网络的性能，而对教师网络本身使用蒸馏方法，即自蒸馏，也能提高教师网络本身的性能。 同样地，也可以在自蒸馏方法中引入位置蒸馏，即Self-LD，来增强教师网络解决边界模糊性的能力。
1.5K40发布于 2021-05-07 - 来自专栏静之森
记录折腾路上用到的教程 自2-3开始
netdata: Real-time performance monitoring
74120编辑于 2021-12-28 - 来自专栏算法无遗策
（基于2-3树）
学习过2-3树之后就知道应怎样去理解红黑树了，如果直接看「算法导论」里的红黑树的性质，是看不出所以然。 此时我们借着2-3树去理解基本的红黑树，当然我会在后几篇文章介绍2-3-4树以及基于2-3-4树的红黑树。 红黑是指被指向节点的链接颜色，对于一颗2-3树，因为3-节点的存在有很多不同的二叉树的表示，所以我们只考虑左倾的情况。 （和2-3树等价的，任意节点到其叶子节点的高度都是相同的）。 因为2-3树不存在永久的4-节点，4-节点终归要分解的（在2-3-4树中，为了更好地插入和删除，4-节点可存在于叶子节点和非叶子节点）2-3树一样不行，所以在2-3树中没有任何一个节点能同时和两条红链接相连
1.1K20发布于 2020-01-02 - 来自专栏U3D技术分享
《游戏引擎架构》阅读笔记-第2-3章
本系列博客为《游戏引擎架构》一书的阅读笔记，旨在精炼相关内容知识点，记录笔记，以及根据目前（2022年）的行业技术制作相关补充总结。 本书籍无硬性阅读门槛，但推荐拥有一定线性代数，高等数学以及编程基础，最好为制作过完整的小型游戏demo再来阅读。 本系列博客会记录知识点在书中出现的具体位置。并约定（Pa b），其中a为书籍中的页数，b为从上往下数的段落号，如有lastb字样则为从下往上数第b段。 本系列博客会约定用【】来区别本人所书写的与书中观点不一致或者未提及的观点，该部分观点受限于个人以及当前时代的视角
1K10编辑于 2022-10-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号