- 综合排序
- 最热优先
- 最新优先
- 来自专栏深度学习思考者
模型部署系列：10x速度提升，Yolov8检测模型稀疏化——CPU上超500FPS
我们通过在 AWS 上部署模型来说明这一点，在 YOLOv8s（小型版本）上实现 209 FPS，在 YOLOv8n（纳米版本）上实现 525 FPS，比 PyTorch 和 ONNX 运行时加速 10 有关 DeepSparse 如何通过稀疏性实现加速的详细指南，请查看 YOLOv5 with Neural Magic’s DeepSparse。 DeepSparse 是一个推理运行时，专注于让 YOLOv8 等深度学习模型在 CPU 上快速运行。DeepSparse 通过推理优化的稀疏模型实现了最佳性能，它还可以有效地运行标准的现成模型。 您可以在此处下载 量化模型。 Throughput (items/sec): 209.9472 > Latency Mean (ms/batch): 4.7631 DeepSparse在 FP32 下的速度快 4 倍，在 INT8 下的速度快 10
4.8K10编辑于 2023-12-18 - 来自专栏我爱计算机视觉
MoE-LLaVA——将多模态大模型稀疏化
通常来说，稠密模型的LVLM到此就训练完成，然而我们在发现同时将LLM转为LVLM和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段3：作为初始化，我们将FFN复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第17到27层的专家的负载突然增大，甚至几乎包揽了所有tokens。对于浅层的5-11层，主要是由专家2，3，4共同协作。 我们跟踪所有token在稀疏网络中的轨迹在下游任务。对text和image所有的激活的通路，我们用PCA降维得到主要的10条通路如图8所示。 这些结果能够更好的帮助我们理解稀疏模型在多模态学习上的行为并探索未知的可能。 图8 激活通路可视化
1K10编辑于 2024-02-06 - 来自专栏MiningAlgorithms
机器学习10：梯度优化与L正则化稀疏性
在实际应用中，我们随机初始化θ，取h为较小的数（例如10−7），并对 i=1,2,...,n，依次验证： ? 是否成立。 5，模型参数的稀疏性与L1正则化： 模型参数具有稀疏性有那些优点：稀疏性，说白了就是模型的很多参数是0。 上图从解空间形状角度展示了L1正则化与模型参数稀疏性关系：L1“棱角分明”的解空间显然更容易与目标函数等高线在角点碰撞，从而产生稀疏解。 5.2，函数叠加： ? 上图从函数叠加角度展示了L1正则化与模型参数稀疏性关系：目标函数变成L(w)+C|w|，其函数曲线为绿色。此时，最小值点在红点处，对应的w是0，产生了稀疏性。 上图从函数叠加角度展示了L1正则化与模型参数稀疏性关系：L1正则化相当于对模型参数w引入了拉普拉斯先验，L2正则化相当于引入了高斯先验，而拉普拉斯先验使参数为0的可能性更大。
2.4K10发布于 2019-08-08 - 来自专栏翻译scikit-learn Cookbook
Using sparsity to regularize models使用稀疏性来正则化模型
最小化压缩和选择因子LASSO方法很像岭回归和最小角回归LARS。在理解上与岭回归很相似，我们用特定的值来惩罚回归。它与LARS方法相似之处在于它可以被用于分类参数。它经常导致一个有稀疏向量的系数。 = 0) 10 lasso_0 = Lasso(0) lasso_0.fit(reg_data, reg_target) # 警告，未标准化数据 np.sum(lasso_0.coef_ ! 我们希望没有一个系数被调整为0，实际上，如果你使用这个方法，scikit-learn将给你一个警告，来建议你选择线性回归模型。 The equation looks like the following: 对于线性回归，我们最小化平方误差，这里，我们仍然进行最小化平方误差。 ： image.png An alternate way of looking at this is to minimize the residual sum of squares:可代替的方法是最小化残差平方和
65730发布于 2019-11-14 - 来自专栏AIWalker
北大等提出MoE-LLaVA：将多模态大模型稀疏化
通常来说，稠密模型的LVLM到此就训练完成，然而我们在发现同时将LLM转为LVLM和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段3：作为初始化，我们将FFN复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第17到27层的专家的负载突然增大，甚至几乎包揽了所有tokens。对于浅层的5-11层，主要是由专家2，3，4共同协作。 我们跟踪所有token在稀疏网络中的轨迹在下游任务。对text和image所有的激活的通路，我们用PCA降维得到主要的10条通路如图8所示。 这些结果能够更好的帮助我们理解稀疏模型在多模态学习上的行为并探索未知的可能。 图8 激活通路可视化
86010编辑于 2024-02-17 - 来自专栏大模型应用
大模型应用：不减性能只减负担：大模型稀疏化技术全景与实践.36
三者可协同使用，但稀疏化的独特价值在于：无需改变模型核心架构，就能从计算源头降低开销，是大模型适配多场景的通用钥匙。三、稀疏化的实现逻辑1. 、微调质量、任务复杂度推理加速比：主要关注稀疏模型与原模型的速度比，合理范围在2-10 倍区间内，影响因素包括稀疏类型（结构化剪枝比非结构化更易加速）、硬件支持内存节省率：主要关注存储占用降低比例，范围在 示例：参数稀疏化文本生成模型选择轻量级稠密模型（DistilGPT2），通过结构化剪枝（移除冗余通道）+ 4bit 量化实现参数稀疏，在纯 CPU 环境下完成文本生成，对比稀疏化前后的内存占用与推理速度 2.5GB，节省52%）")输出结果： === CPU稀疏化模型运行结果 === 输入Prompt：大模型稀疏化的核心价值是 生成文本：大模型稀疏化的核心价值是在不显著损失模型性能的前提下，大幅降低计算资源消耗和内存占用 CPU激活稀疏化医疗影像特征提取结果 === 推理耗时（CPU）：1.2秒 激活稀疏率：80%（仅20%神经元参与计算） 提取的CT影像特征维度：torch.Size([1, 128]) 特征前10个值
30532编辑于 2026-03-05 - 来自专栏Deep Learning in Ads
基于Field的DeepFM稀疏化实现
W&D模型的wide部分是广义线性模型，DeepFM的wide部分则是FM模型，两者的deep部分都是深度神经网络。 DeepFM的原始特征是非常稀疏的，所以代码实现需要考虑特征的稀疏化运算； 2. 生产环境中，每一个Field的输入可能是多值，有的实现中，将每一个one-hot特征都看作一个独立的field，这样虽然简单实现DeepFM模型，但是会造成模型的参数爆炸，训练效率和inference效率低下 二、 基于Field的DeepFM稀疏化实现 2.2 网络结构图 1522671691_78_w708_h433.png 如图所示，每一种颜色代表不同Field的特征，我们假设输入是稀疏的维度为 代码地址：https://github.com/ck8275411/deep_rec 2.2 Field-Avg-Pooling原理 Field-Avg-Pooling最麻烦的地方在于：如何在稀疏化的样本
2.6K80发布于 2018-06-15 - 来自专栏量子位
不用GPU，稀疏化也能加速你的YOLOv3深度学习模型
最近，创业公司Neural Magic带来了一种名叫新的稀疏化方法，可以帮你解决烦恼，让你的深度学习模型效率“一节更比七节强”！ ? Neural Magic是专门研究深度学习的稀疏方法的公司，这次他们发布了教程：用recipe稀疏化YOLOv3。 听起来有点意思啊，让我们来看看是怎么实现的~ 稀疏化的YOLOv3 稀疏化的YOLOv3使用剪枝（prune）和量化（quantize）等算法，可以删除神经网络中的冗余信息。 这样就可以建立高度精确的pruned或pruned quantized的YOLOv3模型，从而简化流程。 那这种稀疏化方法的灵感来源是什么呢？ 为什么一个比另一个快10倍以上？我不相信像pytorch这样传统的机器学习框架不会得到优化。两种模型的实现是否相同？ ?
91820发布于 2021-06-17 - 来自专栏新智元
单GPU就能压缩模型，性能不变参数少25%！微软提出模型稀疏化新方法
新智元报道 编辑：拉燕 【新智元导读】大语言模型之大，成本之高，让模型的稀疏化变得至关重要。 众所周知，对于大语言模型来说，规模越大，所需的算力越大，自然占用的资源也就越多。 研究人员于是乎把目光转到了这片领域，即模型的稀疏化（Sparsification）。 今天要介绍的SliceGPT，则可以实现模型的事后稀疏。也就是说，在一个模型训练完了以后再进行稀疏化操作。 该模型由微软研究院和苏黎世联邦理工学院联合发表在了arXiv上。 目前主流的稀疏化技术面临着挺多挑战和困难。比方说，需要额外的数据结构，而且在当下的硬件条件下，速度有限。 结果就是，形成了稀疏模式，意味着在神经网络前向传递所需的矩阵乘法中，可以跳过一些浮点运算。运算速度的相对提升取决于稀疏程度和稀疏模式。 下图算式的最小化的线性映射是QD。 从这个意义上说，重构L(2)是最佳的。
48710编辑于 2024-02-26 - 来自专栏图像处理与模式识别研究所
可视化稀疏模式，对称重新排序等三种模型的实现。
Enter>键 3、点击[命令行窗口] 4、按<Enter>键 5、点击[命令行窗口] 6、按<Enter>键 7、点击[命令行窗口] 8、按<Enter>键 9、点击[命令行窗口] 10
26920编辑于 2022-05-28 - 来自专栏活动
稀疏化训练：DeepSeek万亿参数管理秘籍
核心技术解析稀疏化训练是一种通过引入稀疏性来减少模型参数数量和计算复杂度的技术。其发展经历了多个阶段，从最初的简单剪枝方法到如今的复杂稀疏化策略。 然而，随着模型规模的不断扩大和应用场景的日益复杂，稀疏化训练技术也在不断演进，逐渐形成了包括结构化稀疏化、动态稀疏化等多种方法在内的完整体系。 通过稀疏化训练，可以将模型中的部分参数设置为零，从而减少计算量和存储需求。例如，使用稀疏化训练技术对ResNet模型进行优化，在不降低分类准确率的前提下，成功地将模型参数减少了30%以上。 稀疏化训练过程在稀疏化训练中，需要引入稀疏性约束或正则化项，以促使模型参数向零靠近。 模型评估与保存在稀疏化训练完成后，需要对模型进行评估，并保存训练好的模型以便后续使用。
69120编辑于 2025-03-21 - 来自专栏机器之心
将多模态大模型稀疏化，3B模型MoE-LLaVA媲美LLaVA-1.5-7B
MoE-Tuning 可以构建参数数量惊人但计算成本恒定的稀疏模型，并有效解决通常与多模态学习和模型稀疏性相关的性能下降问题。 通常来说，稠密模型的 LVLM 到此就训练完成，然而研究团队发现同时将 LLM 转为 LVLM 和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA 将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段 3：MoE-LLaVA 将 FFN 复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第 17 到 27 层的专家的负载突然增大，甚至几乎包揽了所有 token。对于浅层的 5-11 层，主要是由专家 2、3、4 共同协作。 对 text 和 image 所有激活的通路，该研究采用 PCA 降维得到主要的 10 条通路，如图 8 所示。
43310编辑于 2024-02-06 - 来自专栏PaddlePaddle
一文带你读懂非结构化稀疏模型压缩和推理优化技术
减小模型体积和运算次数，也就是模型稀疏化策略。 GMP 算法对稀疏化模型的性能提升 稀疏化训练包含剪裁模型和 Fine-tune 训练等步骤，但是如何合理的剪裁模型，以保证训练精度呢？ 分多步剪裁和训练，例如重复：稀疏度 +1%、Fine-tune 10 Steps 这样的过程，直到模型稀疏度达到 50%。 ，但是由于某些层会存在 30% 甚至 10% 的稀疏度，使得推理速度变慢。 非结构化稀疏展望 综上，我们已经基本实现了从稀疏化模型训练到推理部署这样一个端到端的能力。
1.8K20编辑于 2021-12-08 - 来自专栏拓端tecdat
R语言拟合改进的稀疏广义加性模型（RGAM）预测、交叉验证、可视化
这是一种拟合稀疏广义加性模型（GAM）的新方法。RGAM具有计算可扩展性，并且适用于连续、二进制、计数和生存数据（点击文末“阅读原文”获取完整代码数据）。 以下是使用不同超参数拟合RGAM模型的示例： R gamma = 0.6, df = 8 函数rgam()为一系列lambda值拟合RGAM模型，并返回一个rgam对象。 预测 可以通过使用predict方法获得此模型的预测结果：每列给出了一个lambda值的预测结果。 # 拟合二元模型 bin_y <-binomial", init_nz = c(), gamma = 0.9, verbose = FALSE) # 第10个模型的前5个观察值的线性预测值 predict(bi1 # 第10个模型的前5个观察值的预测概率 predict( 计数数据的泊松回归 对于泊松回归，响应变量y应该是一个计数数据向量。
54810编辑于 2023-11-30 - 来自专栏拓端tecdat
R语言lasso惩罚稀疏加法（相加）模型SPAM拟合非线性数据和可视化
p=33462 本文将关注R语言中的LASSO（Least Absolute Shrinkage and Selection Operator）惩罚稀疏加法模型（Sparse Additive Model 相关视频 通过本文，我们将展示如何帮助客户在R语言中使用LASSO惩罚稀疏加法模型（SPAM）来拟合非线性数据，并进行相应的可视化分析。 本文提供了一个代码来设置、拟合和可视化加法模型。 这个基本思想最早是由Ravikumar等人在2009年提出的，他们称之为SPAM，即稀疏加法模型。最初的提议涉及到组套索lasso惩罚，但grpreg的任何惩罚函数都可以代替。基本用法如下所示。 稀疏加法模型很好地捕捉到了这一点。 进行交叉验证（默认情况下会绘制出使交叉验证误差最小的拟合结果）： cvfit <- cv.grp plot_line 最后，这些工具还可用于生存模型和 glm 模型。
43020编辑于 2023-08-31 - 来自专栏拓端tecdat
R语言lasso惩罚稀疏加法（相加）模型SPAM拟合非线性数据和可视化
p=33462原文出处：拓端数据部落公众号本文将关注R语言中的LASSO（Least Absolute Shrinkage and Selection Operator）惩罚稀疏加法模型（Sparse 通过本文，我们将展示如何帮助客户在R语言中使用LASSO惩罚稀疏加法模型（SPAM）来拟合非线性数据，并进行相应的可视化分析。本文提供了一个代码来设置、拟合和可视化加法模型。 这个基本思想最早是由Ravikumar等人在2009年提出的，他们称之为SPAM，即稀疏加法模型。最初的提议涉及到组套索lasso惩罚，但grpreg的任何惩罚函数都可以代替。基本用法如下所示。 稀疏加法模型很好地捕捉到了这一点。进行交叉验证（默认情况下会绘制出使交叉验证误差最小的拟合结果）：cvfit <- cv.grpplot_line最后，这些工具还可用于生存模型和 glm 模型。 “网事”6.在r语言中使用GAM（广义相加模型）进行电力负荷时间序列分析7.用数据解读体育决策：挖掘体育赛事新价值8.把握出租车行驶的数据脉搏9.智能门锁“剁手”数据攻略
42510编辑于 2023-08-21 - 来自专栏LINUX阅码场
郭健： Linux内存模型——平坦、非连续与稀疏
本文的内容安排如下：为了能够清楚的解析内存模型，我们对一些基本的术语进行了描述，这在第二章。 第三章则对三种内存模型的工作原理进行阐述，最后一章是代码解析，代码来自4.4.6内核，对于体系结构相关的代码，我们采用ARM64进行分析。 二、和内存模型相关的术语 1、什么是page frame？ 这个替代过程正在进行中，4.4的内核仍然是有3中内存模型可以选择。 顺便一提的是，在开始的时候，sparse memory使用了一维的memory_section数组（不是指针数组），这样的实现对于特别稀疏（CONFIG_SPARSEMEM_EXTREME）的系统非常浪费内存 ，一个section的struct page数组所占用的内存来自directly mapped区域，页表在初始化的时候就建立好了，分配了page frame也就是分配了虚拟地址。
4.7K32发布于 2019-10-08 - 来自专栏PaddlePaddle
大规模稀疏数据分布式模型训练+Anakin Optimizaiton
大规模稀疏数据分布式模型训练视频↓ 大规模稀疏数据分布式模型训练课件↓ Anakin Optimizaiton公开课视频↓ Anakin Optimizaiton公开课课件↓
85820发布于 2018-07-26 深度学习前沿：稀疏专家模型（MoE）门控机制的探索
稀疏专家模型（MoE）概述 在深度学习领域，稀疏专家模型（Mixture of Experts, MoE）正成为处理超大规模模型的重要范式。 门控机制的设计也影响着模型的泛化能力。研究表明，过于稀疏的专家激活（极小的 kk 值）会导致模型难以学习复杂模式；而过于密集的激活（ kk 接近专家总数）又会丧失MoE的计算效率优势。 负载均衡的数学建模 在稀疏专家模型（MoE）的架构中，负载均衡问题直接决定了模型的计算效率和资源利用率。 噪声路由的数学建模 噪声路由的核心作用机制 在稀疏专家模型（MoE）的架构中，噪声路由（Noisy Routing）是一种巧妙的正则化手段，其本质是通过在门控网络（Gating Network）的输出中引入可控的随机扰动 差分隐私路由虽然能提供理论保障，但在实际部署中往往导致模型性能下降10-15%，这一代价在关键任务场景中仍难以接受。
1.5K10编辑于 2025-08-27- 来自专栏媒矿工厂
DreamSparse: 利用扩散模型的稀疏图的新视角合成
具体而言，DreamSparse包含了一个几何模块，旨在从稀疏视图中捕获3D特征作为3D先验。随后，引入空间引导模型来将这些3D特征图转换为用于生成过程的空间信息。 实验结果表明，其框架可以有效地从稀疏视图中合成新的视图图像，并且在训练和开集类别图像中都优于baseline。 介绍 最近的工作开始探索稀疏视图新视图合成，特别是专注于从有限数量的具有已知相机姿势的输入图像（通常为2-3）生成新视图。 在本文中，我们研究了利用预训练的扩散模型（如 Stable Diffusion）中的 2D 图像先验进行可推广的新视图合成，而无需基于稀疏视图进行进一步的每对象训练。 2） 强大的泛化能力，允许使用预训练的扩散模型中的强图像先验生成各种类别的图像，甚至在野生图像中生成图像。3） 能够合成高质量甚至场景级别的图像，而无需对每个对象进行额外的优化。
79040编辑于 2023-10-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号