- 综合排序
- 最热优先
- 最新优先
- 来自专栏量子位
不用GPU，稀疏化也能加速你的YOLOv3深度学习模型
最近，创业公司Neural Magic带来了一种名叫新的稀疏化方法，可以帮你解决烦恼，让你的深度学习模型效率“一节更比七节强”！ ? Neural Magic是专门研究深度学习的稀疏方法的公司，这次他们发布了教程：用recipe稀疏化YOLOv3。 听起来有点意思啊，让我们来看看是怎么实现的~ 稀疏化的YOLOv3 稀疏化的YOLOv3使用剪枝（prune）和量化（quantize）等算法，可以删除神经网络中的冗余信息。 这样就可以建立高度精确的pruned或pruned quantized的YOLOv3模型，从而简化流程。 那这种稀疏化方法的灵感来源是什么呢？ 看来，有了以上强大的YOLOv3 模型工具和教程，用户就可以在CPU上，以最小化的占用空间和GPU的速度来运行深度学习模型。 这样有用的教程，你还在等什么？
91820发布于 2021-06-17 - 来自专栏我爱计算机视觉
MoE-LLaVA——将多模态大模型稀疏化
通常来说，稠密模型的LVLM到此就训练完成，然而我们在发现同时将LLM转为LVLM和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段3：作为初始化，我们将FFN复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第17到27层的专家的负载突然增大，甚至几乎包揽了所有tokens。对于浅层的5-11层，主要是由专家2，3，4共同协作。 我们发现对于某个未见的text token或image tokens，MoE-LLaVA始终偏向于派发专家2和3来处理在模型深层。expert 1，4倾向于处理初始化的token。 这些结果能够更好的帮助我们理解稀疏模型在多模态学习上的行为并探索未知的可能。 图8 激活通路可视化
1K10编辑于 2024-02-06 - 来自专栏机器之心
将多模态大模型稀疏化，3B模型MoE-LLaVA媲美LLaVA-1.5-7B
MoE-Tuning 可以构建参数数量惊人但计算成本恒定的稀疏模型，并有效解决通常与多模态学习和模型稀疏性相关的性能下降问题。 通常来说，稠密模型的 LVLM 到此就训练完成，然而研究团队发现同时将 LLM 转为 LVLM 和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA 将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段 3：MoE-LLaVA 将 FFN 复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第 17 到 27 层的专家的负载突然增大，甚至几乎包揽了所有 token。对于浅层的 5-11 层，主要是由专家 2、3、4 共同协作。 研究团队发现对于某个未见的 text token 或 image token，MoE-LLaVA 始终偏向于派发专家 2 和 3 来处理模型深层。专家 1、4 倾向于处理初始化的 token。
43310编辑于 2024-02-06 - 来自专栏翻译scikit-learn Cookbook
Using sparsity to regularize models使用稀疏性来正则化模型
最小化压缩和选择因子LASSO方法很像岭回归和最小角回归LARS。在理解上与岭回归很相似，我们用特定的值来惩罚回归。它与LARS方法相似之处在于它可以被用于分类参数。它经常导致一个有稀疏向量的系数。 = 0) 10 lasso_0 = Lasso(0) lasso_0.fit(reg_data, reg_target) # 警告，未标准化数据 np.sum(lasso_0.coef_ ! 我们希望没有一个系数被调整为0，实际上，如果你使用这个方法，scikit-learn将给你一个警告，来建议你选择线性回归模型。 The equation looks like the following: 对于线性回归，我们最小化平方误差，这里，我们仍然进行最小化平方误差。 ： image.png An alternate way of looking at this is to minimize the residual sum of squares:可代替的方法是最小化残差平方和
65730发布于 2019-11-14 - 来自专栏Python机器学习算法说书人
SciPy 稀疏矩阵（3）：DOK
实例化 SciPy DOK 格式的稀疏矩阵类的定义位于 scipy.sparse 包中的 dok_matrix 类，对其进行实例化就能获取一个 SciPy DOK 格式的稀疏矩阵的实例。 当然，构造实例的方法主要有 3 种： dok_matrix(D)：D 是一个普通矩阵（二维数组）。 dok_matrix(S)：S 是一个稀疏矩阵。 dok_matrix((M, N), [dtype])：会实例化一个 M 行 N 列元素类型为 dtype 的全 0 矩阵。dtype 是一个可选参数，默认值为双精度浮点数。 with 1 stored elements in Dictionary Of Keys format> >>> mtx[1, 1:3].todense() matrix([[0., 1.]]) >>> mtx[[2, 1], 1:3].todense() matrix([[1., 0.], [0., 1.]])
98250编辑于 2023-09-12 - 来自专栏python3
八、IO优化（3）稀疏列
稀疏列是对 Null 值采用优化的存储方式的普通列。 稀疏列减少了 Null 值的空间需求，但代价是检索非 Null 值的开销增加。 当至少能够节省 20% 到 40% 的空间时，才应考虑使用稀疏列。 三、稀疏列的使用场景 1. 列集 使用稀疏列的表可以指定一个列集以返回表中的所有稀疏列。列集是一种非类型化的 XML 表示形式，它将表的所有稀疏列组合成为一种结构化的输出。 稀疏列和列集是通过使用 CREATE TABLE 或 ALTER TABLE 语句定义的。INSERT、UPDATE 和 DELETE 语句可以通过名称来引用稀疏列。 筛选索引 对于仅包含少量非 NULL 值的稀疏列，因为稀疏列有许多 Null 值行，所以尤其适用于筛选索引。稀疏列的筛选索引可以仅仅对已填充值的行编制索引。这会创建一个更小、更有效的索引。
67110发布于 2020-01-08 - 来自专栏AIWalker
北大等提出MoE-LLaVA：将多模态大模型稀疏化
通常来说，稠密模型的LVLM到此就训练完成，然而我们在发现同时将LLM转为LVLM和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段3：作为初始化，我们将FFN复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第17到27层的专家的负载突然增大，甚至几乎包揽了所有tokens。对于浅层的5-11层，主要是由专家2，3，4共同协作。 我们发现对于某个未见的text token或image tokens，MoE-LLaVA始终偏向于派发专家2和3来处理在模型深层。expert 1，4倾向于处理初始化的token。 这些结果能够更好的帮助我们理解稀疏模型在多模态学习上的行为并探索未知的可能。 图8 激活通路可视化
86010编辑于 2024-02-17 - 来自专栏大模型应用
大模型应用：不减性能只减负担：大模型稀疏化技术全景与实践.36
两者协调：参数稀疏是“硬件友好的静态压缩”，激活稀疏是“场景适配的动态节能”，两者常协同使用（如 4bit 量化 + 结构化剪枝 + Top-K 激活）。3. 经典组合：4bit 量化 + 结构化剪枝，可将 70B 模型的显存占用从 190GB 压缩至 48GB，同时推理速度提升 3 倍以上。2. 稀疏化的流程流程说明：1. 部署决策： 如果达标：部署到端侧、边缘或云端不同场景如果不达标：调整稀疏率或重新选择技术方案这是一个迭代优化过程，通过不断验证和调整，最终获得既高效又保持性能的稀疏化大模型。3. 延迟优化：结构化剪枝 + 动态激活，让推理延迟从秒级降至亚秒级，支撑实时交互。3. 隐性价值：长期收益安全提升：剔除冗余参数，减少后门攻击入口，便于检测模型偏见。 2.5GB，节省52%）")输出结果： === CPU稀疏化模型运行结果 === 输入Prompt：大模型稀疏化的核心价值是 生成文本：大模型稀疏化的核心价值是在不显著损失模型性能的前提下，大幅降低计算资源消耗和内存占用
30532编辑于 2026-03-05 - 来自专栏Deep Learning in Ads
基于Field的DeepFM稀疏化实现
W&D模型的wide部分是广义线性模型，DeepFM的wide部分则是FM模型，两者的deep部分都是深度神经网络。 DeepFM的原始特征是非常稀疏的，所以代码实现需要考虑特征的稀疏化运算； 2. 二、 基于Field的DeepFM稀疏化实现 2.2 网络结构图 1522671691_78_w708_h433.png 如图所示，每一种颜色代表不同Field的特征，我们假设输入是稀疏的维度为 代码地址：https://github.com/ck8275411/deep_rec 2.2 Field-Avg-Pooling原理 Field-Avg-Pooling最麻烦的地方在于：如何在稀疏化的样本 将Field-Selector与样本的SparseTensor进行点积，可以得到每条样本中该Field的特征个数； 3.
2.6K80发布于 2018-06-15 - 来自专栏新智元
单GPU就能压缩模型，性能不变参数少25%！微软提出模型稀疏化新方法
新智元报道 编辑：拉燕 【新智元导读】大语言模型之大，成本之高，让模型的稀疏化变得至关重要。 众所周知，对于大语言模型来说，规模越大，所需的算力越大，自然占用的资源也就越多。 研究人员于是乎把目光转到了这片领域，即模型的稀疏化（Sparsification）。 今天要介绍的SliceGPT，则可以实现模型的事后稀疏。也就是说，在一个模型训练完了以后再进行稀疏化操作。 该模型由微软研究院和苏黎世联邦理工学院联合发表在了arXiv上。 目前主流的稀疏化技术面临着挺多挑战和困难。比方说，需要额外的数据结构，而且在当下的硬件条件下，速度有限。 结果就是，形成了稀疏模式，意味着在神经网络前向传递所需的矩阵乘法中，可以跳过一些浮点运算。运算速度的相对提升取决于稀疏程度和稀疏模式。 利用这一点来编辑Transformer架构中的每个区块，从而将区块间的信号矩阵1投影到其自身上，之后移除变换后权重矩阵的列或行，以减小模型的大小。 3.
48710编辑于 2024-02-26 - 来自专栏图像处理与模式识别研究所
可视化稀疏模式，对称重新排序等三种模型的实现。
1、点击[命令行窗口] 2、按<Enter>键 3、点击[命令行窗口] 4、按<Enter>键 5、点击[命令行窗口] 6、按<Enter>键 7、点击[命令行窗口] 8、按<Enter
26920编辑于 2022-05-28 - 来自专栏活动
稀疏化训练：DeepSeek万亿参数管理秘籍
核心技术解析稀疏化训练是一种通过引入稀疏性来减少模型参数数量和计算复杂度的技术。其发展经历了多个阶段，从最初的简单剪枝方法到如今的复杂稀疏化策略。 然而，随着模型规模的不断扩大和应用场景的日益复杂，稀疏化训练技术也在不断演进，逐渐形成了包括结构化稀疏化、动态稀疏化等多种方法在内的完整体系。 通过稀疏化训练，可以将模型中的部分参数设置为零，从而减少计算量和存储需求。例如，使用稀疏化训练技术对ResNet模型进行优化，在不降低分类准确率的前提下，成功地将模型参数减少了30%以上。 稀疏化训练过程在稀疏化训练中，需要引入稀疏性约束或正则化项，以促使模型参数向零靠近。 模型评估与保存在稀疏化训练完成后，需要对模型进行评估，并保存训练好的模型以便后续使用。
69120编辑于 2025-03-21 - 来自专栏机器之心
1.2万亿参数：谷歌通用稀疏语言模型GLaM，小样本学习打败GPT-3
GPT-3。 此外，在推理过程中使用算力更少的情况下，1.2T 参数的稀疏激活模型（GLaM）在更多任务上实现了比 1.75B 参数的密集 GPT-3 模型更好的平均结果。 在生成任务的推理过程中，GLaM 稀疏激活模型的性能也优于 FLOP 类似的密集模型。对于理解任务，研究者观察到它们在较小的规模上性能相似，但稀疏激活模型在较大的规模上性能更好。 结果表明，稀疏激活模型在达到与密集模型相似的 zero-shot 和 one-shot 性能时，训练时使用的数据显著减少。并且，如果适用的数据量相同，稀疏型模型的表现明显更好。 虽然 GLaM 在训练期间使用了更多算力，但得益于 GSPMD（谷歌 5 月推出的用于常见机器学习计算图的基于编译器的自动化并行系统）赋能的更高效软件实现和 TPUv4 的优势，它在训练时耗能要少于其他模型
1.3K40编辑于 2021-12-13 - 来自专栏深度学习思考者
模型部署系列：10x速度提升，Yolov8检测模型稀疏化——CPU上超500FPS
YOLOv8由广受欢迎的YOLOv3和YOLOv5模型的作者 Ultralytics 开发，凭借其无锚设计将目标检测提升到了一个新的水平。 有关 DeepSparse 如何通过稀疏性实现加速的详细指南，请查看 YOLOv5 with Neural Magic’s DeepSparse。 DeepSparse 是一个推理运行时，专注于让 YOLOv8 等深度学习模型在 CPU 上快速运行。DeepSparse 通过推理优化的稀疏模型实现了最佳性能，它还可以有效地运行标准的现成模型。 通过我们的 One-Shot 优化方法（将在即将推出的 Sparsify 产品中提供），我们生成了 YOLOv8s 和 YOLOv8n ONNX 模型，这些模型已量化为 INT8，同时保持至少 99% 您可以在此处下载 量化模型。
4.8K10编辑于 2023-12-18 - 来自专栏PaddlePaddle
一文带你读懂非结构化稀疏模型压缩和推理优化技术
减小模型体积和运算次数，也就是模型稀疏化策略。 GMP 算法对稀疏化模型的性能提升 稀疏化训练包含剪裁模型和 Fine-tune 训练等步骤，但是如何合理的剪裁模型，以保证训练精度呢？ 3. 非结构化稀疏展望 综上，我们已经基本实现了从稀疏化模型训练到推理部署这样一个端到端的能力。 ，提升稀疏模型加速效果，我们也在探索非结构化稀疏能为 3x3、5x5 卷积计算的带来的加速效果。
1.8K20编辑于 2021-12-08 - 来自专栏拓端tecdat
R语言拟合改进的稀疏广义加性模型（RGAM）预测、交叉验证、可视化
这是一种拟合稀疏广义加性模型（GAM）的新方法。RGAM具有计算可扩展性，并且适用于连续、二进制、计数和生存数据（点击文末“阅读原文”获取完整代码数据）。 让我们生成一些数据： R set.seed(1) n <- 100; p <- 12 mu = rowSums(x[, 1:3]) + f4 + f5 + f6 我们使用最基本的rgam来拟合模型： 以下是使用不同超参数拟合RGAM模型的示例： R gamma = 0.6, df = 8 函数rgam()为一系列lambda值拟合RGAM模型，并返回一个rgam对象。 预测 可以通过使用predict方法获得此模型的预测结果：每列给出了一个lambda值的预测结果。 # 拟合二元模型 bin_y <-binomial", init_nz = c(), gamma = 0.9, verbose = FALSE) # 第10个模型的前5个观察值的线性预测值
54810编辑于 2023-11-30 - 来自专栏拓端tecdat
R语言lasso惩罚稀疏加法（相加）模型SPAM拟合非线性数据和可视化
p=33462 本文将关注R语言中的LASSO（Least Absolute Shrinkage and Selection Operator）惩罚稀疏加法模型（Sparse Additive Model 相关视频 通过本文，我们将展示如何帮助客户在R语言中使用LASSO惩罚稀疏加法模型（SPAM）来拟合非线性数据，并进行相应的可视化分析。 本文提供了一个代码来设置、拟合和可视化加法模型。 这个基本思想最早是由Ravikumar等人在2009年提出的，他们称之为SPAM，即稀疏加法模型。最初的提议涉及到组套索lasso惩罚，但grpreg的任何惩罚函数都可以代替。基本用法如下所示。 下面是前 9 个系数的曲线图： for (i in 1:9) ploline(fit 在生成模型中，变量 3 和 4 与结果呈线性关系，变量 1、2、5 和 6 呈非线性关系，而所有其他变量均不相关 稀疏加法模型很好地捕捉到了这一点。
43020编辑于 2023-08-31 - 来自专栏拓端tecdat
R语言lasso惩罚稀疏加法（相加）模型SPAM拟合非线性数据和可视化
p=33462原文出处：拓端数据部落公众号本文将关注R语言中的LASSO（Least Absolute Shrinkage and Selection Operator）惩罚稀疏加法模型（Sparse 通过本文，我们将展示如何帮助客户在R语言中使用LASSO惩罚稀疏加法模型（SPAM）来拟合非线性数据，并进行相应的可视化分析。本文提供了一个代码来设置、拟合和可视化加法模型。 下面是前 9 个系数的曲线图：for (i in 1:9) ploline(fit在生成模型中，变量 3 和 4 与结果呈线性关系，变量 1、2、5 和 6 呈非线性关系，而所有其他变量均不相关。 稀疏加法模型很好地捕捉到了这一点。进行交叉验证（默认情况下会绘制出使交叉验证误差最小的拟合结果）：cvfit <- cv.grpplot_line最后，这些工具还可用于生存模型和 glm 模型。 ----最受欢迎的见解1.数据类岗位需求的数据面2.探析大数据期刊文章研究热点3.机器学习助推快时尚精准销售预测4.用机器学习识别不断变化的股市状况—隐马尔科夫模型(HMM)的应用5.数据聆听人民网留言板的那些
42510编辑于 2023-08-21 - 来自专栏LINUX阅码场
郭健： Linux内存模型——平坦、非连续与稀疏
一、前言 在linux内核中支持3中内存模型，分别是flat memory model，Discontiguous memory model和sparse memory model。 page_to_pfn和pfn_to_page的宏用来在page frame number和page数据结构之间进行转换，具体如何转换是和memory modle相关，我们会在第三章详细描述linux kernel中的3种内存模型 3、什么是NUMA？ 这个替代过程正在进行中，4.4的内核仍然是有3中内存模型可以选择。 ，一个section的struct page数组所占用的内存来自directly mapped区域，页表在初始化的时候就建立好了，分配了page frame也就是分配了虚拟地址。
4.7K32发布于 2019-10-08 - 来自专栏一点人工一点智能
InstantMesh：利用稀疏视图大规模重建模型从单张图像高效生成3D网格
通过将现成的多视角扩散模型和基于LRM [14]架构的稀疏视角重建模型的优势相结合，InstantMesh能够在10秒内创建多样化的3D物体。 给定输入图像，InstantMesh首先使用多视角扩散模型生成3D一致的多视角图像，然后利用稀疏视角的大规模重建模型直接预测3D网格，整个过程可以在几秒内完成。 为了进一步增强泛化能力和多视图一致性，一些最近的工作利用视频扩散模型中的时间先验进行多视图生成。大规模重建模型。大规模的3D数据集的可用性使得可以训练高度泛化的重建模型，用于前向的图像到3D生成。 03 InstantMesh的架构类似于Instant3D，由多视图扩散模型 和稀疏视图大规模重建模型 组成。 对于每个生成的网格，我们从两个不同的视点可视化纹理渲染（上部）和纯几何（下部）。我们使用“Mesh”变体的稀疏视图重建模型来生成我们的结果。
4.6K10编辑于 2024-04-18
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号