- 综合排序
- 最热优先
- 最新优先
- 来自专栏我爱计算机视觉
MoE-LLaVA——将多模态大模型稀疏化
通常来说，稠密模型的LVLM到此就训练完成，然而我们在发现同时将LLM转为LVLM和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段3：作为初始化，我们将FFN复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第17到27层的专家的负载突然增大，甚至几乎包揽了所有tokens。对于浅层的5-11层，主要是由专家2，3，4共同协作。 我们发现对于某个未见的text token或image tokens，MoE-LLaVA始终偏向于派发专家2和3来处理在模型深层。expert 1，4倾向于处理初始化的token。 这些结果能够更好的帮助我们理解稀疏模型在多模态学习上的行为并探索未知的可能。 图8 激活通路可视化
1K10编辑于 2024-02-06 - 来自专栏翻译scikit-learn Cookbook
Using sparsity to regularize models使用稀疏性来正则化模型
最小化压缩和选择因子LASSO方法很像岭回归和最小角回归LARS。在理解上与岭回归很相似，我们用特定的值来惩罚回归。它与LARS方法相似之处在于它可以被用于分类参数。它经常导致一个有稀疏向量的系数。 我们希望没有一个系数被调整为0，实际上，如果你使用这个方法，scikit-learn将给你一个警告，来建议你选择线性回归模型。 The equation looks like the following: 对于线性回归，我们最小化平方误差，这里，我们仍然进行最小化平方误差。 Ridge regression creates a hypersphere due to the constraint of the l2 norm being less than some constant 岭回归生成一个超球体来限制L2范数小于某个常数，并且它甚至限制了其系数不会是0 Lasso cross-validation Lasso交叉验证 Choosing the most appropriate
65730发布于 2019-11-14 - 来自专栏Python机器学习算法说书人
SciPy 稀疏矩阵（2）：COO
三元组的存储策略 如果存储一个稀疏矩阵对应的多个三元组可以有非常多的实现方式，针对每一种都进行讲解是非常不现实的，而且完全没有这个必要，因为三元组的存储策略可以分为 2 大类：三元组容器法以及三个序列法 至于稀疏矩阵就是多个三元组类的实例构成的一个容器，因此其属性初始化函数的参数就是多个三元组类的实例。 2 种方法：三个序列法。 01 实例化 SciPy COO 格式的稀疏矩阵类的定义位于 scipy.sparse 包中的 coo_matrix 类，对其进行实例化就能获取一个 SciPy COO 格式的稀疏矩阵的实例。 coo_matrix(S)：S 是一个稀疏矩阵。 coo_matrix((M, N), [dtype])：会实例化一个 M 行 N 列元素类型为 dtype 的全 0 矩阵。
79020编辑于 2023-08-28 - 来自专栏AIWalker
北大等提出MoE-LLaVA：将多模态大模型稀疏化
通常来说，稠密模型的LVLM到此就训练完成，然而我们在发现同时将LLM转为LVLM和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段3：作为初始化，我们将FFN复制多份作为专家集合的初始化权重。 然而随着模型逐渐被稀疏化，第17到27层的专家的负载突然增大，甚至几乎包揽了所有tokens。对于浅层的5-11层，主要是由专家2，3，4共同协作。 我们发现对于某个未见的text token或image tokens，MoE-LLaVA始终偏向于派发专家2和3来处理在模型深层。expert 1，4倾向于处理初始化的token。 这些结果能够更好的帮助我们理解稀疏模型在多模态学习上的行为并探索未知的可能。 图8 激活通路可视化
86010编辑于 2024-02-17 - 来自专栏大模型应用
大模型应用：不减性能只减负担：大模型稀疏化技术全景与实践.36
经典组合：4bit 量化 + 结构化剪枝，可将 70B 模型的显存占用从 190GB 压缩至 48GB，同时推理速度提升 3 倍以上。2. 稀疏化的流程流程说明：1. 、微调质量、任务复杂度推理加速比：主要关注稀疏模型与原模型的速度比，合理范围在2-10 倍区间内，影响因素包括稀疏类型（结构化剪枝比非结构化更易加速）、硬件支持内存节省率：主要关注存储占用降低比例，范围在 示例：参数稀疏化文本生成模型选择轻量级稠密模型（DistilGPT2），通过结构化剪枝（移除冗余通道）+ 4bit 量化实现参数稀疏，在纯 CPU 环境下完成文本生成，对比稀疏化前后的内存占用与推理速度 加载并稀疏化模型 ======================model_name = "distilgpt2" # 轻量级模型，CPU可运行tokenizer = AutoTokenizer.from_pretrained 示例2：激活稀疏化医疗影像特征提取模型选择轻量级视觉模型（MobileNetV2），通过动态 Top-K 激活稀疏，仅激活与医疗影像相关的神经元，在 CPU 上完成肺部 CT 影像特征提取，体现激活稀疏的按需计算特性
30432编辑于 2026-03-05 - 来自专栏Deep Learning in Ads
基于Field的DeepFM稀疏化实现
W&D模型的wide部分是广义线性模型，DeepFM的wide部分则是FM模型，两者的deep部分都是深度神经网络。 DeepFM的原始特征是非常稀疏的，所以代码实现需要考虑特征的稀疏化运算； 2. 二、 基于Field的DeepFM稀疏化实现 2.2 网络结构图 1522671691_78_w708_h433.png 如图所示，每一种颜色代表不同Field的特征，我们假设输入是稀疏的维度为 代码地址：https://github.com/ck8275411/deep_rec 2.2 Field-Avg-Pooling原理 Field-Avg-Pooling最麻烦的地方在于：如何在稀疏化的样本 将one-hot特征每一维看做一个独立的field的deepfm； 2.
2.6K80发布于 2018-06-15 - 来自专栏量子位
不用GPU，稀疏化也能加速你的YOLOv3深度学习模型
最近，创业公司Neural Magic带来了一种名叫新的稀疏化方法，可以帮你解决烦恼，让你的深度学习模型效率“一节更比七节强”！ ? Neural Magic是专门研究深度学习的稀疏方法的公司，这次他们发布了教程：用recipe稀疏化YOLOv3。 听起来有点意思啊，让我们来看看是怎么实现的~ 稀疏化的YOLOv3 稀疏化的YOLOv3使用剪枝（prune）和量化（quantize）等算法，可以删除神经网络中的冗余信息。 这样就可以建立高度精确的pruned或pruned quantized的YOLOv3模型，从而简化流程。 那这种稀疏化方法的灵感来源是什么呢？ 看来，有了以上强大的YOLOv3 模型工具和教程，用户就可以在CPU上，以最小化的占用空间和GPU的速度来运行深度学习模型。 这样有用的教程，你还在等什么？
91820发布于 2021-06-17 - 来自专栏新智元
单GPU就能压缩模型，性能不变参数少25%！微软提出模型稀疏化新方法
新智元报道 编辑：拉燕 【新智元导读】大语言模型之大，成本之高，让模型的稀疏化变得至关重要。 众所周知，对于大语言模型来说，规模越大，所需的算力越大，自然占用的资源也就越多。 研究人员于是乎把目光转到了这片领域，即模型的稀疏化（Sparsification）。 今天要介绍的SliceGPT，则可以实现模型的事后稀疏。也就是说，在一个模型训练完了以后再进行稀疏化操作。 该模型由微软研究院和苏黎世联邦理工学院联合发表在了arXiv上。 目前主流的稀疏化技术面临着挺多挑战和困难。比方说，需要额外的数据结构，而且在当下的硬件条件下，速度有限。 而实际结果也是非常不错的，在LLAMA-2 70B、OPT 66B和Phi-2模型上，SliceGPT去除了多达25%的模型参数，还保证了模型本身99%、99%以及90%的零样本任务的性能。 下图算式的最小化的线性映射是QD。 从这个意义上说，重构L(2)是最佳的。
48710编辑于 2024-02-26 - 来自专栏图像处理与模式识别研究所
可视化稀疏模式，对称重新排序等三种模型的实现。
1、点击[命令行窗口] 2、按<Enter>键 3、点击[命令行窗口] 4、按<Enter>键 5、点击[命令行窗口] 6、按<Enter>键 7、点击[命令行窗口] 8、按<Enter
26920编辑于 2022-05-28 - 来自专栏活动
稀疏化训练：DeepSeek万亿参数管理秘籍
核心技术解析稀疏化训练是一种通过引入稀疏性来减少模型参数数量和计算复杂度的技术。其发展经历了多个阶段，从最初的简单剪枝方法到如今的复杂稀疏化策略。 然而，随着模型规模的不断扩大和应用场景的日益复杂，稀疏化训练技术也在不断演进，逐渐形成了包括结构化稀疏化、动态稀疏化等多种方法在内的完整体系。 通过稀疏化训练，可以将模型中的部分参数设置为零，从而减少计算量和存储需求。例如，使用稀疏化训练技术对ResNet模型进行优化，在不降低分类准确率的前提下，成功地将模型参数减少了30%以上。 稀疏化训练过程在稀疏化训练中，需要引入稀疏性约束或正则化项，以促使模型参数向零靠近。 模型评估与保存在稀疏化训练完成后，需要对模型进行评估，并保存训练好的模型以便后续使用。
69120编辑于 2025-03-21 - 来自专栏深度学习思考者
模型部署系列：10x速度提升，Yolov8检测模型稀疏化——CPU上超500FPS
[1] 详细内容请参阅 MarkAI Blog [2] 更多资料及工程项目请关注 MarkAI Github [3] 通关感知算法面试请Star 2024年千道算法面试题综述 在本文中，您将了解 YOLO 有关 DeepSparse 如何通过稀疏性实现加速的详细指南，请查看 YOLOv5 with Neural Magic’s DeepSparse。 DeepSparse 是一个推理运行时，专注于让 YOLOv8 等深度学习模型在 CPU 上快速运行。DeepSparse 通过推理优化的稀疏模型实现了最佳性能，它还可以有效地运行标准的现成模型。 通过我们的 One-Shot 优化方法（将在即将推出的 Sparsify 产品中提供），我们生成了 YOLOv8s 和 YOLOv8n ONNX 模型，这些模型已量化为 INT8，同时保持至少 99% 您可以在此处下载 量化模型。
4.8K10编辑于 2023-12-18 - 来自专栏机器之心
将多模态大模型稀疏化，3B模型MoE-LLaVA媲美LLaVA-1.5-7B
通常来说，稠密模型的 LVLM 到此就训练完成，然而研究团队发现同时将 LLM 转为 LVLM 和把模型稀疏化是具有挑战的。 因此，MoE-LLaVA 将使用第二阶段的权重作为第三阶段的初始化以降低稀疏模型学习的难度。 阶段 3：MoE-LLaVA 将 FFN 复制多份作为专家集合的初始化权重。 图 6 专家负载可视化 图 6 展示了在 ScienceQA 上 MoE-LLaVA-2.7B×4-Top2 的专家负载。整体上，在训练初始化时，所有的 MoE 层 中的专家的负载比较平衡。 然而随着模型逐渐被稀疏化，第 17 到 27 层的专家的负载突然增大，甚至几乎包揽了所有 token。对于浅层的 5-11 层，主要是由专家 2、3、4 共同协作。 研究团队发现对于某个未见的 text token 或 image token，MoE-LLaVA 始终偏向于派发专家 2 和 3 来处理模型深层。专家 1、4 倾向于处理初始化的 token。
43310编辑于 2024-02-06 - 来自专栏PaddlePaddle
一文带你读懂非结构化稀疏模型压缩和推理优化技术
减小模型体积和运算次数，也就是模型稀疏化策略。 GMP 算法对稀疏化模型的性能提升 稀疏化训练包含剪裁模型和 Fine-tune 训练等步骤，但是如何合理的剪裁模型，以保证训练精度呢？ 0，且占用训练时间很少（1-2 Epochs足够），用于正式剪裁前的模型稳定。 GMP 解决这个问题的依据是训练过程中，正则项（例如上述 SGD 带来的隐性正则特性，L1、L2显性正则等）对某些权重大小带来的抑制作用，可以让网络不断地去调整稀疏化权重的分布。 2.全局稀疏化与均匀稀疏化的讨论 稀疏策略上，另外一个重要的维度是如何将剪裁比例应用到不同层，比如，为使模型的整体稀疏度达到 50%，我们可以将所有权重一起排序，置零 50% （该方法称为 Global
1.8K20编辑于 2021-12-08 - 来自专栏拓端tecdat
R语言拟合改进的稀疏广义加性模型（RGAM）预测、交叉验证、可视化
这是一种拟合稀疏广义加性模型（GAM）的新方法。RGAM具有计算可扩展性，并且适用于连续、二进制、计数和生存数据（点击文末“阅读原文”获取完整代码数据）。 R fit <- rgam 下面，我们使用不同的init_nz值拟合模型： RGAM算法第2步的自由度超参数可以通过df选项进行设置，默认值为4。 以下是使用不同超参数拟合RGAM模型的示例： R gamma = 0.6, df = 8 函数rgam()为一系列lambda值拟合RGAM模型，并返回一个rgam对象。 预测 可以通过使用predict方法获得此模型的预测结果：每列给出了一个lambda值的预测结果。 # 拟合二元模型 bin_y <-binomial", init_nz = c(), gamma = 0.9, verbose = FALSE) # 第10个模型的前5个观察值的线性预测值
54810编辑于 2023-11-30 - 来自专栏拓端tecdat
R语言lasso惩罚稀疏加法（相加）模型SPAM拟合非线性数据和可视化
p=33462 本文将关注R语言中的LASSO（Least Absolute Shrinkage and Selection Operator）惩罚稀疏加法模型（Sparse Additive Model 相关视频 通过本文，我们将展示如何帮助客户在R语言中使用LASSO惩罚稀疏加法模型（SPAM）来拟合非线性数据，并进行相应的可视化分析。 本文提供了一个代码来设置、拟合和可视化加法模型。 这个基本思想最早是由Ravikumar等人在2009年提出的，他们称之为SPAM，即稀疏加法模型。最初的提议涉及到组套索lasso惩罚，但grpreg的任何惩罚函数都可以代替。基本用法如下所示。 下面是前 9 个系数的曲线图： for (i in 1:9) ploline(fit 在生成模型中，变量 3 和 4 与结果呈线性关系，变量 1、2、5 和 6 呈非线性关系，而所有其他变量均不相关 稀疏加法模型很好地捕捉到了这一点。
42920编辑于 2023-08-31 - 来自专栏拓端tecdat
R语言lasso惩罚稀疏加法（相加）模型SPAM拟合非线性数据和可视化
p=33462原文出处：拓端数据部落公众号本文将关注R语言中的LASSO（Least Absolute Shrinkage and Selection Operator）惩罚稀疏加法模型（Sparse 通过本文，我们将展示如何帮助客户在R语言中使用LASSO惩罚稀疏加法模型（SPAM）来拟合非线性数据，并进行相应的可视化分析。本文提供了一个代码来设置、拟合和可视化加法模型。 下面是前 9 个系数的曲线图：for (i in 1:9) ploline(fit在生成模型中，变量 3 和 4 与结果呈线性关系，变量 1、2、5 和 6 呈非线性关系，而所有其他变量均不相关。 稀疏加法模型很好地捕捉到了这一点。进行交叉验证（默认情况下会绘制出使交叉验证误差最小的拟合结果）：cvfit <- cv.grpplot_line最后，这些工具还可用于生存模型和 glm 模型。 ----最受欢迎的见解1.数据类岗位需求的数据面2.探析大数据期刊文章研究热点3.机器学习助推快时尚精准销售预测4.用机器学习识别不断变化的股市状况—隐马尔科夫模型(HMM)的应用5.数据聆听人民网留言板的那些
42510编辑于 2023-08-21 - 来自专栏LINUX阅码场
郭健： Linux内存模型——平坦、非连续与稀疏
2、什么是PFN？ 对于一个计算机系统，其整个物理地址空间应该是从0开始，到实际系统能支持的最大物理空间为止的一段地址空间。 2、什么是Discontiguous Memory Model？ 顺便一提的是，在开始的时候，sparse memory使用了一维的memory_section数组（不是指针数组），这样的实现对于特别稀疏（CONFIG_SPARSEMEM_EXTREME）的系统非常浪费内存 ，一个section的struct page数组所占用的内存来自directly mapped区域，页表在初始化的时候就建立好了，分配了page frame也就是分配了虚拟地址。 2、Discontiguous Memory Model。代码如下： ?
4.7K32发布于 2019-10-08 - 来自专栏PaddlePaddle
大规模稀疏数据分布式模型训练+Anakin Optimizaiton
大规模稀疏数据分布式模型训练视频↓ 大规模稀疏数据分布式模型训练课件↓ Anakin Optimizaiton公开课视频↓ Anakin Optimizaiton公开课课件↓
85820发布于 2018-07-26 深度学习前沿：稀疏专家模型（MoE）门控机制的探索
稀疏专家模型（MoE）概述 在深度学习领域，稀疏专家模型（Mixture of Experts, MoE）正成为处理超大规模模型的重要范式。 与传统稠密模型不同，MoE在每次前向传播时仅激活部分专家（通常为1-2个），这种稀疏激活特性使其参数量可以指数级增长而不显著增加计算成本。 门控机制的设计也影响着模型的泛化能力。研究表明，过于稀疏的专家激活（极小的 kk 值）会导致模型难以学习复杂模式；而过于密集的激活（ kk 接近专家总数）又会丧失MoE的计算效率优势。 负载均衡的数学建模 在稀疏专家模型（MoE）的架构中，负载均衡问题直接决定了模型的计算效率和资源利用率。 噪声路由的数学建模 噪声路由的核心作用机制 在稀疏专家模型（MoE）的架构中，噪声路由（Noisy Routing）是一种巧妙的正则化手段，其本质是通过在门控网络（Gating Network）的输出中引入可控的随机扰动
1.5K10编辑于 2025-08-27- 来自专栏媒矿工厂
DreamSparse: 利用扩散模型的稀疏图的新视角合成
介绍 最近的工作开始探索稀疏视图新视图合成，特别是专注于从有限数量的具有已知相机姿势的输入图像（通常为2-3）生成新视图。 在本文中，我们研究了利用预训练的扩散模型（如 Stable Diffusion）中的 2D 图像先验进行可推广的新视图合成，而无需基于稀疏视图进行进一步的每对象训练。 2） 强大的泛化能力，允许使用预训练的扩散模型中的强图像先验生成各种类别的图像，甚至在野生图像中生成图像。3） 能够合成高质量甚至场景级别的图像，而无需对每个对象进行额外的优化。 图1 pipeline 训练3D Geometry Module 为了将 3D 感知注入 2D 扩散模型，本文提出了一种几何模型来提取 2D 扩散模型的具有几何信息的 3D 特征。 \quad(4) 图2 spatial feature的可视化 noise perturbation method 空间引导模块本身能够引导预先训练的扩散模型合成具有一致几何形状的新视图图像。
79040编辑于 2023-10-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号