- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI研习社
PyTorch算法加速指南
所有帖子都在这里： 1.加快算法速度，第1部分—PyTorch 2.加快算法速度，第2部分-Numba 3.加快算法速度，第3部分—并行化 4.加快算法速度，第4部分--Dask 这些与Jupyter 引言: 在本文中，我将展示如何使用torch和pycuda检查、初始化GPU设备，以及如何使算法更快。 PyTorch是建立在torch之上的机器学习库。它得到了Facebook AI研究小组的支持。
1.2K20发布于 2019-11-27 - 来自专栏FPGA技术江湖
基于 FPGA 的压缩算法加速实现
基于 FPGA 的压缩算法加速实现 第一部分 设计概述 /Design Introduction 1.1设计目的 本设计中，计划实现对文件的压缩及解压，同时优化压缩中所涉及的信号处理和计算密集型功能，实现对其的加速处理 系统组成及功能说明 /System Construction & Function Description 2.1 系统的功能实现 本设计中，在pynq-z2 FPGA平台上使用Gzip对文件进行了压缩算法的加速实现 首先利用 LZ77 算法进行字典查找替代，消除重复信息，然后进行哈夫曼编码构造平均长度最短的压缩码流。 图6 2.5 LZ77 算法 LZ77 算法是一种基于字典模型的压缩算法。 DEFLATE 算法中用到的 LZ77 算法是在原始 LZ77 算法的基础上略加改进得到的，但算法基本思想保持不变。 并具备一定的加速效果，相比纯arm进行压缩速度提高了1.6倍。Vivado硬件工程能够通过综合、应用、生成比特流。最后通过Jupyter Notebook在pynq z2平台上进行功能验证。
49600编辑于 2025-07-08 - 来自专栏姜媚的专栏
CNN 模型压缩与加速算法综述
导语：卷积神经网络日益增长的深度和尺寸为深度学习在移动端的部署带来了巨大的挑战，CNN模型压缩与加速成为了学术界和工业界都重点关注的研究领域之一。 2.1 算法流程 与前面的“架构压缩派”的SqueezeNet不同，Deep Compression是属于“权值压缩派”的。 因此Song H.等人专门针对压缩后的模型设计了一套基于FPGA的硬件前向加速框架EIE[12]，有兴趣的可以研究一下。 三、XNorNet 二值网络一直是模型压缩和加速领域经久不衰的研究课题之一。 四、Distilling Distilling算法是Hinton等人在论文Distilling the Knowledge in a Neural Network中提出的一种类似网络迁移的学习算法。 相信结合不断迭代优化的网络架构和不断发展的硬件计算加速技术，未来深度学习在移动端的部署将不会是一个难题。
16.2K70发布于 2017-08-21 - 来自专栏GiantPandaCV
详解卷积中的Winograd加速算法
「GiantPandaCV导语」：这篇文章为大家介绍一下用来加速卷积运算的WinoGrad算法的原理，工程实现以及相关优化思路，如果你对卷积加速算法感兴趣可以看看这篇文章。 所以在这种情况下，针对卷积的WinoGrad算法出现了，它不仅可以类似FFT一样降低计算量，它还不会引入复数，使得卷积的运算加速成为了可能。 因此，本文尝试从工程实现的角度来看一下WinoGrad，希望对从事算法加速的小伙伴有一些帮助。 2. 为什么会有这篇文章？ 相比于普通的矩阵乘法，使用WinoGrad算法之后乘法次数减少了，这样就可以达到加速的目的了。 这个例子实际上是「1D的WinoGrad算法」，我们将上面的计算过程写成矩阵的形式如下： ? WinoGrad算法进一步加速 上面无论是针对U,V,M还是Y矩阵的计算我们使用的都是暴力计算，所以接下来可以使用Neon Instrics和Neon Assembly技术进行优化。
5.4K42发布于 2020-10-10 - 来自专栏OpenMMLab
试试这个加速算法
今天我们将解读该篇论文，带领大家一起了解 Multigrid 训练加速算法的具体细节。 受到数值计算领域中通过改变 coarse and fine grids 来解决优化问题思想的启发，Multigrid 算法在保证 B x T x H x W 的值固定的前提下， 动态改变 T x H x 由于 multigrid 方法使用动态变化的 mini-batch size，因此希望将其对 Batch Normalization 的影响与训练加速的影响分离。 MMAction2 的使用方法✦ MMAction2 目前支持了 SlowFast 模型在 Kinetics400 数据集上的 Multigrid 训练加速策略。 如果大家想要进行更深入地学习，可以借助我们 MMAction2 的算法库，非常欢迎大家来使用，Star, Fork 和 PR ！
68040编辑于 2022-04-09 - 来自专栏Java实战博客
WordPress加速 – Redis加速 – Opcache加速
本页目录 Redis加速 Opcache – PHP脚本加速 任何网站的加速都离不开缓存，Wordpress也是一样，我们本次采用Redis做Wordpress的缓存！ 同时我们采用Opcache给PHP脚本加速！ Redis加速 我们去宝塔，下载一个Redis，然后启动Redis，然后配置文件配置如下。 // 设置使用的Redis库 define( 'WP_REDIS_DATABASE', 0 ); Opcache – PHP脚本加速 在宝塔里安装一下。
3.3K10编辑于 2022-11-18 - 来自专栏算法进阶
图神经网络加速综述: 算法、系统和硬件
为了应对这些挑战，已经进行了许多关于如何加速GNN的研究。这些加速技术涉及GNN的各个方面，从智能训练和推理算法到高效系统和定制硬件。 本综述提供了GNN加速的分类，回顾了现有的方法，并提出了未来的研究方向。 如图1所示，GNN加速技术分为三类：算法、系统和定制硬件。 相关工作根据工作量的灵活性进行分类，包括针对多种GNN算法的加速器和专注于GCN操作的加速器。 G-CoS是一个自动化框架，包含一次性协同搜索算法和通用加速器搜索空间，以优化GNN的性能和效率。GCoD是一个协同设计框架，通过优化算法和硬件加速器来解决GNN推理中的极度稀疏问题。 HyGCN加速器将GNN算法分为聚合和组合两个阶段，采用独立的处理引擎以数据流方式处理。FlowGNN是一种通用数据流架构，可支持多种消息传递GNN算法。
1.9K10编辑于 2024-02-17 - 来自专栏SDNLAB
NFV性能优化——架构性并行加速算法思想
但是，NFV有一大弱点和弊端目前尚且无法超越传统网络功能设备——NFV处理的性能效率，这篇文章从SIGCOMM中的一篇论文获得启发，提出了一种从架构上加速NFV的算法。 除此之外，更重要的是，论文还提出了一种NFV加速算法。其思想是把传统的网络功能拆成各个不可再分的“元素处理模块”，合并和重构不同网络功能的处理模块，从而达到加速的效果。 介绍完了OpenBox，笔者认为算法还具有提升空间，众所周知，除了IPS和防火墙这种包具有先后处理顺序的网络功能之外，许多的网络功能部件之间处理是没有关系的，比如CDN和Tester之间就没有顺序关系， 于是笔者提出一种新的NFV架构，使用并行处理的思想对NFV进行加速。即在包分发器（PCD）和一个控制器(Controller)辅助下，对包进行并行处理。如图5所示： ? 除此之外，input和output横跨多少SW才能使得在controller中等待处理包的队列效率最大，这都决定到这两种算法的可行性，这些问题还有待进一步探究。
1.2K50发布于 2018-03-30 - 来自专栏WOLFRAM
使用Wolfram元编程+编译 加速一类回溯算法
穷举法可以解决很多问题，当数据规模变大时，需要一些优化技巧，剪枝就是一个常用手段，穷举+剪枝就是回溯算法了。 如果要换一种写法，自然就会想到使用（多重）循环或递归了，Mathematica中循环的效率不算高，但是可以配合编译（Compile）来大幅加速。 Mathematica具备像LISP中“数据即代码，代码即数据，一切都是表达式”和擅长符号计算等特性，我们可以很方便的进行元编程（Meta-Programming），通过写代码来动态生成代码再编译，从而对程序加速 而下面这种方法简单粗暴，既可以得到所有的解，速度也还行，要改成只返回一个解的也不难，而且可以进一步编译为C代码加速。 输入数独矩阵，将其中的0（空白处）都替换为符号变量 ? 八皇后问题，是一个古老而著名的问题，是回溯算法的典型案例。在8×8格的国际象棋上摆放八个皇后，使其不能互相攻击，即任意两个皇后都不能处于同一行、同一列或同一斜线上，问有多少种摆法？
1.6K20发布于 2019-10-23 - 来自专栏算法之名
使用栈的记忆化搜索来加速子集和算法
test.getSubSet(A, 8, 0); System.out.println(test.getRes()); } } 运行结果 [1, 2, 5] 但是这个算法的时间复杂度非常高 现在我们用栈和哈希缓存来加速这个算法。主要是缓存计算结果，不用每次都去getSum中把list的和算一遍。
65010发布于 2020-12-02 - 来自专栏机器之心
从模型到部署，FPGA该怎样加速广告推荐算法
我还为你准备了将模型部署到 FPGA 上做硬件加速的方法，希望对你有帮助。阅读这篇文章你可能需要 20 分钟的时间。 早上起床打开音乐 APP，会有今日歌单为你推荐一些歌曲。 下表是经过调整后，不同算法实现的模型效果对比表： ? 四、模型部署 通常对于 AI 算法模型都是通过 GPU 服务器部署模型，但是对于推荐系统类算法逻辑计算较多，在速度上反而没有优势，部署成本也比较高，经济性很差。 作者介绍：本文作者为雪湖科技算法工程师梅碧峰，现负责人工智能算法开发。在 AI 算法领域工作超过 5 年，喜欢戴着 Sony 降噪耳机埋头研究各类算法模型。 雪湖科技是一家专注于人工智能和 FPGA 应用开发的企业，特别擅长于在利用 FPGA 对各类 AI 算法做硬件加速，可以提供各类基于 FPGA 的标准神经网络加速器和定制化开发。
1.3K20发布于 2019-08-26 - 来自专栏ATYUN订阅号
18岁天才准博士用经典算法推翻量子加速
“这是量子加速的最明确的例子之一，现在已经不成立了，”Tang说，他在春季毕业于德克萨斯大学奥斯汀分校，秋天将在华盛顿大学开始攻读博士学位。 他们通过简化问题来实现这一量子加速：不是填写整个矩阵并确定推荐的单一最佳产品，而是开发了一种将用户分类为少数类别的方式，如他们喜欢大片还是独立电影？并对现有数据进行抽样，以便生成足够好的建议。 因此，当Aaronson在2017年开始与Tang合作时，这就是他提出的问题，证明没有快速的经典推荐算法，从而确认Kerenidis和Prakash的量子加速是真实的。 与此同时，唐的论文进一步证明了量子算法和经典算法研究之间富有成效的相互作用。 Aaronson表示，“Tang杀死了Kerenidis和Prakash的量子加速，但在另一种意义上，这是一个很大的改进，并且是在他们所做的基础上进行。
71820发布于 2018-08-16 - 来自专栏Dechin的专栏
Python3实现打格点算法的GPU加速
在这篇文章中，我们主要探讨如何用GPU来实现打格点的算法。 打格点算法实现 我们先来用一个例子说明一下什么叫打格点。 打格点算法加速 在上面这个算法实现中，我们主要是用到了一个for循环，这时候我们可以想到numba所支持的向量化运算，还有GPU硬件加速，这里我们先对比一下三种实现方案的计算结果： # cuda_grid.py ，直接飞升到了0.048s，而GPU上的加速更是达到了0.018s，相比于没有GPU硬件加速的场景，实现了将近2倍的加速。 总结概要 在这篇文章中，我们主要介绍了打格点算法在分子动力学模拟中的重要价值，以及几种不同的实现方式。其中最普通的for循环的实现效率比较低下，从算法复杂度上来讲却已经是极致。 当然，这个案例在不同的硬件上也能够发挥出明显不同的加速效果，在GPU的加持之下，可以获得100倍以上的加速效果。这也是一个在Python上实现GPU加速算法的一个典型案例。
81740发布于 2021-09-14 - 来自专栏计算机视觉战队
技术 | 用二进制算法加速神经网络
The original article is published on Nervana site: Accelerating Neural Networks with Binary Arithmetic. Please go to Nervana Homepage to learn more on Intel Nervana's deep learning technologies. At Nervana we are deeply interested in algorithmic and hard
79970发布于 2018-04-17 - 来自专栏笔记堡—柠檬酸冰冰
加速狗scdn全站加速
加速你的网站超越极限！ 提高性能 让您的内容保持领先，更贴近您的用户，并在竞争中领先一步。 削减成本 通过简单的现收现付定价消除大量下载的巨大成本。
5.4K40编辑于 2023-03-04 - 来自专栏深度学习思考者
深度学习模型压缩与加速算法之SqueezeNet和ShuffleNet
在这样的情形下，模型小型化与加速成了亟待解决的问题。其实早期就有学者提出了一系列CNN模型压缩方法，包括权值剪值（prunning）和矩阵SVD分解等，但压缩率和效率还远不能令人满意。 近年来，关于模型小型化的算法从压缩角度上可以大致分为两类：从模型权重数值角度压缩和从网络架构角度压缩。另一方面，从兼顾计算速度方面，又可以划分为：仅压缩尺寸和压缩尺寸的同时提升速度。 SqueezeNet在网络结构中大量采用1x1和3x3卷积核是有利于速度的提升的，对于类似caffe这样的深度学习框架，在卷积层的前向计算中，采用1x1卷积核可避免额外的im2col操作，而直接利用gemm进行矩阵加速运算 结束语 近几年来，除了学术界涌现的诸多CNN模型加速工作，工业界各大公司也推出了自己的移动端前向计算框架，如Google的Tensorflow、Facebook的caffe2以及苹果今年刚推出的CoreML 相信结合不断迭代优化的网络架构和不断发展的硬件计算加速技术，未来深度学习在移动端的部署将不会是一个难题。
1.3K10发布于 2019-05-26 - 来自专栏机器学习入门
【机器学习】揭秘深度学习优化算法：加速训练与提升性能
对于这些问题, 出现了一些对梯度下降算法的优化方法. 但是 Momentum 动量梯度下降算法已经在先前积累了一些梯度值，很有可能使得跨过鞍点。 由于 mini-batch 普通的梯度下降算法，每次选取少数的样本梯度确定前进方向，可能会出现震荡，使得训练时间变长。 Momentum 算法可以理解为是对梯度值的一种调整，我们知道梯度下降算法中还有一个很重要的学习率，Momentum 并没有学习率进行优化。 RMSProp RMSProp 优化算法是对 AdaGrad 的优化. 最主要的不同是，其使用指数移动加权平均梯度替换历史梯度的平方和。
44110编辑于 2024-10-14 【深度学习加速探秘】Winograd 卷积算法：让计算效率 “飞” 起来
随着模型规模不断增大，传统卷积算法的计算效率成为限制深度学习发展的一大瓶颈。 Winograd 卷积算法的出现，犹如一把利刃，直击传统卷积计算的痛点。 广泛应用：已被集成到众多深度学习框架中，如 TensorFlow、PyTorch 等，成为加速深度学习模型训练和推理的重要技术手段。 ：深度学习加速的新边界 尽管 Winograd 卷积算法在提升卷积计算效率方面成果显著，但它也面临着一些挑战： 通用性限制：主要针对小尺寸卷积核进行优化，对于大尺寸卷积核或特殊形状的卷积核，优化效果有限 随着深度学习模型不断向更大规模、更复杂的方向发展，未来的计算加速技术需要在通用性、资源利用率和算法复杂度之间寻求更好的平衡。是否会出现融合多种优化策略的全新卷积算法？ 互动话题：你在使用深度学习框架时是否感受到 Winograd 卷积算法带来的性能提升？对于深度学习计算加速技术，你还有哪些期待和想法？欢迎在评论区留言讨论，一起探索深度学习的未来！
38510编辑于 2025-10-14- 来自专栏媒矿工厂
VP9到HEVC转码的帧内加速算法
在前一部分我们讨论了VP9到HEVC的帧间转码加速算法，在这一部分我们探讨帧内部分的转码加速算法。表1所示为HEVC和VP9在部分编码技术上的异同，我们可以发现相似点与不同点。 转码算法和结果说明 上海交通大学图像所研究团队基于传统H.264/AVC到HEVC的转码方法研究，提出了VP9到HEVC转码的帧内加速算法，一定程度上加速了转码过程，此方案主要包含两个部分，分别是利用VP9 对该算法的性能进行一个理论上的分析，具体来说，该算法会面对两种情况：当VP9的递归深度较大的时候，算法的加速性能有限。 算法在面对这种情况时，加速性能不会受到影响，因为算法依据VP9递归深度进行了提前终止搜索的操作，但是视频质量性能可能会受到损失。综合以上两点，我们通过理论分析对算法在各种情况下的性能做一个总结。 对于平坦区域，本算法既能有良好的加速效果，也能有良好的视频质量保证；对于纹理复杂区域，本算法加速效果受限，但有良好的视频质量保证；对于同一个区域VP9和HEVC决策差异较大的，本算法能有良好的加速效果，
1.7K80发布于 2018-03-06 - 来自专栏AI科技大本营的专栏
AI加速器与机器学习算法：协同设计与进化
ML硬件的分类：CPU、GPU、AI加速器、FPGA和ASIC “硬件感知（Hardware-aware）”的算法和“算法感知（Algorithms-aware）”的硬件 AI加速器与高效ML算法的协同进化 针对推理的AI加速器与高效算法 针对训练的AI加速器与高效算法 AI加速器的未来 为什么需要专用AI加速器？ 这就是AI加速器和ML算法的协同进化。硬件设计师为AI加速器增加ML算法可以使用的功能，而ML研发人员则利用AI加速器的硬件功能量身设计新的算法。 AI加速器与高效ML算法的协同进化 AI加速器分为两类：(1)用于训练的AI加速器；(2)用于推理的AI加速器。 针对训练的AI加速器与高效算法 ML训练即利用训练数据优化模型参数，以提高模型的预测准确度。本节将讨论AI加速器上运行的算法如何提升推理性能和能效。
1.4K52编辑于 2022-12-10
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号