- 综合排序
- 最热优先
- 最新优先
- 来自专栏性能优化之路
视频抽帧的全流程GPU异构加速实践
使用硬件来做硬解码以及并行计算加速是一个比较理想的替代方案，NVIDIA的GPU从2014年发布的Maxwell架构开始，即增加了单独的硬件编解码计算单元，并且GPU上为数众多的CUDA core也特别适用于图像数据并行处理加速 [bcbf4050e04847665141df76be778dd2.png]
▲ NVIDIA GPU NVDEC Architecture 2. 因此，该方案的主要目标是尽可能减少host与device间的数据IO交换，做到抽帧过程全流程GPU异构计算，充分利用腾讯云NVIDIA GPU自带的硬件解码单元NVDEC，最大限度减少视频解码对于CPU 目前该方案仍在迭代中，当前具备的特点和优势如下： 高性能：硬解+CUDA并行计算加速，较CPU方案快近一倍，较Python版快数倍 全异构：整个pipeline中间过程无CPU&GPU间帧数据交换，避免 真正做到全流程GPU异构抽帧。8.3K205编辑于 2022-05-30 - 来自专栏全栈程序员必看
【矩阵计算GPU加速】numpy 矩阵计算利用GPU加速，cupy包
CuPy 项目地址:https://cupy.chainer.org/ 这个项目本来是用来支持Chainer这个深度学习框架的，但是开发者把这个“GPU 计算包”单独分出来了，方便了大家！！！ 1024,512,4,1))*512.3254 time1=time.time() for i in range(20): z=x*y print('average time for 20 times gpu 后面的计算速度才是稳定的，cpu和gpu都有一定这个特性，这个原因cpu和gpu是不同！和“操作系统的本身算法、GPU工作方式”等有关系吧？ 4,4,4,4))*1024. y=np.ones((4,4,4,1))*512.3254 x=cp.ones((4,4,4,4))*1024. y=cp.ones((4,4,4,1))*512.3254 GPU 失去了优势，所以也不是所有计算都需要放到gpu上来加速的！
3K20编辑于 2022-09-13 - 来自专栏博文视点Broadview
“云上生长”网络研讨会｜使用 GPU 和 VPU 等异构硬件加速视频转码
在此背景下，企业对极高效率、极低延迟的追求与传统硬件瓶颈、算力闲置的现状发生冲突，如何高效组合异构硬件，充分提高硬件利用率，降低成本，就成为当下值得思考的一个问题。 GPU 可以为很多领域提供弹性计算能力，对视频转码的支持便是 GPU 应用最广泛的领域之一。 云计算中的计算资源来自不同的硬件，其中最具代表性的就是 CPU 和 GPU，以及后期兴起的VPU、NPU、TPU 等专业计算硬件。 青云云点播服务中的转码服务（公测期间免费），就是 GPU 在视频转码中的实际应用。 本次研讨会，我们邀请到了青云科技音视频技术专家李小文，为大家分享 GPU、VPU 等异构硬件在视频转码服务中的应用与实践。 李小文 青云科技顾问级研发工程师，主导青云音视频处理相关技术架构设计。
70710编辑于 2022-08-29 - 来自专栏防止网络攻击
【玩转 GPU】GPU加速的AI开发实践
如上图所示，HK-WEKA人工智能数据平台支持英伟达的GPUDirect存储协议，该协议绕过了GPU服务器的CPU和内存，使GPU能够直接与HK-WEKA存储进行通信，将吞吐量加速到尽可能快的性能。 2.无缝低延迟命名空间扩展到对象存储HK-WEKA数据平台的集成对象存储提供经济、大容量和快速访问，以便在深度学习训练过程中存储和保护大量训练集。 与 NVIDIA V100 GPU 上的 Tacotron 2 和 WaveGlow 模型相比，它使用非自回归模型在 NVIDIA A100 GPU 上提供 12 倍的性能提升。 四、NVIDIA GPU 加速“ AI +分子模拟”，助力深势科技打造微尺度工业设计平台本案例中通过 NVIDIA A100 Tensor Core GPU，深势科技开创的“多尺度建模+机器学习+高性能计算 NVIDIA GPU 加速科学计算，释放“AI + Science”巨大潜力“AI + Science” 的科学研究范式是当下的前沿热点。
1.6K00编辑于 2023-05-27 - 来自专栏Reinvent Data Science
异构计算系列（二）：机器学习领域涌现的异构加速技术
数据库方面，ZILLIZ 面向 PostgreSQL 生态推出了 GPU 分析引擎 MegaWise [1][2]，阿里巴巴在 AnalyticDB [3] 中提供了 GPU 加速能力，BlazingSQL [4] 基于 RAPIDS [5] 构建了 GPU 加速的 SQL 分析引擎。 特定数据类型处理方面，OpenCL 提供了图像处理的 GPU 加速能力 [8]，英伟达在 cuStrings [9] 项目中提供了面向字符串的 GPU 加速处理函数库，ZILLIZ 在其即将开源的 Arctern 项目中将推出面向地理信息数据处理的 GPU 加速引擎 [10]。 算法方面，cuML 提供了一套 GPU 加速的 ML 算法包。
1.4K30发布于 2020-04-01 - 来自专栏DrugOne
Methods | GPU 加速的 MMseqs2 同源搜索
研究人员开发了 GPU 加速版 MMseqs2 (MMseqs2-GPU)，在单一蛋白搜索中比基于 128 核 CPU 的方法快 6 倍，在大规模批量任务中，使用 8 张 GPU 时可实现 2.4 倍的成本效率提升 MMseqs2-GPU 能显著加速结构预测与比对任务，例如在 ColabFold 中的多序列比对生成较 AlphaFold2 标准流程快 31.8 倍，在 Foldseek 中的结构搜索快 4–27 倍 结构预测与 Foldseek 搜索 在 ColabFold 流程中，MMseqs2-GPU 使多序列比对生成加速 176 倍，整体结构预测加速 31.8 倍，同时保持 TM-score (0.70 ± 讨论 MMseqs2-GPU 展示了 GPU 加速在蛋白质同源性搜索中的巨大潜力： 高速度与高效率：显著超越传统 CPU、GPU 及 FPGA 方法。 总结 MMseqs2-GPU 在保持高灵敏度的同时，大幅加速蛋白质同源性搜索、结构预测与比对任务，并显著降低能耗与成本。
32110编辑于 2025-10-14 Methods | GPU 加速的 MMseqs2 同源搜索
研究人员开发了 GPU 加速版 MMseqs2 (MMseqs2-GPU)，在单一蛋白搜索中比基于 128 核 CPU 的方法快 6 倍，在大规模批量任务中，使用 8 张 GPU 时可实现 2.4 倍的成本效率提升 MMseqs2-GPU 能显著加速结构预测与比对任务，例如在 ColabFold 中的多序列比对生成较 AlphaFold2 标准流程快 31.8 倍，在 Foldseek 中的结构搜索快 4–27 倍 结构预测与 Foldseek 搜索 在 ColabFold 流程中，MMseqs2-GPU 使多序列比对生成加速 176 倍，整体结构预测加速 31.8 倍，同时保持 TM-score (0.70 ± 讨论 MMseqs2-GPU 展示了 GPU 加速在蛋白质同源性搜索中的巨大潜力： 高速度与高效率：显著超越传统 CPU、GPU 及 FPGA 方法。 总结 MMseqs2-GPU 在保持高灵敏度的同时，大幅加速蛋白质同源性搜索、结构预测与比对任务，并显著降低能耗与成本。
17610编辑于 2026-01-08- 来自专栏计算机视觉
深度学习500问——Chapter15：异构计算，GPU和框架选型（2）
GTX 1000系列比 900系列在性价比上高出2倍左右。 如果大家继续比较GTX较早的系列，也可以发现类似的规律。据此，我们推荐大家在能力范围内尽可能买较新的GPU。 想尝试下深度学习，但没有过多要求：GTX 1050 Ti（4或2GB） 目前独立GPU主要有AMD和Nvidia两家厂商。其中Nvidia在深度学习布局较早，对深度学习框架支持更好。 （2）简单了解Linux的使用，不太懂深度学习相关知识，可以直接基于Linux系统来搭建框架，跑一些开源的项目，慢慢深入研究学习。 这两种版本的安装步骤基本一致，这里以最常用的ubuntu 16.04 lts版本为例： 官网下载，地址 cuda8.0https://developer.nvidia.com/cuda-80-ga2- 安装cudnn cudnn是Nvidia的专门针对深度学习的加速库。。
41510编辑于 2024-09-27 - 来自专栏计算机视觉理论及其实现
tensorflow的GPU加速计算
:0/task:0/gpu:0[ 2. 4. 6. ]从以上输出可以看出在配置好GPU环境的tensorflow中，tensorflow会自动优先将运算放置在GPU上。 replace:0/task:0/gpu:0b: (Const): /job:localhost/replace:0/task:0/gpu:0[2. 4. 6.]在以上代码中可以看到生成常量a和b的操作被加载到了 虽然GPU可以加速tensorflow的计算，但一般来说不会把所有的操作全部放在GPU上，一个比较好的实践是将计算密集型的运算放在GPU上，而把其他操作放到CPU上。 os.environ["CUDA_VISIBLE_DEVICES"] = "2"虽然tensorflow默认会一次性占用一个GPU所有显存，但是tensorflow也支持动态分配GPU的显存，使得一块GPU 深度学习的多GPU并行训练模式tensorflow可以很容易地利用单个GPU加速深度学习模型的训练过程，但是利用更多的GPU或者机器，需要了解如何并行化地训练深度学习模型。
8.2K10编辑于 2022-09-04 - 来自专栏腾讯Bugly的专栏
Javascript如何实现GPU加速？
一、什么是Javascript实现GPU加速？ CPU与GPU设计目标不同，导致它们之间内部结构差异很大。 CPU需要应对通用场景，内部结构非常复杂。 测试平台 测试结论 PC GPU较CPU优势较少 iOS GPU较CPU优势较少 Android vivoX20（运行10次平均）CPU：770ms，GPU：270GPU较CPU快2.85倍三星S7（运行 10次平均）CPU：982ms，GPU：174msGPU较CPU快5.64倍 2.4、使用GPGPU意义： GPU与CPU数据传输过程，与GPU实际运算耗时相当，所以使用GPU运算传输成本过高，实测在 precision highp float; varying vec2 vCoord; uniform sampler2D map;void main(void) { vec4 color = 1、简单的使用，2k可以实现的代码，不想引入200k的库； 2、数据输入输出可以由自己灵活控制； 3、着色器语言很简单，特别只是使用基础运算逻辑的代码，没必要由库从Javascript转换。
2.8K60发布于 2018-06-19 - 来自专栏分子生物和分子模拟计算
GPU加速分子模拟
电脑配置：X5650*2=24core，48G ecc+reg内存 显卡：nvidia C2050*4 6GB DDR5存储器 *4 fermi架构 448个cuda核心*4 单精度浮点性能 1.03Tflops GHZ 功耗：238W 平台：centos7+fftw3+nvidia driver 365+cuda8 测试软件：gromacs 5.1.4,手工编译source code 测试结果：相同的体系，不用GPU 加速， 1.5ns/day ;启用了GPU加速计算，11ns/day. ~~~~~~~~~~~~~~~~~~~~~~~ 6，7年前的旧卡，四个合共1792个CUDA，可以有如此的加速效果，是超出预期。
1K40发布于 2018-07-03 - 来自专栏数据结构和算法
NumPy 高级教程——GPU 加速
Python NumPy 高级教程：GPU 加速 在处理大规模数据集或进行复杂计算时，利用 GPU 进行加速是一种常见的优化手段。NumPy 提供了一些工具和技术，可以方便地在 GPU 上执行计算。 = cp.asnumpy(result_gpu) # 验证结果一致性 assert np.allclose(np.sin(arr_np), result_np) 2. 使用 Numba 加速 GPU 计算 Numba 是一个 JIT（即时编译）编译器，可以加速 Python 代码的执行。 这两个框架提供了张量对象，支持 GPU 加速。 希望本篇博客能够帮助你更好地理解和运用 NumPy 中的 GPU 加速技术。
3.4K10编辑于 2024-01-09 - 来自专栏媒矿工厂
视频编码的GPU加速
同时，在GPU领域，随着CUDA等通用计算平台的不断发展，GPU逐渐成为了通用计算领域中不可或缺的硬件。利用GPU对视频编码进行加速成为了学术界和工业界的热点。 1. 目前，基于CUDA的GPU加速已经在深度学习、图像处理、科学计算等领域有着广泛应用。 2. 编码加速 目前，最新的视频编码标准是HEVC，基于GPU的HEVC编码加速研究已经有很多。 当从主机到设备进行一次数据传递时，首先CUDA驱动程序要先申请一个临时的页锁定内存，然后再将原内存数据复制到页锁定内存上，最后才能将页锁定内存的数据传输到设备上，如图2所示。 ? 图2 可分页内存和页锁定内存 为了避免申请临时页锁定内存，我们可以直接在主机上申请页锁定内存。但是页锁定内存的申请有可能失败，所以每次申请时都要检查返回值是否报错。 总结 本文主要介绍了常见的HEVC的GPU加速方法和GPU程序设计时要注意的问题。主机和设备之间的I/O是GPU优化的重点问题，需要精心设计。
3.7K40发布于 2018-03-05 - 来自专栏CSD的一些笔记
CSS 强制启用 GPU 加速
原理 CSS 的动画，变换和过渡并不会自动启用 GPU 加速，而是使用浏览器更慢的软件渲染引擎执行。 而许多浏览器提供了使用某些CSS规则的时候开启 GPU 加速渲染的功能。 这种是最简单的诱骗浏览器开启 GPU 加速的方法。 这样就可以强制浏览器使用 GPU 来渲染这个元素，而不是 CPU。 如果用 Tailwind CSS 的话，官方就有 GPU 加速的玩法，直接加一个 transform-gpu。 @keyframes spin { from {transform: rotate(0deg);} to {transform: rotate(360deg);} } </style> 示例 2： 一个简单的旋转动画，使用了 GPU 加速。
1.8K20编辑于 2023-05-29 PR如何开启GPU加速
1.首先在 NCIDIA控制面板 找到 管理3D设置 （记得前提是你的显卡驱动程序是最新的或者已经安装了显卡驱动程序） 2.在管理3D设置里面 找到程序设置 自定义程序： Adobe premiere 改成 使用全局设置 （如果还有一个选项：为此程序选择首选图形处理器 则选择：高性能NVIDIA处理器） 3.在PR菜单栏选择“文件”➜“项目设置”➜“常规” 在弹出窗口的渲染程序一栏中选择CUDA加速
1.5K10编辑于 2025-07-20- 来自专栏3D视觉从入门到精通
GPU加速——OpenCL学习与实践
参考刘文志等所著《OpenCL异构并行计算》，结合自身实践所做的总结，在此，特别感谢蒋工给予的指导。由于作者认知水平有限，文中如有不到的地方，欢迎大家批评指正。 OpenCL全称为Open Computing Language(开放计算语言)，先由Apple设计，后来交由Khronos Group维护，是异构平台并行编程的开放标准，也是一个编程框架。 OpenCL的设计借鉴了CUDA的成功经验，并尽可能地支持多核CPU、GPU或其他加速器。OpenCL不但支持数据并行，还支持任务并行。同时OpenCL内建了多GPU并行的支持。 -- 引自《OpenCL 异构并行计算》 一 OpenCL的执行流程 ? cl_int *errcode_ret) 示例demo：将GPU上的数据映射到CPU内存，再将CPU上的内存映射回GPU。
5.2K20发布于 2020-12-11 - 来自专栏DearXuan的博客文章
C#的GPU加速方法
aArray(width,height, a); parallel_for_each语句能够进行并发计算,index<1>指idx是一维的，如果是二维数组，需要改成index<2>，此时idx相当于( = new Stopwatch(); watch2.Start(); Sum(p, a, b, size); watch2.Stop(); Console.WriteLine("GPU耗时:" + watch2 测试代码是计算4亿个数的和，可以看到GPU计算比CPU计算少了300毫秒，但是CPU在循环2亿次的情况下居然仅仅比GPU多了300毫秒，这是因为GPU无法从内存读取数据，需要把数据先复制到显存里才能计算 现实情况下，循环体里不可能只有一行代码，假设循环体里有10个语句，那么CPU的执行时间就会翻10倍，而GPU的执行时间也会翻10倍，但是由于主要耗时操作是数据的复制，所以实际增长不会特别明显。 } watch1.Stop(); Console.WriteLine("CPU耗时:" + watch1.Elapsed.TotalMilliseconds); 这次改用100万量级的数据 现在GPU
2K10编辑于 2022-01-19 - 来自专栏陶陶计算机
tensorflow GPU版本配置加速环境
Download and install CUDA 8.0 from this URL: https://developer.nvidia.com/cuda-toolkit 5.模型gpu加速训练： # 测试tensorflow\_gpu版本加速效果代码 from datetime import datetime import math import time import tensorflow lrn2 = tf.nn.lrn(conv2, 4, bias=1.0, alpha=0.001 / 9, beta=0.75, name='lrn2') pool2 = tf.nn.max\_pool (lrn2, ksize=[1, 3, 3, 1], strides=[1, 2, 2, 1], padding='VALID', name='pool2') print\_activations(pool2 给你带来训练时的高速了，个人觉得还是得有一块好的显卡，这样加速效果会更好，速度更快。。。。
1.2K30编辑于 2022-05-12 - 来自专栏python pytorch AI机器学习实践
pytorch基础知识-GPU加速
本节比较简单，介绍一个显卡加速功能。 一般我们在使用笔记本电脑或者台式机进行神经网络结构计算时，默认使用cpu计算，但cpu运算速度十分有限，一个专门搞学术研究的人常配备一个英伟达显卡来加速计算。 GPU加速功能可以将运算切入到显卡中进行，从而提高运算速度。 该方法在pytorch 0.3版本以前较麻烦，当时是在代码后面加入.cpu()进行。 首先定义device（设备），再调用.to函数 在使用该项功能前 首先确认自己电脑有GPU英伟达显卡，且支持CUDA模块， 随后确认自己电脑里安装了CUDA， 可以使用该代码来查看当前环境是否支持CUDA = optim.SGD(net.parameters(), lr=1e-3) criteon = nn.CrossEntropyLoss().to(device) # 同样将loss部分的计算转移到GPU 上去 同样的，数据部分也可以转移到GPU上去 data, target = data.to(device), target.to(device) 这里要注意同一个数据在CPU和在GPU上建立后是完全不一样的
1.3K10发布于 2019-11-17 - 来自专栏博文视点Broadview
用GPU进行TensorFlow计算加速
为了加速训练过程，本文将介绍如何如何在TensorFlow中使用单个GPU进行计算加速，也将介绍生成TensorFlow会话（tf.Session）时的一些常用参数。 replica:0/task:0/gpu:0 [ 2. 4. 6.] : 1, name: GRID K520, pci bus id: 0000:00:04.0 /job:localhost/replica:0/task:0/gpu:2 -> device: 2, name : 1, name: GRID K520, pci bus id: 0000:00:04.0 /job:localhost/replica:0/task:0/gpu:2 -> device: 2, name ''' 虽然GPU可以加速TensorFlow的计算，但一般来说不会把所有的操作全部放在GPU上。一个比较好的实践是将计算密集型的运算放在GPU上，而把其他操作放到CPU上。
2.5K00发布于 2020-06-11
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号