- 综合排序
- 最热优先
- 最新优先
- 来自专栏Java项目实战
【玩转 GPU】GPU加速AI开发：硬件技术与实践探索
人工智能技术的发展促进了计算机硬件技术的不断革新。GPU作为一种强大的硬件加速器，由于其对计算密集型任务的高效加速和优质图形处理能力的突出表现，正成为越来越多的AI应用领域的首选设备。 本文将介绍基于GPU的AI技术开发实践和场景应用，并深入了解GPU硬件相关的技术知识。 如果使用GPU，就可以更高效地处理这些数据，并使模型训练更高速。图片二、CPU硬件技术图片2.1 显卡、显存显卡是GPU的核心部件之一，由于显卡有着大规模并行计算的特点，可以用于高性能数据处理。 Nvidia的技术团队已经在现有的硬件上开发了电源管理技术，使GPU能够理解和提高各种负载类型的能源使用情况，并以改变电源设置来更好地平衡能耗和计算性能。 图片结语GPU加速的AI开发和实践探索，不断创新的GPU硬件技术，以及对这些技术进行量身定制以满足特定市场需求的技术创新都表明，GPU将会成为未来人工智能领域最重要的设备之一。
1.9K00编辑于 2023-05-25 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：深入解析显卡、显存、算力等关键技术
GPU硬件技术：深入解析显卡、显存、算力等关键技术在现代计算设备中，GPU（图形处理器）扮演着至关重要的角色。本篇文章将深入解析有关GPU硬件的技术知识，涵盖显卡、显存、算力等关键方面。 我们将从硬件架构、性能测评、功耗管理等角度进行解析，揭示GPU硬件技术的核心要点。1. 显卡技术：架构设计与工艺制程显卡是GPU的主要载体，负责与用户交互并处理图形数据。 这种技术允许GPU根据工作负载动态调整电压和频率，从而在性能和功耗之间实现平衡## 5. 功耗管理：动态电压与频率调整为了降低功耗并提高能效，GPU通常采用动态电压与频率调整技术。 而在高负载条件下，GPU则可以提高电压和频率，以满足性能需求。6. 能效优化：节能技术与动态调度为了进一步提高能效，GPU需要采用各种节能技术和动态调度策略。 总结：GPU硬件技术涵盖了显卡、显存、算力等关键方面。本文从硬件架构、性能测评、功耗管理等角度深入解析了GPU硬件技术的核心要点，旨在帮助开发者更好地理解和运用GPU技术。
4K11编辑于 2023-06-01 - 来自专栏程序员互动联盟
【专业技术】chromium GPU 硬件加速合成
当前的硬件能力已经将更多渲染任务交由GPU去处理，那么开发者更多的需要关心实现的渲染性能以及是否省电，这两个点在移动设备上更加突出。那么在浏览器上使用GPU来进行硬件加速合成网页显得更为重要。 硬件加速的优点： 1) 通过GPU进行合成网页层比CPU更快并且性能更好。 2）对于一些已经在GPU中的内容可以减少不必要的高代价回读(readbacks), 比如：WebGL,Canvas2D,Video加速。 3) 充分利用现在的设备能力，让GPU和CPU并行工作创建高效的图形管道(pipeline)。 既然硬件加速有这么好的优点，我们必须得充分的利用GPU。 随着移动设备的硬件能力的提升，理论上WebGL能提供与原生native 应用相当的性能与流畅度。
2.2K60发布于 2018-03-14 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点
创新性：先进硬件架构与制程技术GPU硬件技术在硬件架构和制程技术上持续创新，许多GPU实现高度并行化设计，以充分利用多核处理器和多线程技术提高性能，并采用先进制程降低功耗与提升能效。2. 与云计算能力结合：云端GPU资源租赁将GPU硬件技术与云计算能力相结合，实现更高性能、更低成本和更好资源共享。云端GPU资源租赁使用户能灵活配置计算资源，降低硬件成本，实现快速应用部署。 与大数据处理结合：高速处理与分析GPU硬件技术在大数据处理领域具有显著优势。通过高性能GPU加速器实现对海量数据的高速处理和分析，满足大数据应用需求。 例如，数据挖掘、机器学习和图像处理等领域，GPU展现出强大性能。7. 与人工智能技术结合：AI计算核心硬件GPU硬件技术与人工智能技术紧密结合，为AI技术发展提供强大动力。 综上所述，GPU硬件技术在现代计算、大数据处理和人工智能应用中具有重要作用。通过持续创新、优化硬件设计、遵循严格代码规范
1.8K11编辑于 2023-06-01 - 来自专栏AI异构
CUDA编程之GPU硬件架构
GPU的硬件架构 GPU的整体架构图 GPU实际上是一个流处理器簇 Streaming Multiprocessors（SM）的阵列。如下图所示： ? 相同架构的GPU包含的SM数量则根据GPU的中高低端来决定。 每个线程有自己的指令技术计数器和寄存器，在自己的数据上执行指令。 因此Warp概念的提出，主要是将软件上并行的线程与硬件的实际架构连接起来。如下图所示： ? Warp连接软硬件 warp是SM上的基本执行单元。 软件与硬件并行对比 ? 软硬件对比图 通过上图可以看出，一个网格相当于一个GPU设备，网格下分成多个线程块，线程块则对应的SM，每个线程块又分为多个线程，每个线程相当于一个CUDA核。
3.8K20发布于 2020-07-29 - 来自专栏object
【玩转GPU】全面解析GPU硬件技术：显卡、显存、算力和功耗管理的核心要点
摘要：本文将全面探讨GPU硬件技术，从硬件架构到性能评估，深入揭示显卡、显存、算力和功耗管理等关键要点。了解GPU硬件技术对于优化应用性能、加速计算任务以及推动科学研究具有重要意义。 一、GPU硬件架构：GPU硬件架构中最核心的组件是图形处理核心（CUDA core），一个GPU通常包含数百到数千个CUDA core，并拥（Multiprocessors）以支持高度并行计算。 每秒浮点运算量，是衡量GPU硬件计算能力的指标。 此外，GPU还采用硬件执行单元的休眠技术（Idle Unit Technology），在计算不需要时关闭部分执行单元以降低功耗。 在本文中，我们深入探索了GPU硬件技术的核心要点，包括硬件架构、显存技术、算力与性能评估以及功耗管理。
17.6K30编辑于 2023-06-26 - 来自专栏北京宏哥
【玩转 GPU】深入剖析GPU硬件架构及运行机制
前言公司安排这一周要给新的毕业应届生和实习的学弟学妹们进行内部培训GPU知识准备的PPT课件，没有想到刚好可以参加这个活动，而且不是什么保密资料，索性就拿出来参加这个活动吧，考虑写文本来说明，但是文本太 好了，赶快开启深入剖析GPU硬件架构及运行机制的学习之旅吧。深入解剖GPU硬件架构及运行机制.pptx
794140编辑于 2023-08-07 - 来自专栏腾讯IVWEB团队的专栏
Chrome 如何开启 GPU 硬件加速
本文作者：ivweb 王少飞 启用硬件加速 1 在chrome的地址栏中输入chrome://settings/回车 2 滚动页面到地步，点击 ==显示高级设置== 3 再次滚动到页面地步，找到 = =使用硬件加速模式== 开启gup硬件加速 1 在chrome的地址栏中输入chrome://flags/#disable-accelerated-video-decode找到==硬件加速的视频解码=
27.3K01发布于 2017-07-17 - 来自专栏腾讯技术工程官方号的专栏
GPU 渲染管线和硬件架构浅谈
是 NVIDIA 硬件支持的粗粒度的裁剪方案。有点像 Adreno 的 LRZ 技术，通过低分辨率的 Z-buffer 来做剔除。 移动平台 GPU 有其他技术做裁剪剔除，所以猜想是没有使用这个技术的。另外，不要把它和 EarlyZ 弄混，也不要把它和我们引擎实现的 Hi-Z GPU Occlusion Culling 弄混。 Tile-based Rasteration 技术。光栅化也是可以 Tile-based，这同样是硬件厂商的优化技术。光栅化阶段通常不会成为性能瓶颈。 所以 UE5 的 Nanite 会使用 ComputeShader 自己实现软光栅，来替代硬件光栅化处理这些像素级的小三角形，以此获得几倍的性能提升。相关细节可以参考UE5 渲染技术简介这篇文章。 硬件架构及渲染管线 深入 GPU 硬件架构及运行机制 (非常详细的介绍了 GPU 硬件知识，强烈推荐阅读) 剖析虚幻渲染体系 (这系列有很多文章，都值得阅读) 移动设备 GPU 架构知识汇总 GPU
13.4K88编辑于 2022-06-07 - 来自专栏数字芯片
深入GPU硬件架构及运行机制
，陌生的是GPU就如一个黑盒，不知道其内部硬件架构，更无从谈及其运行机制。 了解GPU硬件架构和理解运行机制，好处多多，总结出来有： 理解GPU其物理结构和运行机制，GPU由黑盒变白盒。 更易找出渲染瓶颈，写出高效率shader代码。 紧跟时代潮流，了解最前沿渲染技术！ 1.2 内容要点 本文的内容要点提炼如下： GPU简介、历史、特性。 GPU硬件架构。 GPU和CPU的协调调度机制。 GPU缓存结构。 GPU渲染管线。 GPU运行机制。 GPU优化技巧。 对于PC桌面，生产GPU的厂商主要有两家： NVIDIA：英伟达，是当今首屈一指的图形渲染技术的引领者和GPU生产商佼佼者。 基于瓦片的渲染可以一定程度降低带宽和提升光照计算效率，目前部分移动端及桌面的GPU已经引入这个技术，未来将有望成为常态。 3D内存技术。
5.6K32发布于 2021-04-19 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点、实战案例与应用场景、优化空间
1.GPU硬件技术：解析显卡、显存、算力等核心要点随着人工智能、大数据和高性能计算的发展，GPU技术在现代计算领域发挥着举足轻重的作用。 本文将从创新性、实用性、可借鉴性、代码规范度以及与云计算能力的结合等角度，深入解析GPU硬件技术的核心要点。1. 创新性：先进的硬件架构与制程工艺GPU硬件技术在硬件架构和制程工艺方面不断创新。 例如，在数据挖掘、机器学习、图像处理等领域，GPU都展现出了强大的性能。7. 与人工智能技术的结合：AI计算核心硬件GPU硬件技术与人工智能技术的结合，为AI技术的发展提供了强大动力。 3.GPU硬件技术优化空间：提高性能与降低功耗尽管GPU硬件技术在各个领域都取得了显著的性能提升，但仍有优化空间。 通过持续关注技术创新、优化软件和硬件设计，GPU硬件技术有望为未来的计算、数据处理和人工智能应用带来更高的性能和更低的成本。
2.3K00编辑于 2023-06-01 - 来自专栏深度应用
·主流深度学习硬件速度对比（CPU，GPU，TPU）
主流深度学习硬件速度对比（CPU，GPU，TPU） 个人主页--> http://www.yansongsong.cn 我们基于CNN实现Cifar10 数据集分类把这段相同的代码在不同主流深度学习进行测试 主流深度学习硬件速度对比 (Colab TPU) 速度 382s/epoch (i5 8250u) 速度 320s/epoch (i7 9700k) 速度 36s/epoch (GPU MX150) 速度 36s/epoch (Colab GPU) 速度 16s/epoch (GPU GTX 1060) 速度 9s/epoch (GPU GTX1080ti) 速度 4s/epoch 通过对比看出相较于普通比较笔记本的 (i5 8250u)CPU，一个入门级显卡(GPU MX150)可以提升8倍左右的速度，而高性能的显卡(GPU GTX1080ti)可以提升80倍的速度，如果采用多个GPU将会获得更快速度，所以经常用于训练的话还是建议使用 GPU。
2.6K30发布于 2019-06-27 - 来自专栏Android源码框架分析
Android硬件加速（二）-RenderThread与OpenGL GPU渲染
Android4.0之后，系统默认开启硬件加速来渲染视图，之前，理解Android硬件加速的小白文简单的讲述了硬件加速的简单模型，不过主要针对前半阶段，并没怎么说是如何使用OpenGL、GPU处理数据的 中通过软件方法实现的一套OpenGL动态库，并结合Systrace真机上的调用栈，对比两者区别（GPU厂商提供的硬件实现的OpenGL），猜测libhgl（硬件OpenGL）的实现。 对于Android APP而言，基于GPU的硬件加速绘制可以分为如下几个阶段： 第一阶段：APP在UI线程构建OpenGL渲染需要的命令及数据 第二阶段：CPU将数据上传（共享或者拷贝）给GPU，PC上一般有显存一说 之前理解Android硬件加速的小白文说过，硬件加速场景会提前在SurfaceFlinger申请内存坑位，但是并未真正申请内存，这块内存是在真正绘制的时候才去申请，这里申请的内存是让GPU操作的内存，也是将来用来提交给 ，等到SurfaceFlinger合成的时候，如果还未绘制完毕，则需要阻塞等待GPU绘制完毕，软件实现的采用的是第一种，硬件实现的一般是第二种。
11.4K52发布于 2018-08-16 - 来自专栏ADAS性能优化
VR 的GPU 技术方案
VR是借助一系列体感设备，通过计算机技术模拟人的感官，形成虚拟世界，达到身临其境的一种技术解决方案。GPU是VR 的关键技术之一。 然而实现ATW是有挑战性的，主要有两个原因： 它需要GPU硬件支持合理的抢占粒度。 它要求操作系统和驱动程序支持使GPU抢占。 AMD ，NVIDIA 和ARM 都宣称他们的GPU能很好的支撑ATW. 双GPU技术 我们知道VR图像都被渲染成左右两个画面。这两个画面是不一样，会额外增加CPU和GPU的用量。 所以说，有些极端情况下，虚拟现实渲染模式下GPU用量是翻番了的。 所以双GPU便营运而生。如AMD的LiquidVR™，NVIDIA 的VRSLI。 双GPU技术用在PC 机比较多。 AMD的异步着色引擎 其原理是在GPU处理中，异步计算是指将渲染与计算任务分别放入不同的队列同时执行；由于计算与渲染所用到的硬件单元并不完全重叠，所以同时执行计算与渲染任务可以最大程度利用硬件资源，从而达到提升性能的目的
2K20编辑于 2022-05-13 - 来自专栏CSDN技术头条
避免关注底层硬件，Nvidia将机器学习与GPU绑定
【编者按】Nvidia通过发布cuDNN库，将GPU和机器学习更加紧密的联系起来，同时实现了cuDNN与深度学习框架的直接整合，使得研究员能够在这些框架上无缝利用GPU，忽略深度学习系统中的底层优化，更多的关注于更高级的机器学习问题 Nvidia承诺，cuDNN可以帮助用户更加聚焦深度神经网络，避免在硬件性能优化上的苦工。 而包括计算机视觉等流行的领域都使用了图形处理单元（GPU），因为每个GPU都包含了上千的核心，它们可以加快计算密集型算法。 从更技术的角度看，cuDNN是一个低等级的库，无需任何CUDA代码就可以在host-code中调用，非常类似我们已经开发的CUDA cuBLAS和cuFFT库。 当下GPU的使用已经非常广泛，机构使用它代替CPU以获得更高的速度及更低的成本。 但是，仍然存在一些特定的因素抑制了CPU的长期发展。
1.1K70发布于 2018-02-08 - 来自专栏虚拟化技术资源
VMware ESXi安装NVIDIA GPU显卡硬件驱动和配置vGPU
GPU显卡和物理服务器兼容查询：（重要：一定要查兼容，最近遇到一客户反馈安装驱动后运行nvidia-smi各种报错，最后查询是因为不兼容导致。） 2、正确的安装并加载驱动程序以后，我们需要启动主机的xorg服务，xorg服务是ESXi主机为虚拟机提供3D硬件加速的服务，我们必须启动该服务后才能使GPU正常工作。 3、以下命令可以查看主机是否正确加载了驱动程序： vmkload_mod -l | grep nvidia 4、如下图所示：通过命令nvidia-smi来验证GPU卡是否正常工作，无报错，如图： 5、 6、编辑虚拟机 GPU配置文件为GPU显存大小，具体显存大小参考说明文档。并勾选预留所有内存。
11.1K70编辑于 2022-03-31 - 来自专栏音视频技术
FFmpeg在Intel GPU上的硬件加速与优化
英特尔提供了一套基于VA-API/Media SDK的硬件加速方案，通过在FFmpeg中集成Intel GPU的媒体硬件加速能力，为用户提供更多的收益。 我们知道，每一个突破性创新都是从细微之处开始慢慢演化，最后才可能成为举世瞩目的创造；另外很多技术的进化过程中，都是工程与算法科学相互交织，Linux上的硬件加速API的进化流程也遵循了这一点。 6.1 Intel GPU Media 硬件编程模型 从FFmpeg到具体的GPU，是如何进行一些Media处理的？ 6.2 FFmpeg & Intel GPU加速方案 大部分客户偏向于使用FFmpeg的同时，也希望其具备出色的硬件加速能力，我们现在致力于在FFmpeg中集成Intel GPU诸多的媒体硬件加速能力 10、To Do List 上图展示的是我们正在实践与探索的技术点，期待通过以上优化为音视频行业带来技术进步与行业发展。
5K30发布于 2021-09-01 - 来自专栏乱码李
Web 性能优化-CSS3 硬件加速(GPU 加速)
CSS3 硬件加速又叫做 GPU 加速，是利用 GPU 进行渲染，减少 CPU 操作的一种优化方案。 关于 z-index 导致的硬件加速的问题，可以查看这篇文章 CSS3硬件加速也有坑！！ 开启 GPU 加速 CSS 中的以下几个属性能触发硬件加速： transform opacity filter will-change 如果有一些元素不需要用到上述属性，但是需要触发硬件加速效果，可以使用一些小技巧来诱导浏览器开启硬件加速 要注意的问题 （1）过多地开启硬件加速可能会耗费较多的内存，因此什么时候开启硬件加速，给多少元素开启硬件加速，需要用测试结果说话。 （2）GPU 渲染会影响字体的抗锯齿效果。 这是因为 GPU 和 CPU 具有不同的渲染机制，即使最终硬件加速停止了，文本还是会在动画期间显示得很模糊。
3.7K20发布于 2021-11-26 - 来自专栏全栈程序员必看
GPU技术_支持nvlink的显卡
背景 上一篇文章《浅析GPU通信技术（上）-GPUDirect P2P》中我们提到通过GPUDirect P2P技术可以大大提升GPU服务器单机的GPU通信性能，但是受限于PCI Expresss总线协议以及拓扑结构的一些限制 NVlink介绍 2.1 发布 NVLink技术是在2014年3月的NVIDIA GTC 2014上发布的。对普通消费者来说，这一届的GTC似乎没有太多的亮点，也没有什么革命性的产品发布。 首先我们简单看下NVIDIA对NVLink的介绍：NVLink能在多GPU之间和GPU与CPU之间实现非凡的连接带宽。带宽有多大？ 显卡核心和显存之间的数据交换通道已经达到如此高的带宽，但是GPU之间以及GPU和CPU之间的数据交换确受到PCIe总线的影响，成为了瓶颈。 关于NVSwitch的相关技术细节可以参考NVIDIA官方技术文档。应该说这一技术的引入，使得GPU间通信的带宽又大大上了一个台阶。 3.
4.1K20编辑于 2022-11-17 - 来自专栏架构驿站
GPU 内存交换技术，知多少？
这种动态调度模型的方式显著减少了所需的 GPU 数量，进而降低了硬件采购和运维成本。此外，减少了 GPU 空闲的时间，也进一步降低了能源消耗和运维费用。 3、更多模型副本，更少硬件投入： 模型热交换技术支持多个模型共享相同的硬件资源，从而显著减少了“常驻运行”的机器数量，同时又不会影响响应速度。 通过动态加载和卸载模型，企业可以避免在低负载时期维持大量闲置的 GPU 资源，从而大幅降低硬件成本和能源消耗。 借助 GPU 内存交换技术，企业能够更智能地部署资源，而非简单地堆叠硬件，从而在满足用户期望的响应速度的同时，实现成本效益的最大化。 今天的解析就到这里。 欲了解更多关于 GPU 相关技术的深入剖析、最佳实践以及相关技术前沿，敬请关注我们的微信公众号“架构驿站”，获取更多独家技术洞察 ！
75610编辑于 2025-02-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号