- 综合排序
- 最热优先
- 最新优先
- 来自专栏Java项目实战
【玩转 GPU】GPU加速AI开发：硬件技术与实践探索
人工智能技术的发展促进了计算机硬件技术的不断革新。GPU作为一种强大的硬件加速器，由于其对计算密集型任务的高效加速和优质图形处理能力的突出表现，正成为越来越多的AI应用领域的首选设备。 本文将介绍基于GPU的AI技术开发实践和场景应用，并深入了解GPU硬件相关的技术知识。 此外，Sketch-RNN和Pix2Pix这种基于卷积神经网络的算法也使用GPU进行训练和加速，并且在人工智能创意拓展领域中有很好的实践效果。 比如，Nvidia的Tesla V100图形处理器，使用了16GB或32GB的HBM2内存，即高带宽存储器。图片2.2 算力GPU的核心是大规模的并行计算，而显著的技术优势是在于其强大的浮点计算能力。 图片结语GPU加速的AI开发和实践探索，不断创新的GPU硬件技术，以及对这些技术进行量身定制以满足特定市场需求的技术创新都表明，GPU将会成为未来人工智能领域最重要的设备之一。
1.9K00编辑于 2023-05-25 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：深入解析显卡、显存、算力等关键技术
GPU硬件技术：深入解析显卡、显存、算力等关键技术在现代计算设备中，GPU（图形处理器）扮演着至关重要的角色。本篇文章将深入解析有关GPU硬件的技术知识，涵盖显卡、显存、算力等关键方面。 我们将从硬件架构、性能测评、功耗管理等角度进行解析，揭示GPU硬件技术的核心要点。1. 显卡技术：架构设计与工艺制程显卡是GPU的主要载体，负责与用户交互并处理图形数据。 GPU的架构设计和工艺制程对其性能和能效具有重要影响。现代GPU通常采用高度并行化的设计，以充分利用多核处理器和多线程技术提高性能。2. 而在高负载条件下，GPU则可以提高电压和频率，以满足性能需求。6. 能效优化：节能技术与动态调度为了进一步提高能效，GPU需要采用各种节能技术和动态调度策略。 总结：GPU硬件技术涵盖了显卡、显存、算力等关键方面。本文从硬件架构、性能测评、功耗管理等角度深入解析了GPU硬件技术的核心要点，旨在帮助开发者更好地理解和运用GPU技术。
4.1K11编辑于 2023-06-01 - 来自专栏程序员互动联盟
【专业技术】chromium GPU 硬件加速合成
当前的硬件能力已经将更多渲染任务交由GPU去处理，那么开发者更多的需要关心实现的渲染性能以及是否省电，这两个点在移动设备上更加突出。那么在浏览器上使用GPU来进行硬件加速合成网页显得更为重要。 硬件加速的优点： 1) 通过GPU进行合成网页层比CPU更快并且性能更好。 2）对于一些已经在GPU中的内容可以减少不必要的高代价回读(readbacks), 比如：WebGL,Canvas2D,Video加速。 3) 充分利用现在的设备能力，让GPU和CPU并行工作创建高效的图形管道(pipeline)。 既然硬件加速有这么好的优点，我们必须得充分的利用GPU。 随着移动设备的硬件能力的提升，理论上WebGL能提供与原生native 应用相当的性能与流畅度。
2.2K60发布于 2018-03-14 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点
创新性：先进硬件架构与制程技术GPU硬件技术在硬件架构和制程技术上持续创新，许多GPU实现高度并行化设计，以充分利用多核处理器和多线程技术提高性能，并采用先进制程降低功耗与提升能效。2. 与云计算能力结合：云端GPU资源租赁将GPU硬件技术与云计算能力相结合，实现更高性能、更低成本和更好资源共享。云端GPU资源租赁使用户能灵活配置计算资源，降低硬件成本，实现快速应用部署。 与大数据处理结合：高速处理与分析GPU硬件技术在大数据处理领域具有显著优势。通过高性能GPU加速器实现对海量数据的高速处理和分析，满足大数据应用需求。 例如，数据挖掘、机器学习和图像处理等领域，GPU展现出强大性能。7. 与人工智能技术结合：AI计算核心硬件GPU硬件技术与人工智能技术紧密结合，为AI技术发展提供强大动力。 综上所述，GPU硬件技术在现代计算、大数据处理和人工智能应用中具有重要作用。通过持续创新、优化硬件设计、遵循严格代码规范
1.9K11编辑于 2023-06-01 - 来自专栏AI异构
CUDA编程之GPU硬件架构
GPU的硬件架构 GPU的整体架构图 GPU实际上是一个流处理器簇 Streaming Multiprocessors（SM）的阵列。如下图所示： ? 每个线程有自己的指令技术计数器和寄存器，在自己的数据上执行指令。 因此Warp概念的提出，主要是将软件上并行的线程与硬件的实际架构连接起来。如下图所示： ? Warp连接软硬件 warp是SM上的基本执行单元。 软件与硬件并行对比 ? 软硬件对比图 通过上图可以看出，一个网格相当于一个GPU设备，网格下分成多个线程块，线程块则对应的SM，每个线程块又分为多个线程，每个线程相当于一个CUDA核。 参考 CUDA编程指南3.0 [【CUDA】学习记录（3）-硬件结构]https://www.jianshu.com/p/2fbd02311266
3.8K20发布于 2020-07-29 - 来自专栏object
【玩转GPU】全面解析GPU硬件技术：显卡、显存、算力和功耗管理的核心要点
摘要：本文将全面探讨GPU硬件技术，从硬件架构到性能评估，深入揭示显卡、显存、算力和功耗管理等关键要点。了解GPU硬件技术对于优化应用性能、加速计算任务以及推动科学研究具有重要意义。 一、GPU硬件架构：GPU硬件架构中最核心的组件是图形处理核心（CUDA core），一个GPU通常包含数百到数千个CUDA core，并拥（Multiprocessors）以支持高度并行计算。 每秒浮点运算量，是衡量GPU硬件计算能力的指标。 此外，GPU还采用硬件执行单元的休眠技术（Idle Unit Technology），在计算不需要时关闭部分执行单元以降低功耗。 在本文中，我们深入探索了GPU硬件技术的核心要点，包括硬件架构、显存技术、算力与性能评估以及功耗管理。
17.9K30编辑于 2023-06-26 - 来自专栏北京宏哥
【玩转 GPU】深入剖析GPU硬件架构及运行机制
前言公司安排这一周要给新的毕业应届生和实习的学弟学妹们进行内部培训GPU知识准备的PPT课件，没有想到刚好可以参加这个活动，而且不是什么保密资料，索性就拿出来参加这个活动吧，考虑写文本来说明，但是文本太 好了，赶快开启深入剖析GPU硬件架构及运行机制的学习之旅吧。深入解剖GPU硬件架构及运行机制.pptx
800140编辑于 2023-08-07 - 来自专栏腾讯IVWEB团队的专栏
Chrome 如何开启 GPU 硬件加速
本文作者：ivweb 王少飞 启用硬件加速 1 在chrome的地址栏中输入chrome://settings/回车 2 滚动页面到地步，点击 ==显示高级设置== 3 再次滚动到页面地步，找到 = =使用硬件加速模式== 开启gup硬件加速 1 在chrome的地址栏中输入chrome://flags/#disable-accelerated-video-decode找到==硬件加速的视频解码=
27.5K01发布于 2017-07-17 - 来自专栏腾讯技术工程官方号的专栏
GPU 渲染管线和硬件架构浅谈
是 NVIDIA 硬件支持的粗粒度的裁剪方案。有点像 Adreno 的 LRZ 技术，通过低分辨率的 Z-buffer 来做剔除。 不过它只精确到 8x8 的像素块，而非像 LRZ 一样可以精确到 Quad（2x2）。移动平台 GPU 有其他技术做裁剪剔除，所以猜想是没有使用这个技术的。 光栅化也是可以 Tile-based，这同样是硬件厂商的优化技术。光栅化阶段通常不会成为性能瓶颈。 所以 UE5 的 Nanite 会使用 ComputeShader 自己实现软光栅，来替代硬件光栅化处理这些像素级的小三角形，以此获得几倍的性能提升。相关细节可以参考UE5 渲染技术简介这篇文章。 硬件架构及渲染管线 深入 GPU 硬件架构及运行机制 (非常详细的介绍了 GPU 硬件知识，强烈推荐阅读) 剖析虚幻渲染体系 (这系列有很多文章，都值得阅读) 移动设备 GPU 架构知识汇总 GPU
13.6K88编辑于 2022-06-07 - 来自专栏数字芯片
深入GPU硬件架构及运行机制
了解GPU硬件架构和理解运行机制，好处多多，总结出来有： 理解GPU其物理结构和运行机制，GPU由黑盒变白盒。 更易找出渲染瓶颈，写出高效率shader代码。 紧跟时代潮流，了解最前沿渲染技术！ 1.3 带着问题阅读 适当带着问题去阅读技术文章，通常能加深理解和记忆，阅读本文可带着以下问题： 1、GPU是如何与CPU协调工作的？ 2、GPU也有缓存机制吗？有几层？它们的速度差异多少？ 固定管线，支持DirectX 7.0 硬件T&L（Transform & lighting，坐标变换和光照） 立方体环境图（Cubemaps） DOT3 – bump mapping 2倍各向异性过滤 为什么像素着色器处理的最小单元是2x2的像素块？ 笔者推测有以下原因： 1、简化和加速像素分派的工作。 2、精简SM的架构，减少硬件单元数量和尺寸。 3、降低功耗，提高效能比。 基于瓦片的渲染可以一定程度降低带宽和提升光照计算效率，目前部分移动端及桌面的GPU已经引入这个技术，未来将有望成为常态。 3D内存技术。
5.7K32发布于 2021-04-19 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点、实战案例与应用场景、优化空间
本文将从创新性、实用性、可借鉴性、代码规范度以及与云计算能力的结合等角度，深入解析GPU硬件技术的核心要点。1. 创新性：先进的硬件架构与制程工艺GPU硬件技术在硬件架构和制程工艺方面不断创新。 目前，许多GPU采用高度并行化设计，以充分利用多核处理器和多线程技术提高性能。同时，GPU已采用先进的制程工艺，以降低功耗、提高能效。2. 2.GPU硬件技术实战案例与应用场景GPU硬件技术为许多行业带来了巨大的变革，尤其是在云计算、大数据、人工智能和图像处理等领域。以下是一些实战案例和使用场景，以及针对这些领域的优化空间。1. 云计算：计算密集型任务在云计算中，GPU硬件技术被广泛用于执行高计算密集型任务，如大规模并行计算、机器学习训练和推理等。通过使用GPU加速器，可以在较短的时间内完成计算任务，显著降低云计算成本。2. 2.GPU驱动优化 通过优化GPU驱动程序，可以提高硬件资源的利用率，降低功耗。3.系统散热优化 通过改善系统散热设计，可以降低GPU的工作温度，从而降低功耗和延长硬件寿命。
2.3K00编辑于 2023-06-01 - 来自专栏深度应用
·主流深度学习硬件速度对比（CPU，GPU，TPU）
主流深度学习硬件速度对比（CPU，GPU，TPU） 个人主页--> http://www.yansongsong.cn 我们基于CNN实现Cifar10 数据集分类把这段相同的代码在不同主流深度学习进行测试 主流深度学习硬件速度对比 (Colab TPU) 速度 382s/epoch (i5 8250u) 速度 320s/epoch (i7 9700k) 速度 36s/epoch (GPU MX150) 速度 36s/epoch (Colab GPU) 速度 16s/epoch (GPU GTX 1060) 速度 9s/epoch (GPU GTX1080ti) 速度 4s/epoch 通过对比看出相较于普通比较笔记本的 (i5 8250u)CPU，一个入门级显卡(GPU MX150)可以提升8倍左右的速度，而高性能的显卡(GPU GTX1080ti)可以提升80倍的速度，如果采用多个GPU将会获得更快速度，所以经常用于训练的话还是建议使用 GPU。
2.6K30发布于 2019-06-27 - 来自专栏Android源码框架分析
Android硬件加速（二）-RenderThread与OpenGL GPU渲染
Android4.0之后，系统默认开启硬件加速来渲染视图，之前，理解Android硬件加速的小白文简单的讲述了硬件加速的简单模型，不过主要针对前半阶段，并没怎么说是如何使用OpenGL、GPU处理数据的 中通过软件方法实现的一套OpenGL动态库，并结合Systrace真机上的调用栈，对比两者区别（GPU厂商提供的硬件实现的OpenGL），猜测libhgl（硬件OpenGL）的实现。 对于Android APP而言，基于GPU的硬件加速绘制可以分为如下几个阶段： 第一阶段：APP在UI线程构建OpenGL渲染需要的命令及数据 第二阶段：CPU将数据上传（共享或者拷贝）给GPU，PC上一般有显存一说 之前理解Android硬件加速的小白文说过，硬件加速场景会提前在SurfaceFlinger申请内存坑位，但是并未真正申请内存，这块内存是在真正绘制的时候才去申请，这里申请的内存是让GPU操作的内存，也是将来用来提交给 而对于硬件真机，一般需要处理Fence，其egl_window_surface_v2_t::swapBuffers()应该会被重写，至少需要传递一个有效的Fence过去， nativeWindow
11.5K52发布于 2018-08-16 - 来自专栏ADAS性能优化
VR 的GPU 技术方案
VR是借助一系列体感设备，通过计算机技术模拟人的感官，形成虚拟世界，达到身临其境的一种技术解决方案。GPU是VR 的关键技术之一。 2.对同一图像需要渲染两次。 然而实现ATW是有挑战性的，主要有两个原因： 它需要GPU硬件支持合理的抢占粒度。 它要求操作系统和驱动程序支持使GPU抢占。 AMD ，NVIDIA 和ARM 都宣称他们的GPU能很好的支撑ATW. 双GPU技术 我们知道VR图像都被渲染成左右两个画面。这两个画面是不一样，会额外增加CPU和GPU的用量。 AMD的异步着色引擎 其原理是在GPU处理中，异步计算是指将渲染与计算任务分别放入不同的队列同时执行；由于计算与渲染所用到的硬件单元并不完全重叠，所以同时执行计算与渲染任务可以最大程度利用硬件资源，从而达到提升性能的目的
2K20编辑于 2022-05-13 - 来自专栏CSDN技术头条
避免关注底层硬件，Nvidia将机器学习与GPU绑定
【编者按】Nvidia通过发布cuDNN库，将GPU和机器学习更加紧密的联系起来，同时实现了cuDNN与深度学习框架的直接整合，使得研究员能够在这些框架上无缝利用GPU，忽略深度学习系统中的底层优化，更多的关注于更高级的机器学习问题 Nvidia承诺，cuDNN可以帮助用户更加聚焦深度神经网络，避免在硬件性能优化上的苦工。 而包括计算机视觉等流行的领域都使用了图形处理单元（GPU），因为每个GPU都包含了上千的核心，它们可以加快计算密集型算法。 从更技术的角度看，cuDNN是一个低等级的库，无需任何CUDA代码就可以在host-code中调用，非常类似我们已经开发的CUDA cuBLAS和cuFFT库。 当下GPU的使用已经非常广泛，机构使用它代替CPU以获得更高的速度及更低的成本。 但是，仍然存在一些特定的因素抑制了CPU的长期发展。
1.1K70发布于 2018-02-08 - 来自专栏虚拟化技术资源
VMware ESXi安装NVIDIA GPU显卡硬件驱动和配置vGPU
GPU显卡和物理服务器兼容查询：（重要：一定要查兼容，最近遇到一客户反馈安装驱动后运行nvidia-smi各种报错，最后查询是因为不兼容导致。） 2、正确的安装并加载驱动程序以后，我们需要启动主机的xorg服务，xorg服务是ESXi主机为虚拟机提供3D硬件加速的服务，我们必须启动该服务后才能使GPU正常工作。 3、以下命令可以查看主机是否正确加载了驱动程序： vmkload_mod -l | grep nvidia 4、如下图所示：通过命令nvidia-smi来验证GPU卡是否正常工作，无报错，如图： 5、 6、编辑虚拟机 GPU配置文件为GPU显存大小，具体显存大小参考说明文档。并勾选预留所有内存。
11.7K70编辑于 2022-03-31 - 来自专栏乱码李
Web 性能优化-CSS3 硬件加速(GPU 加速)
CSS3 硬件加速又叫做 GPU 加速，是利用 GPU 进行渲染，减少 CPU 操作的一种优化方案。 拥有 3D（WebGL） 上下文或者加速 2D 上下文的 canvas 元素。 混合插件（Flash)。 对自己的 opacity 做 CSS 动画或使用一个动画 webkit 变换的元素。 开启 GPU 加速 CSS 中的以下几个属性能触发硬件加速： transform opacity filter will-change 如果有一些元素不需要用到上述属性，但是需要触发硬件加速效果，可以使用一些小技巧来诱导浏览器开启硬件加速 要注意的问题 （1）过多地开启硬件加速可能会耗费较多的内存，因此什么时候开启硬件加速，给多少元素开启硬件加速，需要用测试结果说话。 （2）GPU 渲染会影响字体的抗锯齿效果。 这是因为 GPU 和 CPU 具有不同的渲染机制，即使最终硬件加速停止了，文本还是会在动画期间显示得很模糊。
3.8K20发布于 2021-11-26 - 来自专栏音视频技术
FFmpeg在Intel GPU上的硬件加速与优化
我们知道，每一个突破性创新都是从细微之处开始慢慢演化，最后才可能成为举世瞩目的创造；另外很多技术的进化过程中，都是工程与算法科学相互交织，Linux上的硬件加速API的进化流程也遵循了这一点。 MPEG-2 Decoding硬件加速API的支持, 也就是Xv/XvMC，不过这一部分在当时还停留在比较初级的阶段，iDCT、XvMC-VLD等还未实现被API所标准化；随后社区便开始尝试实现Slice 从表也可以看到，英特尔的各代GPU逐渐进化，从开始只支持MPEG-2、H.264、VC-1解码的Sandy Bridge到增加了MJPEG解码支持的Ivy Bridge再到多用于嵌入式平台的Bay Trail 2）编码支持 编码方面，Intel GPU很早开始就支持了H.264编码，到了Broadwell增加了对VP8的支持；而Skylake则增加HEVC和MJPEG，到了Kaby Lake时我们增加了对VP9 10、To Do List 上图展示的是我们正在实践与探索的技术点，期待通过以上优化为音视频行业带来技术进步与行业发展。
5.1K30发布于 2021-09-01 - 来自专栏web服务器
NVIDIA GPU Accelerated Computing on WSL 2
NVIDIA GPU Accelerated Computing on WSL 2 安装docker curl https://get.docker.com | sh 安装nvidia-docker2 etc/apt/sources.list.d/nvidia-docker.list sudo apt-get update sudo apt-get install -y nvidia-docker2 all -it --shm-size=1g --ulimit memlock=-1 --ulimit stack=67108864 nvcr.io/nvidia/tensorflow:20.03-tf2-
46530编辑于 2022-05-18 - 来自专栏全栈程序员必看
GPU技术_支持nvlink的显卡
背景 上一篇文章《浅析GPU通信技术（上）-GPUDirect P2P》中我们提到通过GPUDirect P2P技术可以大大提升GPU服务器单机的GPU通信性能，但是受限于PCI Expresss总线协议以及拓扑结构的一些限制 2. NVlink介绍 2.1 发布 NVLink技术是在2014年3月的NVIDIA GTC 2014上发布的。对普通消费者来说，这一届的GTC似乎没有太多的亮点，也没有什么革命性的产品发布。 2.2 解读 我们来看看NVLink出现之前的现状： 1)PCIe： PCIe Gen3每个通道（每个Lane）的双向带宽是2B/s，GPU一般是16个Lane的PCIe连接，所以PCIe连接的GPU通信双向带宽可以达到 2.3.2 拓扑 下图是HGX-1/DGX-1使用的8个V100的混合立方网格拓扑结构，我们看到虽然V100有6个NVlink通道，但是实际上因为无法做到全连接，2个GPU间最多只能有2个NVLink通道 关于NVSwitch的相关技术细节可以参考NVIDIA官方技术文档。应该说这一技术的引入，使得GPU间通信的带宽又大大上了一个台阶。 3.
4.1K20编辑于 2022-11-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号