- 综合排序
- 最热优先
- 最新优先
- 来自专栏Java项目实战
【玩转 GPU】GPU加速AI开发：硬件技术与实践探索
人工智能技术的发展促进了计算机硬件技术的不断革新。GPU作为一种强大的硬件加速器，由于其对计算密集型任务的高效加速和优质图形处理能力的突出表现，正成为越来越多的AI应用领域的首选设备。 本文将介绍基于GPU的AI技术开发实践和场景应用，并深入了解GPU硬件相关的技术知识。 如果使用GPU，就可以更高效地处理这些数据，并使模型训练更高速。图片二、CPU硬件技术图片2.1 显卡、显存显卡是GPU的核心部件之一，由于显卡有着大规模并行计算的特点，可以用于高性能数据处理。 Nvidia的技术团队已经在现有的硬件上开发了电源管理技术，使GPU能够理解和提高各种负载类型的能源使用情况，并以改变电源设置来更好地平衡能耗和计算性能。 图片结语GPU加速的AI开发和实践探索，不断创新的GPU硬件技术，以及对这些技术进行量身定制以满足特定市场需求的技术创新都表明，GPU将会成为未来人工智能领域最重要的设备之一。
1.9K00编辑于 2023-05-25 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：深入解析显卡、显存、算力等关键技术
GPU硬件技术：深入解析显卡、显存、算力等关键技术在现代计算设备中，GPU（图形处理器）扮演着至关重要的角色。本篇文章将深入解析有关GPU硬件的技术知识，涵盖显卡、显存、算力等关键方面。 我们将从硬件架构、性能测评、功耗管理等角度进行解析，揭示GPU硬件技术的核心要点。1. 显卡技术：架构设计与工艺制程显卡是GPU的主要载体，负责与用户交互并处理图形数据。 延迟则是显存与GPU之间数据传输所需的时间，过低的延迟有利于减少数据传输瓶颈。3. 算力技术：并行计算与浮点性能算力是GPU的重要性能指标，直接反映了其处理图形数据的能力。 而在高负载条件下，GPU则可以提高电压和频率，以满足性能需求。6. 能效优化：节能技术与动态调度为了进一步提高能效，GPU需要采用各种节能技术和动态调度策略。 总结：GPU硬件技术涵盖了显卡、显存、算力等关键方面。本文从硬件架构、性能测评、功耗管理等角度深入解析了GPU硬件技术的核心要点，旨在帮助开发者更好地理解和运用GPU技术。
4.1K11编辑于 2023-06-01 - 来自专栏程序员互动联盟
【专业技术】chromium GPU 硬件加速合成
当前的硬件能力已经将更多渲染任务交由GPU去处理，那么开发者更多的需要关心实现的渲染性能以及是否省电，这两个点在移动设备上更加突出。那么在浏览器上使用GPU来进行硬件加速合成网页显得更为重要。 硬件加速的优点： 1) 通过GPU进行合成网页层比CPU更快并且性能更好。 3) 充分利用现在的设备能力，让GPU和CPU并行工作创建高效的图形管道(pipeline)。 既然硬件加速有这么好的优点，我们必须得充分的利用GPU。 （3） 一些需要scroll的网页内容进行合并。 3.触发平台Draw方法 注：上面分析基于chromium 39 源码.
2.2K60发布于 2018-03-14 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点
创新性：先进硬件架构与制程技术GPU硬件技术在硬件架构和制程技术上持续创新，许多GPU实现高度并行化设计，以充分利用多核处理器和多线程技术提高性能，并采用先进制程降低功耗与提升能效。2. 实用性：显卡与显存配置优化GPU硬件技术中，显卡与显存配置的合理性影响性能。为特定场景选择合适的显卡型号和配置，以及合适的显存容量和类型，能提升数据传输与处理能力。3. 与云计算能力结合：云端GPU资源租赁将GPU硬件技术与云计算能力相结合，实现更高性能、更低成本和更好资源共享。云端GPU资源租赁使用户能灵活配置计算资源，降低硬件成本，实现快速应用部署。 例如，数据挖掘、机器学习和图像处理等领域，GPU展现出强大性能。7. 与人工智能技术结合：AI计算核心硬件GPU硬件技术与人工智能技术紧密结合，为AI技术发展提供强大动力。 综上所述，GPU硬件技术在现代计算、大数据处理和人工智能应用中具有重要作用。通过持续创新、优化硬件设计、遵循严格代码规范
1.9K11编辑于 2023-06-01 - 来自专栏乱码李
Web 性能优化-CSS3 硬件加速(GPU 加速)
CSS3 硬件加速简介 上一篇文章学习了重绘和回流对页面性能的影响，是从比较宏观的角度去优化 Web 性能，本篇文章从每一帧的微观角度进行分析，来学习 CSS3 硬件加速的知识。 CSS3 硬件加速又叫做 GPU 加速，是利用 GPU 进行渲染，减少 CPU 操作的一种优化方案。 关于 z-index 导致的硬件加速的问题，可以查看这篇文章 CSS3硬件加速也有坑！！ 参考文章 Increase Your Site’s Performance with Hardware-Accelerated CSS 用CSS开启硬件加速来提高网站性能 css3硬件加速 CSS3硬件加速也有坑 GPU加速是什么 使用CSS3 will-change提高页面滚动、动画等渲染性能
3.8K20发布于 2021-11-26 - 来自专栏AI异构
CUDA编程之GPU硬件架构
GPU的硬件架构 GPU的整体架构图 GPU实际上是一个流处理器簇 Streaming Multiprocessors（SM）的阵列。如下图所示： ? 每个线程有自己的指令技术计数器和寄存器，在自己的数据上执行指令。 如图所示，本来只需要80个线程，但是实际上仍然需要32＊3=96个threads，尽管最后一个warp的16个线程没有使用，但是仍然会消耗SM上的资源，比如共享存储器、寄存器。 软件与硬件并行对比 ? 软硬件对比图 通过上图可以看出，一个网格相当于一个GPU设备，网格下分成多个线程块，线程块则对应的SM，每个线程块又分为多个线程，每个线程相当于一个CUDA核。 参考 CUDA编程指南3.0 [【CUDA】学习记录（3）-硬件结构]https://www.jianshu.com/p/2fbd02311266
3.8K20发布于 2020-07-29 - 来自专栏object
【玩转GPU】全面解析GPU硬件技术：显卡、显存、算力和功耗管理的核心要点
摘要：本文将全面探讨GPU硬件技术，从硬件架构到性能评估，深入揭示显卡、显存、算力和功耗管理等关键要点。了解GPU硬件技术对于优化应用性能、加速计算任务以及推动科学研究具有重要意义。 一、GPU硬件架构：GPU硬件架构中最核心的组件是图形处理核心（CUDA core），一个GPU通常包含数百到数千个CUDA core，并拥（Multiprocessors）以支持高度并行计算。 GPU的图形（处理）流水线完成如下的工作：(并不一定是按照如下顺序)：顶点处理：这阶段GPU读取描述3D图形外观的顶点数据并根据顶点数据确定3D图形的形状及位置关系，建立起3D图形的骨架。 此外，GPU还采用硬件执行单元的休眠技术（Idle Unit Technology），在计算不需要时关闭部分执行单元以降低功耗。 在本文中，我们深入探索了GPU硬件技术的核心要点，包括硬件架构、显存技术、算力与性能评估以及功耗管理。
17.9K30编辑于 2023-06-26 - 来自专栏北京宏哥
【玩转 GPU】深入剖析GPU硬件架构及运行机制
前言公司安排这一周要给新的毕业应届生和实习的学弟学妹们进行内部培训GPU知识准备的PPT课件，没有想到刚好可以参加这个活动，而且不是什么保密资料，索性就拿出来参加这个活动吧，考虑写文本来说明，但是文本太 好了，赶快开启深入剖析GPU硬件架构及运行机制的学习之旅吧。深入解剖GPU硬件架构及运行机制.pptx
800140编辑于 2023-08-07 - 来自专栏腾讯IVWEB团队的专栏
Chrome 如何开启 GPU 硬件加速
本文作者：ivweb 王少飞 启用硬件加速 1 在chrome的地址栏中输入chrome://settings/回车 2 滚动页面到地步，点击 ==显示高级设置== 3 再次滚动到页面地步，找到 = =使用硬件加速模式== 开启gup硬件加速 1 在chrome的地址栏中输入chrome://flags/#disable-accelerated-video-decode找到==硬件加速的视频解码=
27.5K01发布于 2017-07-17 - 来自专栏腾讯技术工程官方号的专栏
GPU 渲染管线和硬件架构浅谈
像苹果的 M1 芯片（CPU 和 GPU 等单元在一个硬件上，SoC），L3 缓存是给所有硬件单元使用的，所以也被称为 System Level Cache。 是 NVIDIA 硬件支持的粗粒度的裁剪方案。有点像 Adreno 的 LRZ 技术，通过低分辨率的 Z-buffer 来做剔除。 Tile-based Rasteration 技术。光栅化也是可以 Tile-based，这同样是硬件厂商的优化技术。光栅化阶段通常不会成为性能瓶颈。 3xx 在一些非常低配的手机上还可以见到。 5xx 一般见于中低配手机。这一代开始加入了 LRZ 技术。 6xx 是近几年新出的型号。 硬件架构及渲染管线 深入 GPU 硬件架构及运行机制 (非常详细的介绍了 GPU 硬件知识，强烈推荐阅读) 剖析虚幻渲染体系 (这系列有很多文章，都值得阅读) 移动设备 GPU 架构知识汇总 GPU
13.6K88编辑于 2022-06-07 - 来自专栏数字芯片
深入GPU硬件架构及运行机制
了解GPU硬件架构和理解运行机制，好处多多，总结出来有： 理解GPU其物理结构和运行机制，GPU由黑盒变白盒。 更易找出渲染瓶颈，写出高效率shader代码。 紧跟时代潮流，了解最前沿渲染技术！ 3、GPU的渲染流程有哪些阶段？它们的功能分别是什么？ 4、Early-Z技术是什么？发生在哪个阶段？这个阶段还会发生什么？会产生什么问题？如何解决？ 5、SIMD和SIMT是什么？它们的好处是什么？ 2、精简SM的架构，减少硬件单元数量和尺寸。 3、降低功耗，提高效能比。 4、无效像素虽然不会被存储结果，但可辅助有效像素求导函数。详见4.6 利用扩展例证。 但是，由于上面的3个像素分别占据了不同的像素块（橙色分隔），实际上需要占用12个Core绘制12次（下图）。 这就会额外消耗300%的硬件性能，导致了更加严重的过绘制情况。 基于瓦片的渲染可以一定程度降低带宽和提升光照计算效率，目前部分移动端及桌面的GPU已经引入这个技术，未来将有望成为常态。 3D内存技术。
5.7K32发布于 2021-04-19 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点、实战案例与应用场景、优化空间
本文将从创新性、实用性、可借鉴性、代码规范度以及与云计算能力的结合等角度，深入解析GPU硬件技术的核心要点。1. 创新性：先进的硬件架构与制程工艺GPU硬件技术在硬件架构和制程工艺方面不断创新。 实用性：显卡、显存配置与优化在GPU硬件技术中，显卡与显存配置的合理性直接影响到GPU性能。针对特定应用场景选择合适的显卡型号和配置，以及显存容量和类型的选择，是提高数据传输和处理能力的关键。3. 大数据处理：海量数据并行处理在大数据处理领域，GPU硬件技术可以帮助用户实现对海量数据的并行处理和分析。利用GPU加速器，可以显著缩短数据挖掘、机器学习和图像处理等任务的运行时间。3. 3.GPU硬件技术优化空间：提高性能与降低功耗尽管GPU硬件技术在各个领域都取得了显著的性能提升，但仍有优化空间。 2.GPU驱动优化 通过优化GPU驱动程序，可以提高硬件资源的利用率，降低功耗。3.系统散热优化 通过改善系统散热设计，可以降低GPU的工作温度，从而降低功耗和延长硬件寿命。
2.3K00编辑于 2023-06-01 - 来自专栏深度应用
·主流深度学习硬件速度对比（CPU，GPU，TPU）
主流深度学习硬件速度对比（CPU，GPU，TPU） 个人主页--> http://www.yansongsong.cn 我们基于CNN实现Cifar10 数据集分类把这段相同的代码在不同主流深度学习进行测试 主流深度学习硬件速度对比 (Colab TPU) 速度 382s/epoch (i5 8250u) 速度 320s/epoch (i7 9700k) 速度 36s/epoch (GPU MX150) GPU。 ) / 255.0 test_images = x_test.reshape([-1,32,32,3]) / 255.0 model = keras.Sequential([ #(-1,32,32,3 8 8 0 6 6 1 6 3 1 4 9 4 7 9 8 5 5 8 6] [[3] [8] [8] [0] [6] [6] [1] [6] [3] [1] [0] [9]
2.6K30发布于 2019-06-27 - 来自专栏Android源码框架分析
Android硬件加速（二）-RenderThread与OpenGL GPU渲染
Android4.0之后，系统默认开启硬件加速来渲染视图，之前，理解Android硬件加速的小白文简单的讲述了硬件加速的简单模型，不过主要针对前半阶段，并没怎么说是如何使用OpenGL、GPU处理数据的 中通过软件方法实现的一套OpenGL动态库，并结合Systrace真机上的调用栈，对比两者区别（GPU厂商提供的硬件实现的OpenGL），猜测libhgl（硬件OpenGL）的实现。 对于Android APP而言，基于GPU的硬件加速绘制可以分为如下几个阶段： 第一阶段：APP在UI线程构建OpenGL渲染需要的命令及数据 第二阶段：CPU将数据上传（共享或者拷贝）给GPU，PC上一般有显存一说 之前理解Android硬件加速的小白文说过，硬件加速场景会提前在SurfaceFlinger申请内存坑位，但是并未真正申请内存，这块内存是在真正绘制的时候才去申请，这里申请的内存是让GPU操作的内存，也是将来用来提交给 ，等到SurfaceFlinger合成的时候，如果还未绘制完毕，则需要阻塞等待GPU绘制完毕，软件实现的采用的是第一种，硬件实现的一般是第二种。
11.5K52发布于 2018-08-16 - 来自专栏ADAS性能优化
VR 的GPU 技术方案
VR是借助一系列体感设备，通过计算机技术模拟人的感官，形成虚拟世界，达到身临其境的一种技术解决方案。GPU是VR 的关键技术之一。 3.沉浸感。最好的VR设备是你带上头盔后感觉和现实生活一样。 然而实现ATW是有挑战性的，主要有两个原因： 它需要GPU硬件支持合理的抢占粒度。 它要求操作系统和驱动程序支持使GPU抢占。 AMD ，NVIDIA 和ARM 都宣称他们的GPU能很好的支撑ATW. 双GPU技术 我们知道VR图像都被渲染成左右两个画面。这两个画面是不一样，会额外增加CPU和GPU的用量。 AMD的异步着色引擎 其原理是在GPU处理中，异步计算是指将渲染与计算任务分别放入不同的队列同时执行；由于计算与渲染所用到的硬件单元并不完全重叠，所以同时执行计算与渲染任务可以最大程度利用硬件资源，从而达到提升性能的目的
2K20编辑于 2022-05-13 - 来自专栏嘘、小点声
日常记录（3）硬件相关
https://blog.csdn.net/qq_41844618/article/details/104347445
56330编辑于 2021-12-09 - 来自专栏CSDN技术头条
避免关注底层硬件，Nvidia将机器学习与GPU绑定
【编者按】Nvidia通过发布cuDNN库，将GPU和机器学习更加紧密的联系起来，同时实现了cuDNN与深度学习框架的直接整合，使得研究员能够在这些框架上无缝利用GPU，忽略深度学习系统中的底层优化，更多的关注于更高级的机器学习问题 Nvidia承诺，cuDNN可以帮助用户更加聚焦深度神经网络，避免在硬件性能优化上的苦工。 而包括计算机视觉等流行的领域都使用了图形处理单元（GPU），因为每个GPU都包含了上千的核心，它们可以加快计算密集型算法。 从更技术的角度看，cuDNN是一个低等级的库，无需任何CUDA代码就可以在host-code中调用，非常类似我们已经开发的CUDA cuBLAS和cuFFT库。 当下GPU的使用已经非常广泛，机构使用它代替CPU以获得更高的速度及更低的成本。 但是，仍然存在一些特定的因素抑制了CPU的长期发展。
1.1K70发布于 2018-02-08 - 来自专栏虚拟化技术资源
VMware ESXi安装NVIDIA GPU显卡硬件驱动和配置vGPU
GPU显卡和物理服务器兼容查询：（重要：一定要查兼容，最近遇到一客户反馈安装驱动后运行nvidia-smi各种报错，最后查询是因为不兼容导致。） 2、正确的安装并加载驱动程序以后，我们需要启动主机的xorg服务，xorg服务是ESXi主机为虚拟机提供3D硬件加速的服务，我们必须启动该服务后才能使GPU正常工作。 3、以下命令可以查看主机是否正确加载了驱动程序： vmkload_mod -l | grep nvidia 4、如下图所示：通过命令nvidia-smi来验证GPU卡是否正常工作，无报错，如图： 5、 6、编辑虚拟机 GPU配置文件为GPU显存大小，具体显存大小参考说明文档。并勾选预留所有内存。
11.7K70编辑于 2022-03-31 - 来自专栏音视频技术
FFmpeg在Intel GPU上的硬件加速与优化
我们知道，每一个突破性创新都是从细微之处开始慢慢演化，最后才可能成为举世瞩目的创造；另外很多技术的进化过程中，都是工程与算法科学相互交织，Linux上的硬件加速API的进化流程也遵循了这一点。 6、Intel GPU Intel GPU从Gen 3的Pinetrail发展到Gen 9.5的Kabylake，每一代GPU的功能都在增强，在Media上的能力也在增强。 关于GPU性能我们比较关注以下三部分指标：第一部分是3D渲染能力，这一部分的标准化程度较好，可以使用标准接口包括OpenGL或Vulkan，当然也有Windows上可与OpenGL与Vulkan适配的DirectX 现在集成了GPU的英特尔PC处理器，其功耗在40～65w，如果是面向服务器工作站的Xeon E3系列，可在一个65w的处理器上实现14到18路的1080P转码，而能达到相同性能的NVIDIA GPU所需的能耗大约在 10、To Do List 上图展示的是我们正在实践与探索的技术点，期待通过以上优化为音视频行业带来技术进步与行业发展。
5.1K30发布于 2021-09-01 - 来自专栏全栈程序员必看
GPU技术_支持nvlink的显卡
背景 上一篇文章《浅析GPU通信技术（上）-GPUDirect P2P》中我们提到通过GPUDirect P2P技术可以大大提升GPU服务器单机的GPU通信性能，但是受限于PCI Expresss总线协议以及拓扑结构的一些限制 NVlink介绍 2.1 发布 NVLink技术是在2014年3月的NVIDIA GTC 2014上发布的。对普通消费者来说，这一届的GTC似乎没有太多的亮点，也没有什么革命性的产品发布。 2016发布的P100是搭载NVLink的第一款产品，单个GPU具有160GB/s的带宽，相当于PCIe Gen3 * 16带宽的5倍。 3）CPU连接： 实际上，NVLink不但可以实现GPU之间以及GPU和CPU之间的互联，还可以实现CPU之间的互联。从这一点来看，NVLink的野心着实不小。 关于NVSwitch的相关技术细节可以参考NVIDIA官方技术文档。应该说这一技术的引入，使得GPU间通信的带宽又大大上了一个台阶。 3.
4.1K20编辑于 2022-11-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号