- 综合排序
- 最热优先
- 最新优先
- 来自专栏Java项目实战
【玩转 GPU】GPU加速AI开发：硬件技术与实践探索
人工智能技术的发展促进了计算机硬件技术的不断革新。GPU作为一种强大的硬件加速器，由于其对计算密集型任务的高效加速和优质图形处理能力的突出表现，正成为越来越多的AI应用领域的首选设备。 本文将介绍基于GPU的AI技术开发实践和场景应用，并深入了解GPU硬件相关的技术知识。 如果使用GPU，就可以更高效地处理这些数据，并使模型训练更高速。图片二、CPU硬件技术图片2.1 显卡、显存显卡是GPU的核心部件之一，由于显卡有着大规模并行计算的特点，可以用于高性能数据处理。 Nvidia的技术团队已经在现有的硬件上开发了电源管理技术，使GPU能够理解和提高各种负载类型的能源使用情况，并以改变电源设置来更好地平衡能耗和计算性能。 图片结语GPU加速的AI开发和实践探索，不断创新的GPU硬件技术，以及对这些技术进行量身定制以满足特定市场需求的技术创新都表明，GPU将会成为未来人工智能领域最重要的设备之一。
1.9K00编辑于 2023-05-25 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：深入解析显卡、显存、算力等关键技术
GPU硬件技术：深入解析显卡、显存、算力等关键技术在现代计算设备中，GPU（图形处理器）扮演着至关重要的角色。本篇文章将深入解析有关GPU硬件的技术知识，涵盖显卡、显存、算力等关键方面。 我们将从硬件架构、性能测评、功耗管理等角度进行解析，揭示GPU硬件技术的核心要点。1. 显卡技术：架构设计与工艺制程显卡是GPU的主要载体，负责与用户交互并处理图形数据。 现代GPU通常采用大量的流处理器，以实现高度并行化的计算任务。浮点性能是衡量GPU算力的另一个关键指标，包括单精度（FP32）和双精度（FP64）计算能力。4. 而在高负载条件下，GPU则可以提高电压和频率，以满足性能需求。6. 能效优化：节能技术与动态调度为了进一步提高能效，GPU需要采用各种节能技术和动态调度策略。 总结：GPU硬件技术涵盖了显卡、显存、算力等关键方面。本文从硬件架构、性能测评、功耗管理等角度深入解析了GPU硬件技术的核心要点，旨在帮助开发者更好地理解和运用GPU技术。
4.1K11编辑于 2023-06-01 - 来自专栏程序员互动联盟
【专业技术】chromium GPU 硬件加速合成
当前的硬件能力已经将更多渲染任务交由GPU去处理，那么开发者更多的需要关心实现的渲染性能以及是否省电，这两个点在移动设备上更加突出。那么在浏览器上使用GPU来进行硬件加速合成网页显得更为重要。 硬件加速的优点： 1) 通过GPU进行合成网页层比CPU更快并且性能更好。 2）对于一些已经在GPU中的内容可以减少不必要的高代价回读(readbacks), 比如：WebGL,Canvas2D,Video加速。 3) 充分利用现在的设备能力，让GPU和CPU并行工作创建高效的图形管道(pipeline)。 既然硬件加速有这么好的优点，我们必须得充分的利用GPU。 随着移动设备的硬件能力的提升，理论上WebGL能提供与原生native 应用相当的性能与流畅度。
2.2K60发布于 2018-03-14 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点
创新性：先进硬件架构与制程技术GPU硬件技术在硬件架构和制程技术上持续创新，许多GPU实现高度并行化设计，以充分利用多核处理器和多线程技术提高性能，并采用先进制程降低功耗与提升能效。2. 可借鉴性：性能测评与功耗管理策略为评估GPU性能，需要进行基准测试与功耗测试。通过运行特定应用程序或测试场景评估性能和能效，并采用动态电压与频率调整技术、节能技术和动态调度策略，实现更高能效。4. 与云计算能力结合：云端GPU资源租赁将GPU硬件技术与云计算能力相结合，实现更高性能、更低成本和更好资源共享。云端GPU资源租赁使用户能灵活配置计算资源，降低硬件成本，实现快速应用部署。 例如，数据挖掘、机器学习和图像处理等领域，GPU展现出强大性能。7. 与人工智能技术结合：AI计算核心硬件GPU硬件技术与人工智能技术紧密结合，为AI技术发展提供强大动力。 综上所述，GPU硬件技术在现代计算、大数据处理和人工智能应用中具有重要作用。通过持续创新、优化硬件设计、遵循严格代码规范
1.9K11编辑于 2023-06-01 - 来自专栏AI异构
CUDA编程之GPU硬件架构
GPU的硬件架构 GPU的整体架构图 GPU实际上是一个流处理器簇 Streaming Multiprocessors（SM）的阵列。如下图所示： ? 相同架构的GPU包含的SM数量则根据GPU的中高低端来决定。 每个线程有自己的指令技术计数器和寄存器，在自己的数据上执行指令。 因此Warp概念的提出，主要是将软件上并行的线程与硬件的实际架构连接起来。如下图所示： ? Warp连接软硬件 warp是SM上的基本执行单元。 软件与硬件并行对比 ? 软硬件对比图 通过上图可以看出，一个网格相当于一个GPU设备，网格下分成多个线程块，线程块则对应的SM，每个线程块又分为多个线程，每个线程相当于一个CUDA核。
3.8K20发布于 2020-07-29 - 来自专栏object
【玩转GPU】全面解析GPU硬件技术：显卡、显存、算力和功耗管理的核心要点
摘要：本文将全面探讨GPU硬件技术，从硬件架构到性能评估，深入揭示显卡、显存、算力和功耗管理等关键要点。了解GPU硬件技术对于优化应用性能、加速计算任务以及推动科学研究具有重要意义。 一、GPU硬件架构：GPU硬件架构中最核心的组件是图形处理核心（CUDA core），一个GPU通常包含数百到数千个CUDA core，并拥（Multiprocessors）以支持高度并行计算。 每秒浮点运算量，是衡量GPU硬件计算能力的指标。 此外，GPU还采用硬件执行单元的休眠技术（Idle Unit Technology），在计算不需要时关闭部分执行单元以降低功耗。 在本文中，我们深入探索了GPU硬件技术的核心要点，包括硬件架构、显存技术、算力与性能评估以及功耗管理。
17.9K30编辑于 2023-06-26 - 来自专栏北京宏哥
【玩转 GPU】深入剖析GPU硬件架构及运行机制
前言公司安排这一周要给新的毕业应届生和实习的学弟学妹们进行内部培训GPU知识准备的PPT课件，没有想到刚好可以参加这个活动，而且不是什么保密资料，索性就拿出来参加这个活动吧，考虑写文本来说明，但是文本太 好了，赶快开启深入剖析GPU硬件架构及运行机制的学习之旅吧。深入解剖GPU硬件架构及运行机制.pptx
800140编辑于 2023-08-07 - 来自专栏腾讯IVWEB团队的专栏
Chrome 如何开启 GPU 硬件加速
本文作者：ivweb 王少飞 启用硬件加速 1 在chrome的地址栏中输入chrome://settings/回车 2 滚动页面到地步，点击 ==显示高级设置== 3 再次滚动到页面地步，找到 = =使用硬件加速模式== 开启gup硬件加速 1 在chrome的地址栏中输入chrome://flags/#disable-accelerated-video-decode找到==硬件加速的视频解码=
27.5K01发布于 2017-07-17 - 来自专栏腾讯技术工程官方号的专栏
GPU 渲染管线和硬件架构浅谈
是 NVIDIA 硬件支持的粗粒度的裁剪方案。有点像 Adreno 的 LRZ 技术，通过低分辨率的 Z-buffer 来做剔除。 移动平台 GPU 有其他技术做裁剪剔除，所以猜想是没有使用这个技术的。另外，不要把它和 EarlyZ 弄混，也不要把它和我们引擎实现的 Hi-Z GPU Occlusion Culling 弄混。 Tile-based Rasteration 技术。光栅化也是可以 Tile-based，这同样是硬件厂商的优化技术。光栅化阶段通常不会成为性能瓶颈。 这里可以和上文介绍的 GPU 管线和硬件架构的理论形成参考和对照。 Utgard (2007) 这是 Mali 的第一代架构。对应 Mali-4xx 系列的 GPU。 lines Adreno-tiling GPU 硬件架构及渲染管线 深入 GPU 硬件架构及运行机制 (非常详细的介绍了 GPU 硬件知识，强烈推荐阅读) 剖析虚幻渲染体系 (这系列有很多文章，都值得阅读
13.6K88编辑于 2022-06-07 - 来自专栏数字芯片
深入GPU硬件架构及运行机制
了解GPU硬件架构和理解运行机制，好处多多，总结出来有： 理解GPU其物理结构和运行机制，GPU由黑盒变白盒。 更易找出渲染瓶颈，写出高效率shader代码。 紧跟时代潮流，了解最前沿渲染技术！ 3、GPU的渲染流程有哪些阶段？它们的功能分别是什么？ 4、Early-Z技术是什么？发生在哪个阶段？这个阶段还会发生什么？会产生什么问题？如何解决？ 5、SIMD和SIMT是什么？它们的好处是什么？ 顶点着色器 像素着色器 DirectX 8.0 Shader Model 1.0 可编程渲染管线 3D纹理 硬件阴影图 8倍各向异性过滤 多采样抗锯齿（MSAA） 4 ppc 2003 - GeForce 2、精简SM的架构，减少硬件单元数量和尺寸。 3、降低功耗，提高效能比。 4、无效像素虽然不会被存储结果，但可辅助有效像素求导函数。详见4.6 利用扩展例证。 NVIDIA显示核心列表 DirectX 高级着色器语言 探究光线追踪技术及UE4的实现 移动游戏性能优化通用技法 NV shader thread group 实时渲染深入探究 NVIDIA GPU
5.7K32发布于 2021-04-19 - 来自专栏高级开发进阶
【玩转 GPU】GPU硬件技术：解析显卡、显存、算力等核心要点、实战案例与应用场景、优化空间
本文将从创新性、实用性、可借鉴性、代码规范度以及与云计算能力的结合等角度，深入解析GPU硬件技术的核心要点。1. 创新性：先进的硬件架构与制程工艺GPU硬件技术在硬件架构和制程工艺方面不断创新。 这些技术可以根据工作负载和性能需求动态调整GPU的运行状态，以实现更高的能效。4. 代码规范度：GPU编程模型与库在编写高性能的GPU应用程序时，遵循严格的代码规范至关重要。 人工智能：深度学习与图像识别在人工智能领域，GPU硬件技术被广泛应用于深度学习和图像识别等任务。通过GPU加速器，可以加速神经网络训练和推理过程，提高模型训练速度和准确性。4. 3.GPU硬件技术优化空间：提高性能与降低功耗尽管GPU硬件技术在各个领域都取得了显著的性能提升，但仍有优化空间。 4.硬件规格调整 根据应用场景调整硬件规格，例如增加显存容量、优化显存带宽等，以满足高性能计算和数据密集型任务的需求。
2.3K00编辑于 2023-06-01 - 来自专栏帅云霓的技术小屋
软硬件融合技术内幕 (4) —— CPU外面有什么 (下)
这意味着，80386每次能够读写4字节内存，而可使用的内存地址空间理论上可达2的32次方(4GB)。 80386驱动了计算机系统的一系列变革： 首先是内存从SRAM进化到了DRAM。
76040编辑于 2022-09-08 - 来自专栏深度应用
·主流深度学习硬件速度对比（CPU，GPU，TPU）
主流深度学习硬件速度对比（CPU，GPU，TPU） 个人主页--> http://www.yansongsong.cn 我们基于CNN实现Cifar10 数据集分类把这段相同的代码在不同主流深度学习进行测试 主流深度学习硬件速度对比 (Colab TPU) 速度 382s/epoch (i5 8250u) 速度 320s/epoch (i7 9700k) 速度 36s/epoch (GPU MX150) 速度 36s/epoch (Colab GPU) 速度 16s/epoch (GPU GTX 1060) 速度 9s/epoch (GPU GTX1080ti) 速度 4s/epoch 通过对比看出相较于普通比较笔记本的 (i5 8250u)CPU，一个入门级显卡(GPU MX150)可以提升8倍左右的速度，而高性能的显卡(GPU GTX1080ti)可以提升80倍的速度，如果采用多个GPU将会获得更快速度，所以经常用于训练的话还是建议使用 GPU。
2.6K30发布于 2019-06-27 - 来自专栏嘘、小点声
日常记录（4）硬件相关
https://blog.csdn.net/qq_41844618/article/details/104332949
34310编辑于 2021-12-09 - 来自专栏帅云霓的技术小屋
软硬件融合技术内幕 终极篇 (4) —— 人类历史的丰碑
伽罗华域是现代计算机技术的理论基础之一，以欧洲19世纪天才数学家伽罗华的名字命名。
62440编辑于 2022-12-13 - 来自专栏Android源码框架分析
Android硬件加速（二）-RenderThread与OpenGL GPU渲染
Android4.0之后，系统默认开启硬件加速来渲染视图，之前，理解Android硬件加速的小白文简单的讲述了硬件加速的简单模型，不过主要针对前半阶段，并没怎么说是如何使用OpenGL、GPU处理数据的 中通过软件方法实现的一套OpenGL动态库，并结合Systrace真机上的调用栈，对比两者区别（GPU厂商提供的硬件实现的OpenGL），猜测libhgl（硬件OpenGL）的实现。 对于Android APP而言，基于GPU的硬件加速绘制可以分为如下几个阶段： 第一阶段：APP在UI线程构建OpenGL渲染需要的命令及数据 第二阶段：CPU将数据上传（共享或者拷贝）给GPU，PC上一般有显存一说 之前理解Android硬件加速的小白文说过，硬件加速场景会提前在SurfaceFlinger申请内存坑位，但是并未真正申请内存，这块内存是在真正绘制的时候才去申请，这里申请的内存是让GPU操作的内存，也是将来用来提交给 ，等到SurfaceFlinger合成的时候，如果还未绘制完毕，则需要阻塞等待GPU绘制完毕，软件实现的采用的是第一种，硬件实现的一般是第二种。
11.5K52发布于 2018-08-16 - 来自专栏ADAS性能优化
VR 的GPU 技术方案
VR是借助一系列体感设备，通过计算机技术模拟人的感官，形成虚拟世界，达到身临其境的一种技术解决方案。GPU是VR 的关键技术之一。 然而实现ATW是有挑战性的，主要有两个原因： 它需要GPU硬件支持合理的抢占粒度。 它要求操作系统和驱动程序支持使GPU抢占。 AMD ，NVIDIA 和ARM 都宣称他们的GPU能很好的支撑ATW. 双GPU技术 我们知道VR图像都被渲染成左右两个画面。这两个画面是不一样，会额外增加CPU和GPU的用量。 所以说，有些极端情况下，虚拟现实渲染模式下GPU用量是翻番了的。 所以双GPU便营运而生。如AMD的LiquidVR™，NVIDIA 的VRSLI。 双GPU技术用在PC 机比较多。 AMD的异步着色引擎 其原理是在GPU处理中，异步计算是指将渲染与计算任务分别放入不同的队列同时执行；由于计算与渲染所用到的硬件单元并不完全重叠，所以同时执行计算与渲染任务可以最大程度利用硬件资源，从而达到提升性能的目的
2K20编辑于 2022-05-13 P4可编程技术详解：从理论到硬件实现
P4的硬件实现P4语言在设计之初就是以硬件的网络可编程为目标。在其平台无关性中提到在前后端编译器的共同工作下，P4语言程序最终会被编译成目标设备配置。这个过程实际上是P4的硬件下发。 P4通过硬件相关的编译器编译成硬件机器码或汇编代码，下发到硬件中，真正实现硬件的网络可编程。工作流程：以P4可编程交换机为例，其工作流程基于P4抽象转发模型。 P4技术的应用数据中心互联的云边界网关：云边界网关作为连接云内外网络的桥梁，需要处理大量的数据流量，且云服务场景丰富，设计时需要考虑灵活可扩展，充分利用了P4语言的高度灵活性和可编程性。 总结综上所述，P4网络可编程技术在提升网络性能、降低投资和运维成本以及促进网络创新方面具有显著价值。面对灵活多变的网络需求，P4提供了新的解决方案。 在未来三年内，我们仍可使用P4可编程技术来应对不断增长和演变的网络挑战。
1.4K10编辑于 2024-10-10- 来自专栏CSDN技术头条
避免关注底层硬件，Nvidia将机器学习与GPU绑定
【编者按】Nvidia通过发布cuDNN库，将GPU和机器学习更加紧密的联系起来，同时实现了cuDNN与深度学习框架的直接整合，使得研究员能够在这些框架上无缝利用GPU，忽略深度学习系统中的底层优化，更多的关注于更高级的机器学习问题 Nvidia承诺，cuDNN可以帮助用户更加聚焦深度神经网络，避免在硬件性能优化上的苦工。 而包括计算机视觉等流行的领域都使用了图形处理单元（GPU），因为每个GPU都包含了上千的核心，它们可以加快计算密集型算法。 从更技术的角度看，cuDNN是一个低等级的库，无需任何CUDA代码就可以在host-code中调用，非常类似我们已经开发的CUDA cuBLAS和cuFFT库。 当下GPU的使用已经非常广泛，机构使用它代替CPU以获得更高的速度及更低的成本。 但是，仍然存在一些特定的因素抑制了CPU的长期发展。
1.1K70发布于 2018-02-08 - 来自专栏虚拟化技术资源
VMware ESXi安装NVIDIA GPU显卡硬件驱动和配置vGPU
GPU显卡和物理服务器兼容查询：（重要：一定要查兼容，最近遇到一客户反馈安装驱动后运行nvidia-smi各种报错，最后查询是因为不兼容导致。） 2、正确的安装并加载驱动程序以后，我们需要启动主机的xorg服务，xorg服务是ESXi主机为虚拟机提供3D硬件加速的服务，我们必须启动该服务后才能使GPU正常工作。 3、以下命令可以查看主机是否正确加载了驱动程序： vmkload_mod -l | grep nvidia 4、如下图所示：通过命令nvidia-smi来验证GPU卡是否正常工作，无报错，如图： 5、 6、编辑虚拟机 GPU配置文件为GPU显存大小，具体显存大小参考说明文档。并勾选预留所有内存。
11.7K70编辑于 2022-03-31
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号