- 综合排序
- 最热优先
- 最新优先
- 来自专栏Java项目实战
【玩转 GPU】英伟达GPU架构演变
三、Fermi架构 2009年,英伟达发布Fermi架构,是第一款采用40nm制程的GPU。Fermi架构带来了重大改进,包括引入L1/L2快速缓存、错误修复功能和 GPUDirect技术等。 英伟达显卡的GPU核心一般由多个GPU芯片组成，从而实现更高的计算能力和速度。2.内存内存（Memory）是显卡用于存储数据和代码的部分，它可以快速访问大量数据，大大提高了显卡的运算速度。 2.深度学习技术英伟达显卡的深度学习技术主要通过CUDA（Compute Unified Device Architecture）平台实现。 通过CUDA平台，英伟达显卡可以高效地处理复杂的计算任务，提高计算性能。2.OpenGLOpenGL是一种开放的图形编程接口，可以在不同的操作系统和硬件平台上运行。 2) 张量核心用于加速深度学习神经网络的训练和推理,代表了英伟达GPU在人工智能领域的布局。3) RT核心用于硬件级实时光线追踪,代表了英伟达在下一代图形技术上的探索。
14K50编辑于 2023-06-08 - 来自专栏DearXuan的博客文章
python调用英伟达GPU加速方法
调用GPU的本质其实是调用CUDA的dll 如果你对CUDA编程不熟悉，可以参考CUDA并行编程概述 生成CUDA dll 调用显卡的方法是调用CUDA的dll，因此首先要使用CUDA生成dll 下面是示例
1.8K30编辑于 2022-02-21 - 来自专栏CVer
英伟达的这款GPU太强了！
图2 1960年在 UNIVAC 键盘前的 Hopper 一图看尽 Hopper H100 GPU 上的六大项突破性创新： 图3 H100 上的六大项突破性创新 集成超过 800 亿个晶体管（台积电 NVLink 全新 DPX 指令 NVIDIA H100 GPU 硬件上的参数太炸裂，比如有：英伟达定制的台积电4nm工艺、单芯片设计、800 亿个晶体管、132 组 SM、16896 个 CUDA 图7 H100 FP8 和 A100 FP16 FP8 Tensor Core 支持 FP32、FP16 累加器和两种新的 FP8 输入类型：E4M3 和 E5M2。 E5M2 是与 FP16 保持相同的动态范围，但精度大大降低，而 E4M3 精度稍高但动态范围较小。 H100 相较于上一代 A100 ，NVDEC 和 NVJPG 的解码吞吐能力提高了2倍以上。 Amusi 相信 H100 GPU 可以进一步推进 AI、元宇宙、自动驾驶等领域的发展！
2K20编辑于 2022-06-13 - 来自专栏专知
英伟达GTC大会：迄今最强GPU发布
【导读】当地时间3月27日，英伟达在美国圣克拉的 GTC 大会上推出多款产品。英伟达CEO黄仁勋在会上推出多款产品，包括新一代Quadro GV100卡显、医疗图像处理的超级电脑CLARA。 最为重要的是，发布了迄今最大的GPU——DGX-2和推出自动驾驶仿真系统。 我们知道，随着近年来AI技术火爆，GPU价格也是水涨船高，虽然各大巨头也有推出对应的AI芯片，但是英伟达的低位仍难以动摇，此次大会也着实带给观众不少震撼，下面我们来一一解读。 ▌Quadro GV100卡显 ---- 英伟达新推出的这款QuadroGV100GPU，使用RTX技术进行实时光线追踪，这将为动画产业提供一种更有效的3D图形和场景制作方法。 ▌迄今最大GPU：DGX-2 ---- DGX-2是这次英伟达演讲的重点产品，DGX-2 是首款能够提供每秒两千万亿次浮点运算能力的单点服务器，它有16个VoltaGPU，具有 300 台服务器的深度学习处理能力
92960发布于 2018-04-08 - 来自专栏人工智能快报
谷歌开放TPU应对英伟达GPU挑战
尽管谷歌目前没有直接向客户销售TPU芯片，但它们的可用性对英伟达（Nvidia）仍是一个挑战，英伟达的GPU目前是世界上使用最多的AI加速器。 甚至Google也使用了大量的英伟达GPU来提供加速的云计算服务。然而，如果研究人员像预期的那样从GPU切换到TPUs，这将减少Google对英伟达的依赖。 在机器学习训练中，云TPU的性能（180比120TFLOPS）比Nvidia最好的GPU Tesla V100的内存容量（64GB比16GB）高4倍。
1.1K80发布于 2018-03-30 - 来自专栏量子位
谷歌TPU2代有望取代英伟达GPU？测评结果显示…
在这篇文章中，作者详细对比了谷歌TPU2和英伟达V100的性能。孰优孰劣，一较便知~ ? 环境设置 话不多说直接上干货了。 下面我们就先比较由四个TPU芯片组成的TPU2组合板与四个英伟达V100 GPU的环境设置的差别。 先看看V100这一边，英伟达建议用MXNet或TensorFlow来实现，两者都可以在英伟达GPU云上的Docker映像中使用。 看来，这些batch size真的不是TPU的推荐设置~ 根据英伟达的建议，我们还也在MXNet上做了一个GPU测验。 性价比 上面我们也提到过，谷歌云TPU2一组有四块芯片，目前只在谷歌云上才能用到。 当需要进行计算时，我们可以将它与虚拟机相连。考虑到谷歌云上不支持英伟达V100，所以其云服务只能来自AWS。
83520发布于 2018-07-24 英伟达拿下全球94%的独立GPU市场！
具体到2025年第二季度，英伟达以 94% 的巨大市场份额再次位居榜首，较上一季度增长 2.1%。 与此同时，英伟达的竞争对手，如 AMD 和英特尔，的 GPU 市场份额分别为 6%（-2.1%）和 几乎为0%。 鉴于英伟达最近在财报电话会议上的声明，GeForce RTX 50 系列显卡继续上涨并且销量非常好。鉴于游戏领域的收入创下历史新高，并且随着第四季度假期的临近，我们可以预期这些数字会攀升。 入门级和中端 GPU 仍然可以以较低的价格购买，但看起来不同地区关税的异常变化促使买家以合理的价格购买新的 GPU。 在接下来的几个月里，英伟达和AMD不打算推出新款GPU。 英伟达RTX 50“Blackwell”和AMD Radeon RX 9000“RDNA 4”系列已基本完成，唯一的惊喜可能是英特尔新的Battlemage的推出。 编辑：芯智讯-林子
29510编辑于 2026-03-19- 来自专栏纯洁的微笑
英伟达、AMD恐断供高端GPU！
图：英伟达向SEC提交的文件 NVIDIA（英伟达）8 月 31 日向美国证券交易委员会(SEC)提交的一份文件披露，美国政府于 8 月 26 日通知该公司，未来若要出口 A100 和 H100 芯片至中国 此次管制涉及英伟达 A100 和即将出货的 H100 两款芯片，以及英伟达未来推出的峰值性能等同或超过 A100 的其他芯片。 英伟达应用这些高性能 GPU 芯片的系统级产品，也均在美国政府新的管制范围内。 英伟达 A100 芯片 目前看，咱们民用系列 RTX 这些显卡不受影响，对游戏佬还好。 受此影响，8月31日，英伟达股价下跌 2.42% ，收报 150.94 美元/股；盘后交易中，英伟达股价继续下跌 6.56%。 参考资料： https://mp.weixin.qq.com/s/xwHFlHwKkonfiv1Z2YDS_A https://mp.weixin.qq.com/s/A5XSOpWtfm1dLsmRO3Pppw
82220编辑于 2022-09-06 - 来自专栏AI科技大本营的专栏
GPU对决TPU，英伟达能否守住领先地位？
在多年的耕耘之后，英伟达的凭借着先发优势和快速迭代在AI时代迅速崛起。如今，英伟达的GPU几乎垄断了AI芯片市场，着实让人眼红。 那么类似TPU这种的专用芯片真的能对英伟达的GPU产生威胁吗？ 奇怪的是，这两家公司生产的新芯片都没有被广泛地使用，这或许表明TPU的实际表现并不如GPU。 TPU之所以没能超越GPU，英伟达的GPU架构进化得非常快是其中的一个重要原因。 英伟达的K40是最先应用于深度学习的首批GPU之一，它每秒执行100万次运算需要使用1400个晶体管。 在过去几年间，英伟达将其GPU 的架构性能提升了大概10倍，这就是TPU到现在还无法替代GPU的主要原因。 软件很重要 就算初创公司在深度学习硬件上可能占有优势，但是在软件上英伟达依旧遥遥领先。
1.3K100发布于 2018-04-27 魏少军：中国应放弃采用英伟达GPU！
9月11日消息，据《彭博社》报道，中国半导体行业协会集成电路设计分会理事长、清华大学教授魏少军近日在新加坡召开的一个行业论坛上表示，包括中国在内的亚洲国家应该放弃将英伟达GPU用于人工智能开发，以减少对英伟达的依赖 “不幸的是，我们亚洲国家，包括中国，在开发AI算法和大模型方面正在效仿美国（利用英伟达的GPU），”魏少军说，他作为一名学者，多年来一直为官方提供建议。 由于美国近年来持续加码限制措施，以阻止中国公司获得最尖端的AI芯片，中国本土公司也一直在努力解决英伟达人工智能加速器短缺的问题。目前中国自己的芯片制造技术仍落后于当今世界上最先进的芯片制造技术几年。 虽然英伟达的H20芯片在今年被禁数个月之后，又重新获得了对华出口的许可，但是其安全性却遭到了中国官方的质疑，这也使得中国科技公司不得不对继续采购H20芯片持保留态度。 魏少军指出说，中国应该专注于创造一种专为大模型开发而设计的新型芯片，而不是继续依赖最初设计用于为游戏和工业图形提供动力的GPU架构，但他并没有详细说明新架构的具体细节。
7910编辑于 2026-03-20- 来自专栏计算机视觉战队
英伟达A100 Tensor Core GPU架构深度讲解
2、NVIDIA A100 Tensor Core GPU——第八代数据中心GPU的灵活计算时代 新的NVIDIA®A100 Tensor Core GPU建立在以前的NVIDIA Tesla V100 40 GB HBM2 and 40 MB L2 cache 为了满足巨大的计算吞吐量，NVIDIA A100 GPU拥有40gb的高速HBM2内存，其内存带宽达到1555gb/s，比Tesla V100 此外，A100 GPU的片上内存显著增加，包括一个比V100大近7倍的40MB二级（L2）缓存，以最大限度地提高计算性能。 A100还增加了计算数据压缩，使DRAM带宽和二级带宽提高了4倍，二级容量提高了2倍。 由于每个GPU和交换机有更多的链路，新的NVLink提供了更高的GPU-GPU通信带宽，并改进了错误检测和恢复功能。
4K31发布于 2020-07-14 - 来自专栏量子位
英伟达版ChatGPT来了，PC端部署，很GPU
金磊 发自 凹非寺 量子位 | 公众号 QbitAI 英伟达推出了自家版本的ChatGPT，名字很有GPU的味道—— Chat With RTX。 英伟达的这款AI聊天机器人和目前主流的“选手”有所不同。 它并非是在网页或APP中运行，而是需要下载安装到个人电脑中。 英伟达版ChatGPT 首先，值得一提的是，Chat With RTX并非是英伟达自己搞了个大语言模型（LLM）。 不然就会出现各种各样的悲剧了： 不过实测被吐槽 The Verge在英伟达发布Chat With RTX之后，立即展开了一波实测。 不过结论却是大跌眼镜。 那么你会pick英伟达版的ChatGPT吗？
74710编辑于 2024-02-22 - 来自专栏大语言模型，算力共享
英伟达A100 GPU的核心数，Tesla系列
目录GeForce RTX 什么意思英伟达A100 GPU的核心数A100概述NVIDIA GPUGeForce系列（消费级）Quadro系列（专业级）Tesla系列（数据中心和AI）AMD GPURadeon 系列（消费级）注意GeForce RTX 什么意思GeForce RTX是英伟达（NVIDIA）公司旗下的一个高端显卡系列。 其中，“GeForce”是英伟达推出的显卡品牌，广泛应用于游戏、图形设计、视频编辑等多个领域，以其出色的图形处理能力和性能而著称。 英伟达A100 GPU的核心数相当可观，具体来说，它拥有6912个CUDA核心。这些CUDA核心使得A100在高性能计算和人工智能任务中表现出色。 总的来说，英伟达A100 GPU以其强大的核心数量、先进的架构和高速的内存，成为了高性能计算和人工智能领域的佼佼者。
1.8K20编辑于 2024-07-31 - 来自专栏新智元
Google Colab现已支持英伟达T4 GPU
之前只提供英伟达Tesla K80，现在已经支持TPU了！英伟达T4 GPU耗能仅为70瓦，是面向现有数据中心基础设施而设计的，可加速AI训练和推理、机器学习、数据分析和虚拟桌面。 运行命令 ! nvidia-smi 返回结果 有Reddit网友表示Colab TPU比本地GTX 1080Ti的速度慢了将近2倍。 GPU的型号正是Tesla K80，可以在上面轻松地跑Keras、Tensorflow、Pytorch等框架；最近新增加的TPU是英伟达T4，可以在更广阔的天地大有作为了。 比如你可以选择使用Python 2或者3笔记本，然后选择硬件加速器，接下来就可以愉快的敲代码了。 或者你也可以直接wget一个共享的zip包。 2.
5.3K80发布于 2019-05-14 - 来自专栏深度学习自然语言处理
英伟达、AMD断供高端GPU！
结果看到的是： 8月31日，全球两大 GPU 厂商 NVIDIA 和 AMD 均证实，已收到美国政府通知，即刻停止向中国出口旗下高端 AI 芯片。 图：英伟达向SEC提交的文件 NVIDIA（英伟达）8 月 31 日向美国证券交易委员会(SEC)提交的一份文件披露，美国政府于 8 月 26 日通知该公司，未来若要出口 A100 和 H100 芯片至中国 此次管制涉及英伟达 A100 和即将出货的 H100 两款芯片，以及英伟达未来推出的峰值性能等同或超过 A100 的其他芯片。 英伟达应用这些高性能 GPU 芯片的系统级产品，也均在美国政府新的管制范围内。 英伟达 A100 芯片 目前看，咱们民用系列 RTX 这些显卡不受影响，对游戏佬还好。 受此影响，8月31日，英伟达股价下跌 2.42% ，收报 150.94 美元/股；盘后交易中，英伟达股价继续下跌 6.56%。
1.3K20编辑于 2022-09-02 由于成本飙升，英伟达对GPU涨价10-15%
5%至10%，而AI GPU价格上涨了15%。 近年来，美国持续升级对华半导体出口管制政策，这也使得英伟达在华业务受到了很大的影响。不久前，英伟达对华特供的AI芯片H20也被美国列入了禁售，使得其二季度将计提55亿美元的损失。 此外，英伟达还将部分Blackwell GPU的生产转移到了台积电美国亚利桑那州晶圆厂，这也加剧了其生产成本、材料和物流成本大幅上涨。 这一系列的因素都造成了英伟达综合成本的上升，而“为了保持稳定的盈利能力”，英伟达最近提高了几乎所有产品的官方价格，并允许其合作伙伴相应提高价格。 此外，英伟达还提高了其H200和B200芯片的价格，服务器供应商相应地将价格提高了15%。
30910编辑于 2026-03-19- 来自专栏GPUS开发者
英伟达机器学习5大网红GPU卡
小编结合工作中客户咨询的经验，总结出英伟达5大热门机器学习用ＧＰＵ卡。 英伟达号称Tesla M40 GPU 加速器是全球快的深度学习训练加速器，专为显著缩短训练时间而定制。 同样采用了完整的麦克斯韦架构大核心GM200，3072个CUDA核心，单精度浮点计算7TFlops，12GB显存，再加上同时发布的英伟达DIGITS深度学习GPU训练系统的加持，更是让数据科学家和研究人员如虎添翼 而本月英伟达最新的cuDNN5开放下载，可以在单一NVIDIA Pascal GPU上最高实现44%的训练速度提升，这使得GTX1080充满了期待。 英伟达声称将推动深度学习和HPC应用性能跨越式发展：其中，全新的Pascal架构实现了巨大的性能飞跃，半精度指令为深度学习提供了超过 21 Teraflops 的峰值性能；NVLink 将CPU与GPU
11.1K50发布于 2018-03-30 - 来自专栏腾讯大讲堂的专栏
英伟达 GPU 十年架构演进史
计算用的硬件也在加速从 CPU 到 GPU 等迁移。本文试图整理从英伟达 2010 年开始，到 2020 年这十年间的架构演进历史。 对于 L1 Cache 以及非 On-Chip 的 L2 Cache，其作用与 CPU 多级缓存结构中的 L1/L2 Cache 非常接近，而 Shared Memory，则是相比 CPU 的一个大区别 无论是 CPU 还是 GPU 中的 L1/L2 Cache，一般意义上都是无法被程序员调度的，而 Shared Memory 设计出来就是让渡给程序员进行调度的片上高速缓存。 首先说 NVIDIA 定义的稀疏矩阵，这里称为 2:4 的结构化稀疏，2:4 的意思是每 4 个元素当中有 2 个值非 0，如下图： 首先使用正常的稠密 weight 训练，训练到收敛后裁剪到 2:4 而这个版本的 TensorCore 支持一个 2:4 的结构化稀疏矩阵与另一个稠密矩阵直接相乘。
5.1K52发布于 2021-10-20 - 来自专栏AI科技评论
微软为什么要用英伟达的GPU来支持CNTK？
今天下午，在北京举行的GTC CHINA 2016(GPU技术大会)中，英伟达深度学习研究院对CNTK中图像识别功能进行了简单介绍。 首先，我们来了解下CNTK。 在微软最新发布的CNTK1.7版本中，CNTK已经支持英伟达的最新的深度神经网络资料库cuDNN5.1。 其实在Facebook、百度等巨头的人工智能研究中，经常用到英伟达的GPU。 Facebook的Big Sur服务器是围绕本来为图片处理而开发的大功率处理器——GPU来设计的。 每8个GPU就配置一台Big Sur服务器，Facebook使用的正是擅长于图像识别的英伟达制造的GPU。 百度将把英伟达的GPU应用到其无人驾驶系统的车载电脑中。
1K30发布于 2018-03-07 - 来自专栏AI科技评论
英伟达 GTC 大会携万亿参数 GPU「炸裂」 AI 行业
英伟达指出，新 Blackwell 架构 GPU 组成的 GB200，将提供 4 倍于 Hopper 的训练性能，大模型参数达到了万亿级别。这意味着同样的计算能力，科技厂商所需的芯片数量会减少。 NVIDIA NIM 由英伟达的加速计算库和生成式 AI 模型构建，支持行业标准 API，因此易于连接，可在英伟达庞大的 CUDA 安装基础上工作，针对新 GPU 进行重新优化，并不断扫描安全漏洞和漏洞 2 AI芯片新皇登场的后续思考 We need Bigger GPUs… A very very big GPU! 非常非常大的GPU，是老黄对于整场GTC大会最切实的表达。 （思科在网络设备和协议标准化方面曾起到了至关重要的作用，而英伟达通过其GPU和AI平台推动了AI计算基础设施的发展，为数据中心、云端和边缘计算提供了关键的硬件支持。） 而对于国内GPU厂商而言，套用某GPU从业者的话则是：英伟达牛逼惯了，大概率会被制裁，国内的GPU公司则更加要好做产品，从能卖掉的做起来。
40510编辑于 2024-03-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号