- 综合排序
- 最热优先
- 最新优先
- 来自专栏Java项目实战
【玩转 GPU】英伟达GPU架构演变
图片一、GPU架构发展历史 1999年,英伟达发布第一代GPU架构GeForce 256,标志着GPU时代的开始。 九、Ampere架构 2020年,英伟达发布Ampere架构,采用Samsung 8nm制程。 随后,英伟达推出了GeForce系列显卡产品,在PC游戏和其他图形应用中获得主流地位。2006年,英伟达推出第一代CUDA架构GPU,可以用于通用数据并行计算,开启了GPU计算时代。 可以看出,英伟达显卡在GPU应用和体系结构上不断创新,推动着整个GPU技术发展。二、运行原理 英伟达显卡属于并行结构的高性能计算设备。 六、多模态构成 英伟达GPU通过流处理器、张量核心和RT核心实现了多模态设计,可以支持多种工作负载:1) 流处理器用于支持传统的图形渲染和通用GPU计算,代表了英伟达GPU的渲染和计算能力。
14K50编辑于 2023-06-08 - 来自专栏DearXuan的博客文章
python调用英伟达GPU加速方法
调用GPU的本质其实是调用CUDA的dll 如果你对CUDA编程不熟悉，可以参考CUDA并行编程概述 生成CUDA dll 调用显卡的方法是调用CUDA的dll，因此首先要使用CUDA生成dll 下面是示例
1.8K30编辑于 2022-02-21 - 来自专栏CVer
英伟达的这款GPU太强了！
NVLink 全新 DPX 指令 NVIDIA H100 GPU 硬件上的参数太炸裂，比如有：英伟达定制的台积电4nm工艺、单芯片设计、800 亿个晶体管、132 组 SM、16896 个 CUDA H100 GPU 中特别加入了 FP8 Tensor Core 来加速 AI 训练和推理。 与上一代 A100 GPU（Ampere 架构）上的 FP16 相比，FP8 精度可提供高达 6 倍的性能。 图7 H100 FP8 和 A100 FP16 FP8 Tensor Core 支持 FP32、FP16 累加器和两种新的 FP8 输入类型：E4M3 和 E5M2。 图8 Hopper FP8 除了新增的 FP8 有恐怖的性能之外，第四代 Tensor Core 还整体加强了 FP16、FP64、TF32 和 INT8 等 Tensor Core。
2K20编辑于 2022-06-13 - 来自专栏专知
英伟达GTC大会：迄今最强GPU发布
【导读】当地时间3月27日，英伟达在美国圣克拉的 GTC 大会上推出多款产品。英伟达CEO黄仁勋在会上推出多款产品，包括新一代Quadro GV100卡显、医疗图像处理的超级电脑CLARA。 我们知道，随着近年来AI技术火爆，GPU价格也是水涨船高，虽然各大巨头也有推出对应的AI芯片，但是英伟达的低位仍难以动摇，此次大会也着实带给观众不少震撼，下面我们来一一解读。 ▌Quadro GV100卡显 ---- 英伟达新推出的这款QuadroGV100GPU，使用RTX技术进行实时光线追踪，这将为动画产业提供一种更有效的3D图形和场景制作方法。 ▌迄今最大GPU：DGX-2 ---- DGX-2是这次英伟达演讲的重点产品，DGX-2 是首款能够提供每秒两千万亿次浮点运算能力的单点服务器，它有16个VoltaGPU，具有 300 台服务器的深度学习处理能力 300万美元，英伟达的售价只是1/8的花费。
92960发布于 2018-04-08 - 来自专栏人工智能快报
谷歌开放TPU应对英伟达GPU挑战
尽管谷歌目前没有直接向客户销售TPU芯片，但它们的可用性对英伟达（Nvidia）仍是一个挑战，英伟达的GPU目前是世界上使用最多的AI加速器。 甚至Google也使用了大量的英伟达GPU来提供加速的云计算服务。然而，如果研究人员像预期的那样从GPU切换到TPUs，这将减少Google对英伟达的依赖。 在机器学习训练中，云TPU的性能（180比120TFLOPS）比Nvidia最好的GPU Tesla V100的内存容量（64GB比16GB）高4倍。
1.1K80发布于 2018-03-30 英伟达拿下全球94%的独立GPU市场！
具体到2025年第二季度，英伟达以 94% 的巨大市场份额再次位居榜首，较上一季度增长 2.1%。 与此同时，英伟达的竞争对手，如 AMD 和英特尔，的 GPU 市场份额分别为 6%（-2.1%）和 几乎为0%。 鉴于英伟达最近在财报电话会议上的声明，GeForce RTX 50 系列显卡继续上涨并且销量非常好。鉴于游戏领域的收入创下历史新高，并且随着第四季度假期的临近，我们可以预期这些数字会攀升。 入门级和中端 GPU 仍然可以以较低的价格购买，但看起来不同地区关税的异常变化促使买家以合理的价格购买新的 GPU。 在接下来的几个月里，英伟达和AMD不打算推出新款GPU。 英伟达RTX 50“Blackwell”和AMD Radeon RX 9000“RDNA 4”系列已基本完成，唯一的惊喜可能是英特尔新的Battlemage的推出。 编辑：芯智讯-林子
29510编辑于 2026-03-19- 来自专栏纯洁的微笑
英伟达、AMD恐断供高端GPU！
结果看到的是： 8月31日，全球两大 GPU 厂商 NVIDIA 和 AMD 均证实，已收到美国政府通知，即刻停止向中国出口旗下高端 AI 芯片。 图：英伟达向SEC提交的文件 NVIDIA（英伟达）8 月 31 日向美国证券交易委员会(SEC)提交的一份文件披露，美国政府于 8 月 26 日通知该公司，未来若要出口 A100 和 H100 芯片至中国 此次管制涉及英伟达 A100 和即将出货的 H100 两款芯片，以及英伟达未来推出的峰值性能等同或超过 A100 的其他芯片。 英伟达应用这些高性能 GPU 芯片的系统级产品，也均在美国政府新的管制范围内。 英伟达 A100 芯片 目前看，咱们民用系列 RTX 这些显卡不受影响，对游戏佬还好。 受此影响，8月31日，英伟达股价下跌 2.42% ，收报 150.94 美元/股；盘后交易中，英伟达股价继续下跌 6.56%。
82220编辑于 2022-09-06 - 来自专栏AI科技大本营的专栏
GPU对决TPU，英伟达能否守住领先地位？
在多年的耕耘之后，英伟达的凭借着先发优势和快速迭代在AI时代迅速崛起。如今，英伟达的GPU几乎垄断了AI芯片市场，着实让人眼红。 那么类似TPU这种的专用芯片真的能对英伟达的GPU产生威胁吗？ 奇怪的是，这两家公司生产的新芯片都没有被广泛地使用，这或许表明TPU的实际表现并不如GPU。 TPU之所以没能超越GPU，英伟达的GPU架构进化得非常快是其中的一个重要原因。 英伟达的K40是最先应用于深度学习的首批GPU之一，它每秒执行100万次运算需要使用1400个晶体管。 在过去几年间，英伟达将其GPU 的架构性能提升了大概10倍，这就是TPU到现在还无法替代GPU的主要原因。 软件很重要 就算初创公司在深度学习硬件上可能占有优势，但是在软件上英伟达依旧遥遥领先。
1.3K100发布于 2018-04-27 魏少军：中国应放弃采用英伟达GPU！
9月11日消息，据《彭博社》报道，中国半导体行业协会集成电路设计分会理事长、清华大学教授魏少军近日在新加坡召开的一个行业论坛上表示，包括中国在内的亚洲国家应该放弃将英伟达GPU用于人工智能开发，以减少对英伟达的依赖 “不幸的是，我们亚洲国家，包括中国，在开发AI算法和大模型方面正在效仿美国（利用英伟达的GPU），”魏少军说，他作为一名学者，多年来一直为官方提供建议。 由于美国近年来持续加码限制措施，以阻止中国公司获得最尖端的AI芯片，中国本土公司也一直在努力解决英伟达人工智能加速器短缺的问题。目前中国自己的芯片制造技术仍落后于当今世界上最先进的芯片制造技术几年。 虽然英伟达的H20芯片在今年被禁数个月之后，又重新获得了对华出口的许可，但是其安全性却遭到了中国官方的质疑，这也使得中国科技公司不得不对继续采购H20芯片持保留态度。 魏少军指出说，中国应该专注于创造一种专为大模型开发而设计的新型芯片，而不是继续依赖最初设计用于为游戏和工业图形提供动力的GPU架构，但他并没有详细说明新架构的具体细节。
7910编辑于 2026-03-20- 来自专栏计算机视觉战队
英伟达A100 Tensor Core GPU架构深度讲解
该A100 GPU包括一个革命性的新的“Multi-Instance GPU”(或MIG)虚拟化和GPU分区能力，特别有利于云服务提供商(CSP)。 INT8、INT4和二进制舍入的张量核心加速支持DL推理，A100稀疏的INT8比V100 INT8运行更快，快20倍。 NVIDIA A100 GPU是第一个Elastic GPU体系结构，能够使用NVLink、NVSwitch和InfiniBand扩展到巨型GPU，或扩展到支持多个独立用户的MIG，每GPU实例同时实现伟大的性能和最低的成本 由于每个GPU和交换机有更多的链路，新的NVLink提供了更高的GPU-GPU通信带宽，并改进了错误检测和恢复功能。 在大型多GPU集群和单GPU、多租户环境（如MIG配置）中尤其如此。A100 Tensor Core GPU包括新技术，用于改进错误/故障属性、隔离和遏制。
4K31发布于 2020-07-14 - 来自专栏量子位
英伟达版ChatGPT来了，PC端部署，很GPU
金磊 发自 凹非寺 量子位 | 公众号 QbitAI 英伟达推出了自家版本的ChatGPT，名字很有GPU的味道—— Chat With RTX。 英伟达的这款AI聊天机器人和目前主流的“选手”有所不同。 它并非是在网页或APP中运行，而是需要下载安装到个人电脑中。 网友们也纷纷对这一点发出了感慨： 哇~这是本地运行的耶~ 当然，在配置方面也是要求的，只需要至少8GB的RTX 30或40系列显卡即可 。 英伟达版ChatGPT 首先，值得一提的是，Chat With RTX并非是英伟达自己搞了个大语言模型（LLM）。 那么你会pick英伟达版的ChatGPT吗？
74710编辑于 2024-02-22 - 来自专栏大语言模型，算力共享
英伟达A100 GPU的核心数，Tesla系列
目录GeForce RTX 什么意思英伟达A100 GPU的核心数A100概述NVIDIA GPUGeForce系列（消费级）Quadro系列（专业级）Tesla系列（数据中心和AI）AMD GPURadeon 系列（消费级）注意GeForce RTX 什么意思GeForce RTX是英伟达（NVIDIA）公司旗下的一个高端显卡系列。 其中，“GeForce”是英伟达推出的显卡品牌，广泛应用于游戏、图形设计、视频编辑等多个领域，以其出色的图形处理能力和性能而著称。 英伟达A100 GPU的核心数相当可观，具体来说，它拥有6912个CUDA核心。这些CUDA核心使得A100在高性能计算和人工智能任务中表现出色。 总的来说，英伟达A100 GPU以其强大的核心数量、先进的架构和高速的内存，成为了高性能计算和人工智能领域的佼佼者。
1.8K20编辑于 2024-07-31 - 来自专栏新智元
Google Colab现已支持英伟达T4 GPU
之前只提供英伟达Tesla K80，现在已经支持TPU了！英伟达T4 GPU耗能仅为70瓦，是面向现有数据中心基础设施而设计的，可加速AI训练和推理、机器学习、数据分析和虚拟桌面。 运行命令 ! GPU的型号正是Tesla K80，可以在上面轻松地跑Keras、Tensorflow、Pytorch等框架；最近新增加的TPU是英伟达T4，可以在更广阔的天地大有作为了。 免费用GPU 在笔记本设置中，确保硬件加速选择了GPU。 = '/device:GPU:0': raise SystemError('GPU device not found') print('Found GPU at: {}'.format(device_name )) 顺利的话会出现： Found GPU at: /device:GPU:0 不顺利的话： 谷歌允许你一次最多持续使用12小时的免费 GPU。
5.3K80发布于 2019-05-14 - 来自专栏深度学习自然语言处理
英伟达、AMD断供高端GPU！
结果看到的是： 8月31日，全球两大 GPU 厂商 NVIDIA 和 AMD 均证实，已收到美国政府通知，即刻停止向中国出口旗下高端 AI 芯片。 图：英伟达向SEC提交的文件 NVIDIA（英伟达）8 月 31 日向美国证券交易委员会(SEC)提交的一份文件披露，美国政府于 8 月 26 日通知该公司，未来若要出口 A100 和 H100 芯片至中国 此次管制涉及英伟达 A100 和即将出货的 H100 两款芯片，以及英伟达未来推出的峰值性能等同或超过 A100 的其他芯片。 英伟达应用这些高性能 GPU 芯片的系统级产品，也均在美国政府新的管制范围内。 英伟达 A100 芯片 目前看，咱们民用系列 RTX 这些显卡不受影响，对游戏佬还好。 受此影响，8月31日，英伟达股价下跌 2.42% ，收报 150.94 美元/股；盘后交易中，英伟达股价继续下跌 6.56%。
1.3K20编辑于 2022-09-02 由于成本飙升，英伟达对GPU涨价10-15%
5%至10%，而AI GPU价格上涨了15%。 近年来，美国持续升级对华半导体出口管制政策，这也使得英伟达在华业务受到了很大的影响。不久前，英伟达对华特供的AI芯片H20也被美国列入了禁售，使得其二季度将计提55亿美元的损失。 此外，英伟达还将部分Blackwell GPU的生产转移到了台积电美国亚利桑那州晶圆厂，这也加剧了其生产成本、材料和物流成本大幅上涨。 这一系列的因素都造成了英伟达综合成本的上升，而“为了保持稳定的盈利能力”，英伟达最近提高了几乎所有产品的官方价格，并允许其合作伙伴相应提高价格。 此外，英伟达还提高了其H200和B200芯片的价格，服务器供应商相应地将价格提高了15%。
30910编辑于 2026-03-19- 来自专栏GPUS开发者
英伟达机器学习5大网红GPU卡
小编结合工作中客户咨询的经验，总结出英伟达5大热门机器学习用ＧＰＵ卡。 英伟达号称Tesla M40 GPU 加速器是全球快的深度学习训练加速器，专为显著缩短训练时间而定制。 同样采用了完整的麦克斯韦架构大核心GM200，3072个CUDA核心，单精度浮点计算7TFlops，12GB显存，再加上同时发布的英伟达DIGITS深度学习GPU训练系统的加持，更是让数据科学家和研究人员如虎添翼 而本月英伟达最新的cuDNN5开放下载，可以在单一NVIDIA Pascal GPU上最高实现44%的训练速度提升，这使得GTX1080充满了期待。 英伟达声称将推动深度学习和HPC应用性能跨越式发展：其中，全新的Pascal架构实现了巨大的性能飞跃，半精度指令为深度学习提供了超过 21 Teraflops 的峰值性能；NVLink 将CPU与GPU
11.1K50发布于 2018-03-30 - 来自专栏腾讯大讲堂的专栏
英伟达 GPU 十年架构演进史
计算用的硬件也在加速从 CPU 到 GPU 等迁移。本文试图整理从英伟达 2010 年开始，到 2020 年这十年间的架构演进历史。 而一个 Warp(32 线程)就需要执行 8 个时钟周期。SFU 的流水线是从 Dispatch Unit 解耦的，所以当 SFU 被占用时，Dispatch Unit 会去使用其他的执行单元。 多机之间，采用 InfiniBand 和 100Gb Ethernet 去通信，在单机内，特别是从单机单 GPU 到达单机 8GPU 以后，PCIe 的带宽往往就成为了瓶颈。 下图是一个典型的单机 8 P100 拓扑。 一些特殊的 CPU 也可以通过 NVLink 与 GPU 连接，比如 IBM 的 POWER8。 除了在 Volta 中的 FP16 以及在 Turing 中的 INT8/INT4/Binary，这个版本新加入了 TF32, BF16, FP64 的支持。
5.1K52发布于 2021-10-20 - 来自专栏AI科技评论
微软为什么要用英伟达的GPU来支持CNTK？
今天下午，在北京举行的GTC CHINA 2016(GPU技术大会)中，英伟达深度学习研究院对CNTK中图像识别功能进行了简单介绍。 首先，我们来了解下CNTK。 在微软最新发布的CNTK1.7版本中，CNTK已经支持英伟达的最新的深度神经网络资料库cuDNN5.1。 其实在Facebook、百度等巨头的人工智能研究中，经常用到英伟达的GPU。 Facebook的Big Sur服务器是围绕本来为图片处理而开发的大功率处理器——GPU来设计的。 每8个GPU就配置一台Big Sur服务器，Facebook使用的正是擅长于图像识别的英伟达制造的GPU。 百度将把英伟达的GPU应用到其无人驾驶系统的车载电脑中。
1K30发布于 2018-03-07 - 来自专栏AI科技评论
英伟达 GTC 大会携万亿参数 GPU「炸裂」 AI 行业
英伟达指出，新 Blackwell 架构 GPU 组成的 GB200，将提供 4 倍于 Hopper 的训练性能，大模型参数达到了万亿级别。这意味着同样的计算能力，科技厂商所需的芯片数量会减少。 在 FP8 训练方面，Blackwell 的每芯片性能是其前身的 2.5 倍，在 FP4 推理方面的性能是其前身的 5 倍。 NVIDIA NIM 由英伟达的加速计算库和生成式 AI 模型构建，支持行业标准 API，因此易于连接，可在英伟达庞大的 CUDA 安装基础上工作，针对新 GPU 进行重新优化，并不断扫描安全漏洞和漏洞 （思科在网络设备和协议标准化方面曾起到了至关重要的作用，而英伟达通过其GPU和AI平台推动了AI计算基础设施的发展，为数据中心、云端和边缘计算提供了关键的硬件支持。） 而对于国内GPU厂商而言，套用某GPU从业者的话则是：英伟达牛逼惯了，大概率会被制裁，国内的GPU公司则更加要好做产品，从能卖掉的做起来。
40510编辑于 2024-03-25 - 来自专栏IT技术订阅
英伟达Blackwell GPU技术特点性能优势及行业应用
2.2 架构设计 多芯片模块 (MCM) 设计：Blackwell GPU 采用了 MCM 设计，即由两个紧密耦合的芯片组成，通过 10 TB/s 的片间互联连接成一个统一的 GPU。 2.3 内存配置 高带宽内存 (HBM3e)：Blackwell GPU 搭载了 192 GB 的 HBM3e 内存，提供高达 8 TB/s 的带宽。 NVHyperFUSE 接口：NVHyperFUSE 接口提供高达 10 TB/s 的带宽，极大地减少了 GPU 之间的通信延迟，使得多 GPU 系统中的数据传输更为流畅。 2.5 低精度支持 低精度数据类型：Blackwell GPU 支持 FP8、FP4 和 INT4 数据类型，这些低精度格式有助于减少计算资源需求并提高训练性能。 四、Blackwell GPU 的应用前景 4.1 企业级应用 大规模部署：NVIDIA 对 Blackwell GPU 的市场前景充满信心，期望企业能够大量采购并将其应用于更大规模的设计中。
1.2K10编辑于 2024-11-23
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号