- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI前沿技术
大模型训练—Nvidia GPU 互联技术全景图
NVLink版本和带宽： 问题：当GPU个数大于NVLink最大连接数量时，这种的拓扑结构就cover不住了。大规模多GPU或者多节点之间的互联通信，需要NVSwitch上点硬科技。 NVSwitch 是NVIDIA 推出的一种高速互联芯片，专为多GPU系统设计，用以简化多GPU间实现全连接的拓扑设计，实现 GPU 之间的高效通信。 NVSwitch作为节点交换架构，支持单节点中16个GPU全互联，并且支持8对GPU同时通信。 全互联拓扑：NVSwitch 支持全互联拓扑，每个 GPU 都可以直接与其他 GPU通信，避免了通信瓶颈。 4，总结： 通过 GPUDirect Storage 技术实现了存储设备和GPU显存的直接访问，数据加载效率大大提升。通过GPUDirect P2P技术实现了GPU之间互联互通，可以快速访问。
76311编辑于 2026-01-13 - 来自专栏陈树义
9、互联网产品用户体验的要素
– 等等….. 2、互联网产品用户体验的五大要素中文版 ? 3、从实际案例看用户体验的设计要素 3.1 战略层（BRD + MRD一部分） 战略层 = 用户需求 + 产品目标 ?
1.7K121发布于 2018-04-13 - 来自专栏SRE云原生实践之路
互联网十万个为什么之什么是GPU？
此外，GPU的并行计算能力也使其在科学模拟、数据分析、深度学习和机器学习等领域变得日益重要，为这些领域提供了前所未有的速度和效率。 GPU是如何演变的？ 科学计算与模拟 科学领域的研究人员依靠GPU处理大规模模拟和计算密集型任务。在物理学、生物学等学科中，GPU被用于模拟实验和分析数据。 对于依赖复杂算法的分布式应用，GPU可以在后端提供必要的计算资源，以支持高性能和实时数据处理需求。 GPU的工作原理是什么？ GPU的并行架构 GPU的核心特点是其并行结构。一个GPU由成百上千个小型、高效的核心组成，这些核心分组成多个流处理器。这些核心在处理图形任务时非常高效，比如渲染像素或进行复杂的几何计算。 内存和带宽 GPU有自己的专用内存，通常称为显存或VRAM。这种内存具有非常高的带宽，使得GPU能够快速地处理大量数据，这对于图形渲染和其他内存密集型任务至关重要。 GPU和CPU有什么区别？
1.5K10编辑于 2024-09-06 - 来自专栏腾讯云文档
【优秀最佳实践展播】第9期：GPU 云服务器
“产品使用攻略”、“上云技术实践” 有奖征集啦～ 图片案例名称案例简介使用 Windows GPU 云服务器搭建深度学习环境介绍如何使用 Windows GPU 云服务器，通过云服务器控制台从零开始手动搭建基于 使用 Docker 安装 TensorFlow 并设置 GPU/CPU 支持介绍如何使用 Docker 安装 TensorFlow，并在容器中下载及运行支持 GPU/CPU 的 TensorFlow 镜像 使用 GPU 云服务器训练 ViT 模型介绍如何使用 GPU 云服务器进行 ViT 模型离线训练，完成图像分类任务。使用 GPU 服务器实现边云协同推理介绍如何使用 GPU 云服务器实现边云协同处理。 使用 GFPGAN 进行老照片修复介绍如何在 GPU 云服务器上通过训练 AI 模型 GFPGAN，实现老照片修复。 视频抽帧的全流程 GPU 异构加速实践介绍使用 GPU 云服务器进行图像数据并行处理加速，实现视频 AI 推理场景中的视频抽帧。
80830编辑于 2022-08-16 - 来自专栏罗西的思考
NVIDIA HugeCTR，GPU 版本参数服务器 --(9)--- Local hash表
[源码解析] NVIDIA HugeCTR，GPU 版本参数服务器 --(9)--- Local hash表 目录 [源码解析] NVIDIA HugeCTR，GPU 版本参数服务器 --(9)--- 例如，GPU-0上的插槽0、GPU-1上的插槽1、GPU-0上的插槽2、GPU-1上的插槽3等。 举出一个例子来看看：假如10个slot，3个GPU，则slot ID是 0～9，GPU id是0～2。 0~10 % 3 = 0,1,2,0,1,2,0,1,2,0，所以10个slot 被分配到3个GPU，分别是： GPU 0 ：0，3，6，9 GPU 1 : 1，4，7， GPU 2 ： 对于每个slot，需要找到slot在哪个gpu之上。 遍历GPU，遍历GPU的目的是，因为slot是按照GPU分配的，所以找前面GPU的位置，其实就是找前面slot的位置。
1K10编辑于 2022-05-09 - 来自专栏腾讯研究院的专栏
互联网行业法律动态报告（2014年9月）
互联网行业法律动态报告（2014年9月） 腾讯互联网与社会研究院法律研究中心 重点摘要： 2014年9月，网络治理、网络犯罪、知识产权、竞争规则、电子商务、互联网金融、个人信息保护等领域热点频出 9月27日，据国家互联网信息办公室发布的数据，今年开展“净网”行动以来，有关方面已依法关闭传播淫秽色情信息、从事招嫖行为的各类新媒体账号逾180万个。 六、互联网金融 国内互联网金融公共组织和信息平台大量出现。9月1日，由四川省金融办指导的“首届西部互联网金融大会暨2014中小微企业融资峰会”在成都召开，会议宣布成立“互联网金融西部联盟”。 9月29日，在2014互联网金融创新与合作峰会上，诚汇通、高新盛等12家新晋会员单位签署《广东互联网金融协会自律公约》。至此，广东互联网金融协会44家会员单位全部加入“自律公约”。 P2P平台成为互联网金融监管的重要问题。9月9日，百度要求年化收益超过18%的P2P平台（可能涉嫌高利贷行为）在9月12日前整改，到期未整改的将会予以下线处理。
1K71发布于 2018-03-13 - 来自专栏daos
Intel开放互联接口OFI(libfabric)入门教程 rdma verbs gpu ai dma network HOTI 互联 HPC panda 博士
, 分布式存储, 网络, rdma等技术HOTI 热门互联网络技术 视频链接: https://www.youtube.com/watch? gpu通信示例, 支持intel gpu, dpu, 或者其他供应商架构与四种服务图片控制类: 发现底层设备, 属性, 能力等通信接口: 建立连接, 初始资源等数据传输: 发送和接收数据完成服务: 报告发送或接收状态 a server/client to exchange a message */static int start_client(void){ret = fi_getinfo(FI_VERSION(1,9) 这不是为客户端设置的，因为这些字段引用服务器，而不是调用者（客户端） */ret = fi_getinfo(FI_VERSION(1,9), dst_addr, port, dst_addr ? libfabric 代码相对位置: fabtests/component/dmabuf-rdma/fi-rdmabw-xe.c更多libfabric参考链接信息图片END, 谢谢图片附录HOTI 热门互联网络技术第
2.4K41编辑于 2023-10-02 - 来自专栏全栈程序员必看
虚拟GPU_vmware gpu
第三章 浅谈GPU虚拟化技术（三）GPU SRIOV及vGPU调度 GPU SRIOV原理 谈起GPU SRIOV那么这个世界上就只有两款产品：S7150和MI25。 VF调度 AMD GPU SRIOV从硬件的角度看就是一个对GPU资源的分时复用的过程。因此其运行方式也是与GPU分片虚拟化类似。SRIOV的调度信息后续重点介绍。 GPU SRIOV的调度系统 分时复用 VF的调度是GPU虚拟化中的重点，涉及到如何服务VM，和如何确保GPU资源的公平分片。 GPU SRIOV也是一个分时复用的策略。 GPU分时复用与CPU在进程间的分时复用是一样的概念。一个简单的调度就是把一个GPU的时间按照特定时间段分片，每个VM拿到特定的时间片。在这些时间片段中，这个VM享用GPU的硬件的全部资源。 不知不觉把GPU虚拟化的调度都在这章里讨论过了。很好，专门介绍GPU调度的章节可以省下来了 。 版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。
3.7K31编辑于 2022-11-16 - 来自专栏腾讯研究院的专栏
互联网行业法律动态报告（2014年9月）
互联网行业法律动态报告（2014年9月） 腾讯互联网与社会研究院法律研究中心 重点摘要： 2014年9月，网络治理、网络犯罪、知识产权、竞争规则、电子商务、互联网金融、个人信息保护等领域热点频出 9月26日，德国要求谷歌公布使其得以垄断欧洲互联网搜索市场的详细秘方。德司法部长马斯（Heiko Mass）表示，谷歌必须在用来创建其搜索引擎排名算法方面变得更为“透明”。 六、互联网金融 国内互联网金融公共组织和信息平台大量出现。9月1日，由四川省金融办指导的“首届西部互联网金融大会暨2014中小微企业融资峰会”在成都召开，会议宣布成立“互联网金融西部联盟”。 9月29日，在2014互联网金融创新与合作峰会上，诚汇通、高新盛等12家新晋会员单位签署《广东互联网金融协会自律公约》。至此，广东互联网金融协会44家会员单位全部加入“自律公约”。 P2P平台成为互联网金融监管的重要问题。9月9日，百度要求年化收益超过18%的P2P平台（可能涉嫌高利贷行为）在9月12日前整改，到期未整改的将会予以下线处理。
92750发布于 2018-03-09 - 来自专栏ADAS性能优化
SS galaxy s9 Snapdragon 845VS Exynos9810-GPU Performance & Power
For the Galaxy S9 we have on one side Qualcomm’s Adreno 630 GPU running at 710 MHz. Qualcomm has also consolidated its GPU cores – the Adreno 540 was a quad-core GPU while the new Adreno 630 is a two-core GPU. The Exynos 9810’s massive GPU improvements greatly change the evaluation of ARM’s G72 GPU as it significantly Overall for GPU workloads the Exynos 9810 provided the far bigger jumps in the Galaxy S9.
49610编辑于 2022-05-13 - 来自专栏腾讯研究院的专栏
2016年，互联网被哪9大未来技术刷屏？
张孝荣 腾讯研究院高级研究员 2016年，互联网将被以下9大未来技术刷屏，在这些技术面前，你是否已经做好了准备？ 同样，人们会惊讶的发现，AR/VR将颠覆互联网内容产业，读者将不再阅读文字、图片或视频，而可以直接“穿越”到现场。 2、石墨烯电池 从某种意义上说，电池技术是决定移动互联网发展的重要因素。 ◢ 2014年9月底，NASA完成首台成像望远镜，所有元件基本全部通过3D打印技术制造。 9、神经形态芯片 高通研发团队一直致力于开发一种突破传统模式的全新计算架构。
1.2K70发布于 2018-02-01 - 来自专栏AI科技大本营的专栏
Arm 发布移动端 v9 体系新架构，CPU、GPU、IP全囊括了
Compute）解决方案，Arm还发布了首批基于Armv9 架构的Cortex-A CPU，为消费电子视觉体验而设计的Mali-G GPU系列，以及与之适配的系统 IP CoreLink 700。 其核心是Arm的全新IP套件，包括首批Armv9 Cortex™CPU、针对图形功能的Mali™GPU和全新的CoreLink™系统IP，如下所示： ? 面向消费电子的Arm Cortex CPU 首先是三款基于v9架构的CPU，面向各种消费电子产品，如笔记本电脑、智能电视等，带来更长的电池续航时间和更持久的手机游戏体验。 ? 面向视觉体验的新Arm Mali GPU架构 视觉体验仍然是消费者与设备交互、并享用设备的关键，GPU是进行图像处理的底层芯片。 Mali过去几年一直是Arm出货量最大的 GPU，此次面向广泛视觉交互产品，Arm推出多款Mali GPU，搭配全面计算解决方案中的 Armv9 CPU。 ?
1.9K10发布于 2021-06-08 - 来自专栏Java项目实战
【玩转 GPU】英伟达GPU架构演变
图片一、GPU架构发展历史 1999年,英伟达发布第一代GPU架构GeForce 256,标志着GPU时代的开始。 图片Part One： 介绍与概述互联网的发展速度越来越快，对于计算机的运行速度和计算能力提出了更高的要求。因此，GPU作为一种专门用于图形处理和运算的显卡，成为了性能升级的关键部分。 本文将从互联网专家的角度出发，详细介绍英伟达显卡的运行原理、结构组成、各组件的介绍、应用技术、多模态构成及GPU运行原理等内容。 GPU核心的运行方式与CPU略有不同，在GPU核心中，CPU将数据和指令传送到GPU中去，GPU再将数据加载到GPU的内存中，并利用内部的流处理器执行计算任务。执行完成后，将计算结果传回CPU中。 Part Eight： 结论本文通过从互联网专家的角度出发，详细介绍了英伟达显卡的运行原理、结构组成、各组件的介绍、应用技术、多模态构成及GPU运行原理等内容。
14K50编辑于 2023-06-08 - 来自专栏腾讯云原生团队
使用 Elastic GPU 管理 Kubernetes GPU 资源
但应用在 GPU 场景，还是存在以下不足： 集群 GPU 资源缺少全局视角。没有直观方式可获取集群层面 GPU 信息，比如 Pod / 容器与 GPU 卡绑定关系、已使用 GPU 卡数等。 由于 GPU 卡相对昂贵，并且某些 AI 负载吃不满单张 GPU 算力，GPU Sharing 技术应运而生。 问题二：无法支持多 GPU 后端 除分配挂载整卡的方式外，TKE qGPU、vCUDA、gpu share、GPU 池化 等 GPU 共享技术越来越被用户采用。 对 GPU 成本的关注，对 GPU 资源的整体把控，对 GPU 不同后端的精准使用，都成为了客户能用好 GPU 算力的前提条件。 ，可以是一块本地 GPU 物理卡、一个 GPU 切片资源（ GPU 算力 / 显存 的组合）、一个远端 GPU 设备。
4K60编辑于 2022-04-21 - 来自专栏腾讯云服务器团队的专栏
奔涌吧，GPU! GPU选型全解密
大数据时代对计算速度提出了更高的要求，GPU处理器应运而生。那么，如何选择GPU呢？为了让大家了解不同应用场景下的GPU云服务器选型，我们邀请腾讯云大茹姐姐创作了这篇深度好文。 在深入了解不同应用场景下的GPU云服务器选型推荐之前，我们先来了解一下CPU和GPU、GPU和vGPU之间的差异。 CPU和GPU硬件结构对比 GPU vs vGPU GPU云服务器提供了直通型GPU和虚拟化的vGPU，可以满足计算密集型场景和图形加速场景下的不同算力需求。 GN10X/GN10Xp、GN8、GN7等整卡实例均采用GPU直通技术； vGPU是指虚拟化GPU，支持GPU资源的更细粒度划分，如1/2、1/4以及1/8 GPU。 云游业务架构图 目前腾讯云Paas云游使用的云游戏解决方案是视频（或像素）流传输，游戏在云端服务器中存储、执行和呈现，并由云端服务器将游戏场景渲染为视频音频流，通过互联网流式传输到消费者的游戏终端。
20.6K2624发布于 2020-07-16 - 来自专栏人人都是极客
GPU渲染之OpenGL的GPU管线
GPU渲染流水线，是硬件真正体现渲染概念的操作过程，也是最终将图元画到2D屏幕上的阶段。 GPU管线涵盖了渲染流程的几何阶段和光栅化阶段，但对开发者而言，只有对顶点和片段着色器有可编程控制权，其他一律不可编程。如下图： ? 简单总结GPU管线，这阶段中主要是对图元进行操作。 正因这独立性，GPU可以并行化处理每一个顶点，提高处理速度。 顶点着色器最重要的功能是执行顶点的坐标变换和逐顶点光照。 这样设计的好处是能减少一些不必要的绘制，并减少对GPU的浪费。 回到正题，片段着色器同上述的顶点着色器，只是它作用的对象是每一片段，对其进行着色贴图。 推荐阅读： GPU的工作原理 两段小视频轻松理解CPU & GPU的工作原理 GPU内存分级
3.8K32发布于 2018-07-26 - 来自专栏教程_01
gpu使用
我们的实验硬件环境配置为：GPU计算型GN7|GN7.5XLARGE80(配置一颗NVIDIA T4),80内存。操作系统为 Windows Server 2019 数据数据中心版 64位 中文版。 腾讯云的GPU产品计算型GN7，使用在gpu上的效果不错，代码运行速率高，基本上各项功能都非常好，所以我觉得非常适合来做这项工作。 总之，gpu效能很不错。
1.8K30编辑于 2022-05-30 - 来自专栏mathor
GPU accelerated
= optim.SGD(net.parameters(), lr=1e-3) criteon = nn.CrossEntropyLoss().to(device) # 同样将loss部分的计算转移到GPU 上去 同样的，数据部分也可以转移到GPU上去 data, target = data.to(device), target.to(device)
1.2K10发布于 2020-01-14 - 来自专栏AILearning
使用GPU
在TensorFlow中，支持的设备类型是CPU和GPU。它们被表示为strings。例如： "/cpu:0"：机器的CPU "/gpu:0"你的机器的GPU，如果你有一个。 "/gpu:1"你的机器的第二个GPU等 如果TensorFlow操作既具有CPU和GPU实现，则在将操作分配给设备时，GPU设备将被赋予优先级。例如， matmul具有CPU和GPU内核。 在用设备的系统cpu:0和 gpu:0，gpu:0将选择运行matmul。 允许GPU内存增长 默认情况下，TensorFlow将几乎所有GPU的GPU内存映射 CUDA_VISIBLE_DEVICES到该进程的可见内容。 如果要真正限制TensorFlow进程可用的GPU内存量，这是非常有用的。 在多GPU系统上使用单个GPU 如果您的系统中有多个GPU，则默认情况下将选择具有最低ID的GPU。
2K50发布于 2017-12-29 - 来自专栏AI工程
GPU在哪？
TFRecord的形式上传到谷歌的对象存储服务上被TPU服务器访问 在国内就是很麻烦 因为这些问题，所以业务上，尤其是训练上，往往我们还是会依赖更传统的选择：GPU ---- 用GPU进行深度学习，那么 GPU在哪？ GPU大体上可以有下面几种方式： 第一种，自己购买GPU服务器。当然了，很多时候个人要求不高，或者工作相对简单的时候，一台有独立显卡的中高端游戏笔记本，可能就已经足够完成这个工作了。 ---- 这里我介绍一下最近我在使用的第四种GPU来源：MistGPU MistGPU是一个共享AI计算平台，提供简单易用的AI计算服务。用户可以在上面使用GPU服务器训练AI模型，按时间计费。 排除一些缺点，如果只考虑性价比的话，MistGPU真是现在GPU训练服务中最高的。这种将大量的GPU资源拆散成碎片再零售的方法，既保证了用户快速使用，也保证了成本相对低廉。
2.5K10编辑于 2022-03-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号