- 综合排序
- 最热优先
- 最新优先
算力卡是什么
在AI推理、实时渲染、超算模拟等高密度计算场景中，传统算力供给模式正面临架构性瓶颈。算力卡作为一种新型资源抽象层，通过技术手段重构了算力资源的流通逻辑。 一、架构解耦：从硬件绑定到服务化接口算力卡并非简单的资源预售凭证，其本质是计算能力的原子化封装。 Intel SGX的enclave可信执行环境NVIDIA MIG技术实现物理级GPU切片隔离通过eBPF实现容器粒度的网络策略控制三、工业级应用拓扑分析场景1：分布式AI训练利用AllReduce算法实现多卡梯度同步通过算力卡动态扩展 以内场景3：超算即服务集成OpenMPI实现跨集群MPI通信通过算力卡组合CPU/GPU异构资源完成百万核规模CFD仿真的按需调度四、性能基准测试对比对ResNet-152训练任务进行全链路测试：指标本地服务器 （8*A100）算力卡集群（动态扩展）单epoch耗时23min19min（+17%效率）峰值显存占用98%82%（智能碎片整理）异常中断恢复时间>15min43s（检查点自动迁移）总拥有成本（3年）$286k
1.9K10编辑于 2025-05-20万卡算力网络破题之道——腾讯星脉网络篇
本账号聚焦AI时代算力集群与芯片架构挑战，欢迎持续关注！ 一：万卡集群的网络挑战 随着AI大模型参数规模从千亿向万亿发展，单独的计算芯片和存储芯片已无法满足AI大模型对参数量和计算量的需求，成为了制约 AI 技术发展的“算力墙”和“存储墙”两大瓶颈，那么如何构建适配大模型算力的高性能网络 关于万卡集群算力网络所面临的核心网络诉求的详细描述请查阅前序文章：《万卡算力瓶颈破题之道：深度解析阿里HPN 7.0网络架构》、《万亿参数的“神经中枢”：深度拆解百度从万卡到十万卡集群的智算网络进化史》 2.2.2 GOR：全局的动态感知与智能调度 GOR是如何将一次完整的“感知-决策-执行”调度周期压缩到一个LLM训练迭代（约10-30秒）内，我们一起一探究竟： 1.实时监控与毫秒级告警：GOR主要依赖 例如μFab方案通过支持μFab-E的智能网卡与交换机的联动实现网卡级智能限速及动态路径选择，同时利用端侧HPCC高精度拥塞控制算法来进一步实现端侧流控参数的精细化调优，更多细节可以参考前序文章《万卡算力瓶颈破题之道
60710编辑于 2025-12-22- 来自专栏产品经理的人工智能学习库
算力 – computation
文章目录 人工智能里的算力是什么？ 在普通电脑中，CPU就提供了算力帮助电脑快速运行。玩游戏的时候需要显卡提供算力，帮助电脑快速处理图形。 而在 人工智能中，需要有类似CPU和GPU的硬件来提供算力，帮助算法快速运算出结果。 之前在算法里讲过，在制造木桌的过程中，工厂的流水线就是算法。 在那个例子中，工厂中的机器就像算力，机器越好越先进，制造的过程就越快。 ? 算力越大，速度越快 维基百科版本 Techpedia版本 算力是使用计算机技术完成给定目标导向任务的过程。 算力可以包括软件和硬件系统的设计和开发，用于广泛的目的 – 通常构建，处理和管理任何类型的信息 – 以帮助追求科学研究，制作智能系统，以及创建和使用不同的媒体娱乐和交流。 查看详情 维基百科版本 算力是使用计算机的任何活动。它包括开发硬件 和软件，以及使用计算机来管理和处理信息，进行交流和娱乐。算力是现代工业技术的一个至关重要的组成部分。
2.6K30发布于 2019-12-18 - 来自专栏深度学习与python
AI Infra 现状：一边追求 10 万卡 GPU 集群，一边用网络榨取算力
7 月 1 日，腾讯宣布其自研星脉高性能计算网络全面升级，升级后的星脉 2.0 支持超 10 万卡大规模组网。 第一个瓶颈是能耗，建设 10 万卡 GPU 集群大概需要 120 兆瓦甚至更多电力功耗。 为了解决 10 万卡集群的性能瓶颈问题，需要实现端和网的协同。因此，除了商业网卡，星脉也首次引入了自研的算力网卡，与自研的软件系统相结合，大幅提升整体性能。 各种应用也开始出现，这些都需要大量算力。大家希望未来算力要像电力一样无处不在，但现在算力短缺是整个人工智能行业面临的一道难题。 “我觉得未来算力供需要达到相对变化的平衡，很重要一点是能够提升 GPU 算力调度和利用率来缓解相应压力。我们也在讲算力网络，算力网络本身来讲就想让我们的算力调度能力以及算力利用率能够长的更好。”
1.6K10编辑于 2024-07-12 - 来自专栏大语言模型，算力共享
算力共享：环形结构的算力分配策略
目录算力共享：环形结构的算力分配策略方法签名方法实现注意事项nodes.sort(key=lambda x: (x[1].memory, x[0]), reverse=True)end = round (start + (node[1].memory / total_memory), 5)算力共享：环形结构的算力分配策略这段代码定义了一个名为RingMemoryWeightedPartitioningStrategy
95520编辑于 2024-07-26 - 来自专栏科技云报道
算力之后，“存力”上位
当算力芯片的摩尔定律逐渐逼近物理极限，存力开始从幕后走向台前，成为AI领域下一个关键赛点。 长期以来，伴随企业数字化转型所建设的“烟囱式”AI基础设施各自为战，数据奔流，价值却困于“堰塞湖”。 存力中心作为新型的数据基础设施，正成为AI时代数据流通和融合应用的破题关键。 AI时代的 “数据决定论” AI技术的发展离不开三大要素：数据、算法和算力。 在训练方面，高性能并行文件系统可以提升大模型训练效率，超大带宽和容量支持超万卡集群无瓶颈扩展，EB级扩展能力适应海量数据，加速卡直通技术使数据从存储到算力“一跳直达”。 构建AI时代新型 “数据粮仓” 与算力聚焦在“算”不同，数据存力聚焦在“数”和“存”，是数据生产要素处理的综合能力体现，肩负着为数字经济各种场景提供源源不断的“生产资料”的使命。 将目光投向更长远，新型AI存储很可能是撬动人工智能时代杠杆的另一个支点，“以存强算”“以数助算”亦是弯道超车的重要落点。当AI产业具备扎实的存力底座，才能登高远眺，看见AI时代最美的风景。
41700编辑于 2025-06-19 - 来自专栏新智元
有钱买卡还不够，10万卡H100集群有多难搭？一文解析算力集群技术要点
最近，一篇SemiAnalysis的技术文章就深入解读了10万卡H100集群的构建过程。 如火如荼的AI竞争中，「算力之战」同样热火朝天。 很多人认为，AI的三大基础设施：数据、算法、算力中，门槛最低的就是算力。只要有钱有资源，买到足够多的芯片，算力短缺就不是问题。 但是，SemiAnalysis最近的一篇文章指出，事实绝非如此。 构建算力集群，绝对比一掷千金要复杂得多。 GPT-4发布以来，似乎还没有出现下一代能力更强的LLM，很重要的原因就是几乎没有组织能够大规模增加专用于单个模型的计算量。 那么，在巨头们部署10万卡GPU集群的过程中，究竟面临哪些障碍？ 电力挑战 10万卡集群所需的关键IT部件的总功率约为150MW，相比之下，美国最大的国家实验室超算El Capitan的关键IT功率只有30MW，约为五分之一，可谓是相形见绌。
1.9K10编辑于 2024-06-27 - 来自专栏科技云报道
要算力更要“算利”，“精装算力”触发大模型产业新变局？
自2010年初深度学习问世以来，训练所需的算力快速增长，大约每6个月翻一番。 2015年末，随着大规模机器学习模型的出现，训练算力的需求提高了10到100倍，出现了一种新的趋势。 大模型对算力的需求是显而易见的，但更关键的点可能在于能否把算力更高效地挖掘出来。在不同的阶段，企业对于算力需求也不尽相同。 《中国算力发展观察报告》显示，有些算力中心整体算力利用率不足30%，大量的算力资源在沉睡中等待被唤醒，算力供需矛盾凸显。 这种演进使智能算力变得不可或缺，且不再局限于简单的算力叠加或升级，而是在多元重构驱动下实现算力的极致拓展与跃迁。 可以预见的是，随着人工智能技术的不断创新，算力应用场景的日益丰富，企业对高质量算力需求将会持续激增，靠不计成本、堆算卡、堆规模就期望能做好算力服务的日子已经一去不复返了。
82100编辑于 2025-03-04 - 来自专栏新智元
每秒算力超过10亿亿次！中国首个元宇宙智算中心正式开建
---- 新智元报道 编辑：好困 【新智元导读】11月17日，浙江省青田县人民政府与浪潮信息、谷梵科技签署战略合作协议，三方共建国内首个元宇宙智算中心，建成后每秒算力性能将超过10亿亿次， 而要构建高度拟真的数字世界并实现数亿用户的实时交互的「元宇宙」，面临着场景规模大、场景复杂度高，以及多部门协作、高逼真数字元素制作，实时渲染、仿真和交互等诸多挑战，并对支撑元宇宙构建运转的核心动力——算力提出更高的要求 元宇宙智算中心作为数实融合的重要基础设施，通过领先的「算力基础设施+全栈元宇宙」解决方案，为元宇宙的构建和运转提供核心源动力。 同时，为推动数字经济的高质量发展，加强创新人才的吸引，青田县在基础设施投入、产业生态发展、全球人才地图建设等方面全面发力，青田元宇宙智算中心、世界青田高层次人才创新创业大赛等一系列举措陆续实施落地。 青田元宇宙智算中心将建设成为国内首个算力、算法、开发平台一体化的新型元宇宙基础设施，通过协同创建、高精仿真、实时渲染、智能交互四大作业环节，面向企业管理、工业、交通运输、金融、城市等多产业的元宇宙场景提供高效的算力支撑
48950编辑于 2023-01-07 - 来自专栏ADAS性能优化
生存VS算力
英國「金融時報」報導，鑒於美國近期祭出制裁來壓制中國電腦運算能力，中國科技企業阿里巴巴和壁仞科技為了避免受制裁，正將各自最先進晶片的設計微調，以降低運算處理速度。 華府10月宣布的制裁措施，禁止任何運算能力超過一定門檻的半導體產品出貨至中國除非得到许可。這打亂了上述中國科技企業的發展計畫。 但中國工程師表示，要判斷哪些晶片產品不受制裁並不簡單，因為華府對於如何計算這個速率沒有清楚規範。 根據研究集團伯恩斯坦（Bernstein）計算，從壁仞官方網站存檔紀錄來看，在美國宣布制裁之前，壁仞首款處理器BR100的規格算出傳輸率是640 GB/s，超過限制門檻；但根據壁仞官網目前發布的BR100
1.2K20编辑于 2022-12-20 - 来自专栏运维开发王义杰
函数算力计算
对于一个函数消耗的算力，我们通常用它的运行时间来衡量，例如在基准测试中。你可以测量一个函数运行一次（或者多次）所需要的时间，然后用这个时间来比较不同函数或者同一个函数的不同实现。 然而，这种方法并不能直接测量一个函数消耗的CPU算力。为了获得这种信息，你可能需要使用一种叫做CPU profiling的技术，它可以测量程序在CPU上花费的时间。Go的pprof包提供了这种功能。
74110编辑于 2023-08-16 - 来自专栏鲜枣课堂
世界算力简史（下）
内存和硬盘的容量越来越大，闪存和各式各样的存储卡也开始出现，让媒体的拷贝和保存变得更加方便。 如果说，80年代的PC，对用户来说只是尝鲜。那么，90年代的PC，已经是真正的生产力工具了。 埃里克·施密特 云计算的本质，是把零散的物理算力资源变成灵活的虚拟算力资源，配合分布式架构，提供理论上无限的算力服务。 算力趋势 2010年至今，算力发展出现两个显著趋势。 一，泛在化。 各个行业对算力有着不同的需求。于是，算力逐渐开始细分，分为通用算力、超算算力、智能算力。 不同的算力需求，也使得算力芯片产生了不同的形态。 除了传统的CPU和GPU之外，NPU、DPU等算力单元开始出现，并成为大众关注的焦点。 在高性能计算上，算力集群成为超算和智算的新宠。 2023年全面崛起的AIGC大模型，更是给算力的发展打了一针强心剂。 像GPU这样的算力芯片，在人工智能计算上，反而比CPU更强。如今，高端GPU，变得一卡难求。
65420编辑于 2023-08-21 - 来自专栏大语言模型，算力共享
算力服务标识封装
为了解决这一问题，算力服务标识封装技术应运而生，旨在实现算力服务与IP层的解耦，提升算力服务的灵活性和可扩展性。 这个overlay层用于封装算力服务标识，使得算力服务可以在不改变现有IP网络架构的情况下独立部署和管理。 算力服务标识：在overlay层中封装的算力服务标识是区分不同算力服务的唯一标识。 IP层解耦：通过算力服务标识封装，算力服务的路由和管理不再依赖于IP层。这意味着网络中间转发节点在转发数据时，无需识别算力服务标识，仅做普通路由转发即可。 可扩展性：随着算力服务的发展，可以通过增加新的算力服务标识来扩展网络功能，而无需改变现有网络架构。兼容性：算力服务标识封装技术可以与现有网络架构兼容，实现平滑过渡。 数据中心网络：在数据中心网络中，算力服务标识封装技术可以提升数据中心的资源利用率和服务质量。算力服务标识封装技术是一种实现算力服务与IP层解耦的有效手段。
47220编辑于 2024-07-28 - 来自专栏软硬件融合
算力芯片，如何突围？
作为常年从事计算机算力芯片相关工作的我，今天就从算力芯片这个视角出发，谈谈对国内算力芯片如何实现突围的个人的一些看法。 1.2 NVIDIA，从十年磨一剑到市值万亿 传统的GPU是图形加速卡，本质上是众多各种领域各种场景加速卡中的一员。除了GPU之外，其他众多的各类加速卡，几乎没有成功的案例。 核心的原因在于，这是目前的GPU计算集群所能支撑的算力上限： 一方面，单芯片算力已经瓶颈，算力增长极度缓慢。 可以在工艺落后1-2代的情况下，实现单个芯片的算力更优。 方法二，算力网络。通过算力网络、东数西算，实现跨集群的算力调度和算力协同，可以实现算力资源的高效利用。 方法三，智能网联。 更庞大算力节点，更高性能更低延迟的网络，更强大的算力基础设施，实现更强大的宏观数字系统。
70120编辑于 2023-11-16 - 来自专栏软硬件融合
算力网络系列文章（二）：从云计算到算力网络
编者按 算力网络，对行业来说，是“整合”还是“分工”？ 一直以来，我都认为算力网络是行业整合的过程，通过算力网络运营商把全国的算力资源统筹到一起，形成高效的统一算力供应。 而在算力网络时代，最主要做的是构建后台算力中心（从数据中心升级到算力中心）和前台算力服务运营解耦分工的新业务模式。 算力中心，专注于算力中心建设，专注于算力的最优性能和最低成本（包括建设成本和运营成本）；同时，还要有非常广阔的算力销售渠道，确保算力的广泛销售，最大限度减少闲置算力资源。 3.3 算力生产和算力运营的解耦 在云计算时代，算力供应和运营是一体的，客户是算力需求方。像电商的平台、卖家、买家三方关系一样，算力网络时代，需要实现算力供应和算力运营的解耦： 算力供应商。 依据规模从大到小，包括：大规模算力中心、小规模边缘算力中心、用户现场算力机柜，以及批量算力终端。 算力需求方。数字化业务需求的各类企业。
2.1K12编辑于 2024-03-27 - 来自专栏鲜枣课堂
世界算力简史（中）
接上集：世界算力简史（上） 在上一篇里，小枣君提到了ENIAC的诞生。 其实，在1945年-1948年，也就是我们中国还处于内战时期时，除了ENIAC诞生外，科技领域还发生了好几件大事。 它改变了计算机产业的商业模式，标志着算力不再仅为少数大型企业服务（大型机），而是开始昂首走向了普通家庭和中小企业。 技术蓄力 除了处理器之外，计算机存储设备和网络技术也有显著进步。 未完待续…… 敬请期待——《世界算力简史（下）》 参考文献： 1、《计算机的发展历史汇总》，网络； 2、《算力发展简史》， 庐山真容； 3、《世界上第一台个人电脑是哪台？》
72520编辑于 2023-08-21 - 来自专栏SDNLAB
“东数西算”培育壮大算力经济
“东数西算”工程旨在通过国家枢纽节点的规划和建设，引导东部数据中心建设集约化发展，西部数据中心建设跨越式发展，实现东西部算力需求与供给统筹调度，各级数据中心集群由中心城市向城市周边转移，推动算力、网络、 “东数西算”将为我国建设一张算力大网，又可成为算力网络。 我国对算力网络早有布局。 并且，根据《中国算力发展指数白皮书》发布的数据显示，中国算力资源中每投入1元带来的经济收益是3-4元。 ，包括《中国联通算力网络白皮书2019》、《算力感知网络技术白皮书2019》、《中国通信学会算力网络前言报告2020》、《多样性算力技术愿景白皮书2021》、《中国算力发展指数白皮书2021》、《中国移动算力网络白皮书 ，整个市场的技术创新和卡脖子技术的沉淀相对薄弱；然后，虽然我国在算力网络标准规范方面已有初步布局，形成了网络5.0产业联盟算力网络特设工作组；CCSA TC621 算网推进组；ITU 算力网络标准等，但是在具体方向上仍有许多空白
1.7K30编辑于 2022-04-29 - 来自专栏Python项目实战
云端算力调度算法研究：算力不是不够，是你不会“分”
云端算力调度算法研究：算力不是不够，是你不会“分”大家好，我是Echo_Wish。今天想跟你聊一个看起来很高大上、但本质特别接地气的话题——云端算力调度算法。 很多人一提算力调度，第一反应是：“那不是云厂商、Kubernetes、调度器干的事吗？跟我有啥关系？”但我可以很负责任地说一句：你系统慢、成本高、资源利用率低，90%跟算力调度有关。 二、云端算力调度，调的到底是什么？别被“算力”这两个字骗了，它不只是CPU。 四、真实云端调度，比算法复杂10倍如果你只看到算法，那你只看到冰山一角。 2️⃣冷启动与预热容器拉镜像GPU初始化JVM启动很多时候：不是没算力，是算力“没热身”。3️⃣异构算力调度现在的云，不只有CPU：GPUNPUFPGA调度策略必须知道：“这活，谁干最合适。”
24010编辑于 2025-12-30 - 来自专栏鲜枣课堂
世界算力简史（上）
█ 从结绳记事到阿拉伯数字：算力的萌芽 ENIAC是一个里程碑。它将人类算力发展史分为了前后两个部分。 在继续下半部分之前，我们还是先来回顾一下上半部分的历程。 从远古时期开始，人类就掌握了算力。 而完成整个计算过程的能力，就是算力（Computing Power）。 动物也有大脑，也有算力，但是远远不如我们强劲。 仅仅依靠大脑这个“原生”算力工具，不太够用。即便是用上手指、脚趾，也不行。所以，我们开始借助外部算力工具。 最早期，我们使用的外部算力工具是草绳、石头，也就是所谓“结绳记事”。 动力机械崛起，开始取代手工劳动，成为主要生产力。算力工具，也开始向更先进的机械化方向演进。 算力工具想要机械化，首先要解决信息表达方式的问题。 二战爆发后，军事需求大大刺激了算力的发展。军方需要更加强劲的算力，完成密码加密解密、火炮弹道计算甚至火箭发射等重要任务。
93920编辑于 2023-08-21 - 来自专栏云头条
算力服务哪家强？
数字技术正在融入生产生活的每一个环节，算力成为数字经济时代的新生产力，算力的价值正在超越资源本身，算力服务应运而生。作为一个新兴产业，我们该如何评估算力服务？ 站在用户视角，算力服务是一项产品，产品力也是算力服务评估模型的核心维度。 算力服务价值评估模型的意义在于，在某种程度上给业界以指引，算力服务厂商可按部就班补足自己的短板；放大到算力产业，众多厂商形成合力，认知到建设算力产业生态的正确“姿势”，形成新型算力服务的潮流。 算力最终要落到实际应用场景才能兑现价值，千行百业需要的不只是单纯的算力，更是以算力为基础的服务体系，需要多维度考量用户应用、成本、算力兼容性等因素。 从整体资源分配角度来看，一站式算力服务平台可以将多方、异构资源整合，实现资源的有效调度、管控，解决由于算力区域间不平衡而导致的供需矛盾问题，一站式完成算力生产、算力聚合、算力调度、算力释放。
2.8K20编辑于 2022-09-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号