- 综合排序
- 最热优先
- 最新优先
- 来自专栏人人都是极客
模型训练过程和国产算力面临的挑战
这表明，为了支撑人工智能应用的发展，系统软件的重要性不可忽视，而这也给国产算力系统带来了更多挑战。 国产算力面临的挑战 国产算力面临的挑战主要集中在系统软件方面。 学术界和工业界普遍认为，系统软件是影响国产硬件平台使用的关键因素。对于人工智能应用开发者来说，使用英伟达等GPU提供的软件栈非常方便，这些软件易于快速部署，可靠性高、可用性好，而且有大量用户群体。 相比之下，国产硬件平台的软件系统不够全面，对有些模型的支持不完善，有些模型甚至需要额外的工作才能支持。此外，不同的硬件平台使用不同的系统软件，用户群体分散，学习资料少，这无疑增加了用户的学习使用成本。 此外，为了支撑这些软件，算力系统还需要其他的系统软件。 通信库 为了支持多机多卡训练，机器之间需要时刻传输数据，导致通信成为训练过程中的重要性能瓶颈。 更加完整、易用、高效的系统软件对国产平台至关重要。系统软件的发展和优化也有助于推动人工智能研究和应用领域的进步，为开发人员提供更多灵活性和性能优势。
77110编辑于 2024-04-02 华为Atlas 350正式上市，算力碾压英伟达H20，国产算力要逆袭？
前言：华为亮出算力“王炸”，打破英伟达垄断，国产AI算力终迎突破 作为一个长期关注AI行业的博主，我相信很多同行跟我有一样的感受：国产AI算力就像被英伟达按在地上“卡脖子”，尤其是H20等芯片被限制后， 直到3月21日华为中国合作伙伴大会，华为重磅掏出搭载昇腾950PR处理器的Atlas 350加速卡，直接官宣正式上市，一出手就甩出碾压级的参数，那一刻，我心里只有一个念头：国产算力的翻身仗，终于要打响了 总的来说，这次Atlas 350的上市，绝不是一款普通产品的亮相，而是国产算力从“跟跑”到“领跑”的真正转折点。 不过不可否认，华为已经走出了一条属于国产算力的道路——不靠模仿，靠创新；不靠垄断，靠生态。 未来，随着昇腾960的规划落地，华为大概率会持续领跑国产算力，而这次Atlas 350的上市，只是国产算力逆袭的开始，也让我们真正看到了中国AI摆脱国外依赖的希望，这份底气，来之不易。
1.7K20编辑于 2026-03-31- 来自专栏AI杂谈
又打脸了，国产AI算力生态真的全闭环了
这些声音每年都有，但我今天说的可能不太中听——寒武纪的万亿市值，恰恰说明国产算力卡的逻辑终于被资本市场认可了。你回想一下，三年前国产算力卡是什么处境？ 而且现在，国产算力卡从技术上已经可以承接这个需求了。资本是在给确定性定价，不是在给概念炒作。02事实上，国产AI算力生态，早就不是单点突破了。 所以你看，从算力卡到基础设施、从大模型到应用，国产AI算力生态，已经真的全面闭环了。这不是某一条线的突破，是整个产业链的集体破圈。 ZStackAIOS出来，兼容几乎所有的国产算力卡并且统一高效调度，把AI基础设施的空白补上了。2025年，说国产算力卡没有突破。2026年，美团用国产卡全量训练模型上线，寒武纪万亿市值。 就是国产模型适配算力卡、国产算力卡跑在国产基础设施上、基础设施支撑应用、应用反哺模型迭代。四个环节一旦打通，飞轮就转起来了。这跟当年中国互联网的发展路径一模一样。
11900编辑于 2026-07-01 - 来自专栏产品经理的人工智能学习库
算力 – computation
文章目录 人工智能里的算力是什么？ 在普通电脑中，CPU就提供了算力帮助电脑快速运行。玩游戏的时候需要显卡提供算力，帮助电脑快速处理图形。 而在 人工智能中，需要有类似CPU和GPU的硬件来提供算力，帮助算法快速运算出结果。 之前在算法里讲过，在制造木桌的过程中，工厂的流水线就是算法。 在那个例子中，工厂中的机器就像算力，机器越好越先进，制造的过程就越快。 ? 算力越大，速度越快 维基百科版本 Techpedia版本 算力是使用计算机技术完成给定目标导向任务的过程。 算力可以包括软件和硬件系统的设计和开发，用于广泛的目的 – 通常构建，处理和管理任何类型的信息 – 以帮助追求科学研究，制作智能系统，以及创建和使用不同的媒体娱乐和交流。 查看详情 维基百科版本 算力是使用计算机的任何活动。它包括开发硬件 和软件，以及使用计算机来管理和处理信息，进行交流和娱乐。算力是现代工业技术的一个至关重要的组成部分。
2.7K30发布于 2019-12-18 - 来自专栏大语言模型，算力共享
算力共享：环形结构的算力分配策略
目录算力共享：环形结构的算力分配策略方法签名方法实现注意事项nodes.sort(key=lambda x: (x[1].memory, x[0]), reverse=True)end = round (start + (node[1].memory / total_memory), 5)算力共享：环形结构的算力分配策略这段代码定义了一个名为RingMemoryWeightedPartitioningStrategy
1.3K20编辑于 2024-07-26 - 来自专栏科技云报道
算力之后，“存力”上位
当算力芯片的摩尔定律逐渐逼近物理极限，存力开始从幕后走向台前，成为AI领域下一个关键赛点。 长期以来，伴随企业数字化转型所建设的“烟囱式”AI基础设施各自为战，数据奔流，价值却困于“堰塞湖”。 存力中心作为新型的数据基础设施，正成为AI时代数据流通和融合应用的破题关键。 AI时代的 “数据决定论” AI技术的发展离不开三大要素：数据、算法和算力。 在训练方面，高性能并行文件系统可以提升大模型训练效率，超大带宽和容量支持超万卡集群无瓶颈扩展，EB级扩展能力适应海量数据，加速卡直通技术使数据从存储到算力“一跳直达”。 构建AI时代新型 “数据粮仓” 与算力聚焦在“算”不同，数据存力聚焦在“数”和“存”，是数据生产要素处理的综合能力体现，肩负着为数字经济各种场景提供源源不断的“生产资料”的使命。 将目光投向更长远，新型AI存储很可能是撬动人工智能时代杠杆的另一个支点，“以存强算”“以数助算”亦是弯道超车的重要落点。当AI产业具备扎实的存力底座，才能登高远眺，看见AI时代最美的风景。
55500编辑于 2025-06-19 金融智算演进：基于异构算力与推理加速的国产GPU全栈落地路径
算力规模门槛高： LO级预训练及L1级行业大模型训练需千卡级算力规模，中小客户难以独立支撑超节点方案建设。 二、 构建异构算力纳管与全栈推理服务 针对金融行业的复杂需求，通过“算力基建+平台+网关”的三层架构提供解决方案： 异构算力底座： 针对2026年国产GPU发展（预测显存带宽达HBM3E、支持FP8/FP4 四、 某银行国产算力替代与业务落地 客户背景： XX银行 实施规模： 已部署近500张沐曦C500 GPU，扩容建设国产推理算力池。 业务现状： 模型覆盖： 已有6款大模型支持10万人调用，主要面向知识问答、合同审计。 五、 技术领先性与生态展望 全场景兼容： 实现传统AI算力（英伟达+国产）全场景覆盖，支持从OCR、客服到生物识别的多样化需求，提供从LSTM模型到FP32单精度矢量算力的完整支持。
39810编辑于 2026-06-01国产GPU新突破，单卡FP8算力突破1000T！
马年农历春节前夕，国产智算卡再度迎来好消息！单卡FP8算力终于冲上1000TFLOPS了。 这不仅是国产GPU首次在单卡吞吐量上摸到国际顶尖门槛，更是为万亿参数大模型提供了真正可用的自主算力底座。 一、 核心参数对标：1000TFLOPS与全精度覆盖 MTT S5000在设计之初便定位于“训推一体”的全功能基座，其硬件参数展现了极强的竞争优势： ●算力峰值： S5000单卡AI算力（FP8）最高可达 PyTorch、vLLM等主流框架的原生适配，S5000不仅能实现CUDA生态代码的“零成本”迁移，更凭借其80GB显存和1.6TB/s带宽的参数底蕴，为GLM-5等万亿参数模型的快速迭代提供了坚实的国产算力支撑 S5000的不俗表现，加上“花港”架构所展现的技术纵深，已为国产算力的持续进化打开更多想象空间。 编辑：芯智讯-浪客剑
81610编辑于 2026-03-19- 来自专栏科技云报道
要算力更要“算利”，“精装算力”触发大模型产业新变局？
自生成式人工智能服务（AIGC）和GPT大模型训练爆火后，围绕算力、算法和数据相关的讨论此起彼伏，国产大模型应用更是呈现出“千模大战”的状态。 自2010年初深度学习问世以来，训练所需的算力快速增长，大约每6个月翻一番。 2015年末，随着大规模机器学习模型的出现，训练算力的需求提高了10到100倍，出现了一种新的趋势。 大模型对算力的需求是显而易见的，但更关键的点可能在于能否把算力更高效地挖掘出来。在不同的阶段，企业对于算力需求也不尽相同。 《中国算力发展观察报告》显示，有些算力中心整体算力利用率不足30%，大量的算力资源在沉睡中等待被唤醒，算力供需矛盾凸显。 这种演进使智能算力变得不可或缺，且不再局限于简单的算力叠加或升级，而是在多元重构驱动下实现算力的极致拓展与跃迁。
1.2K00编辑于 2025-03-04 理论创新VS工程实操，谁是国产大算力“实干家”？
近期的天津智博会上，两大国产算力路线同场展示，恰好呈现出理念与实践并行、概念与实绩互证的行业图景。 其中，昇腾384超节点以成熟的产品形态，持续在百卡级市场验证垂直整合路线的可行性。 最大算力达307P（BF16/FP16精度），单卡算力800T，可支撑千亿级参数大模型训练推理，软硬一体化设计特定场景效率突出，PUE值可低至1.1，成为算力垂直路线的一座地标。 目前，昇腾384超节点已应用于自家盘古Ultra MoE大模型训练，曙光万卡超集群则成功在国家超算互联网核心节点上线运行，打造出全国最大单体国产AI算力池。 两大算力路线驰逐之下，也彰显出国产厂商从概念理论创新到工程实践落地的持续进阶。 尤其当算力集成规模抵达万卡级，绝非依靠简单的算力芯片堆叠而成。 “韬定律”的价值验证可能还需要时间，但其所倡导的系统优化理念，正在万卡集群上以另一种路径落地成真，为国产算力用户转化为看得见、用得上、可量化的产品力。
21410编辑于 2026-06-01算力的迷雾
在旧金山，耗资数倍算力训练出来的GPT-5并没有像GPT-4那样带来预期中的、断层式的跃迁。 同样的算力洪流，却给出了完全不同的答案。 这不是巧合，而是一层正在缓慢下沉的迷雾。 为什么投入了天文数字的算力，Loss曲线（误差）却有时拒绝下降，甚至莫名其妙地发散？ 如果我们只是简单地将其归结为算力不够或数据不够，那就太傲慢了。 在万亿维度的黑暗森林里，我们拿着手电筒（算力），却照不到地图的边界。 这时候，单纯地堆算力，加大Batch Size或学习率，就像是在平原上从走路变成了狂奔。 但这有用吗？ 代价：训练效率极低，算力无法跑满，甚至可能在原地打转。
12410编辑于 2026-07-02- 来自专栏ADAS性能优化
生存VS算力
英國「金融時報」報導，鑒於美國近期祭出制裁來壓制中國電腦運算能力，中國科技企業阿里巴巴和壁仞科技為了避免受制裁，正將各自最先進晶片的設計微調，以降低運算處理速度。 華府10月宣布的制裁措施，禁止任何運算能力超過一定門檻的半導體產品出貨至中國除非得到许可。這打亂了上述中國科技企業的發展計畫。 報導引述6名聽取過相關簡報的人士指出，新規定迫使兩公司停止進一步生產工作，並對各自晶片的設計進行調整。 但中國工程師表示，要判斷哪些晶片產品不受制裁並不簡單，因為華府對於如何計算這個速率沒有清楚規範。 根據研究集團伯恩斯坦（Bernstein）計算，從壁仞官方網站存檔紀錄來看，在美國宣布制裁之前，壁仞首款處理器BR100的規格算出傳輸率是640 GB/s，超過限制門檻；但根據壁仞官網目前發布的BR100
1.4K20编辑于 2022-12-20 - 来自专栏运维开发王义杰
函数算力计算
对于一个函数消耗的算力，我们通常用它的运行时间来衡量，例如在基准测试中。你可以测量一个函数运行一次（或者多次）所需要的时间，然后用这个时间来比较不同函数或者同一个函数的不同实现。 然而，这种方法并不能直接测量一个函数消耗的CPU算力。为了获得这种信息，你可能需要使用一种叫做CPU profiling的技术，它可以测量程序在CPU上花费的时间。Go的pprof包提供了这种功能。
84510编辑于 2023-08-16 - 来自专栏FPGA/ARM/DSP技术专栏
6T算力NPU！基于RK3588国产平台的YOLOv5目标识别案例，真的强！
方案亮点极致算力：瑞芯微RK3588国产平台，6TOPS高性能NPU，支持复杂神经网络推理；实时检测：YOLOv5s模型，轻松实现640x640分辨率，49fps检测速度；多场景适配：工业/医疗/安防等应用领域
2.9K11编辑于 2025-04-10 - 来自专栏新智元
大模型只有参数和算力？这款国产大模型证明：落地为王！
不差钱的海量算力？还是一刷再刷的SOTA？这些可能都不是！ 谁都知道，大模型是当下人工智能领域最重要的前沿技术方向。 从结果上看，国网-百度·文心大模型不仅提升了传统电力专用模型的精度，而且大幅降低了研发门槛，实现了算力、数据、技术等资源的统筹优化。 相信依托文心大模型在开放生态上的持续发力，百度AI生态建设无论是在深度和广度上都将迈上了新的台阶。 国产模型配国产架构，一个字：香 有大模型，也必然会有相应的训练框架。 巨大的参数规模，以及不同模型和算力平台之间的差异，给训练带来了极大的挑战。 首先通过精度无损模型压缩技术让模型轻量化，然后通过自适应分布式推理技术，充分调动算力资源，比如千亿级模型，只有分布式推理才能跑得起来。
2.2K20编辑于 2022-05-30 - 来自专栏软硬件融合
算力网络系列文章（二）：从云计算到算力网络
编者按 算力网络，对行业来说，是“整合”还是“分工”？ 一直以来，我都认为算力网络是行业整合的过程，通过算力网络运营商把全国的算力资源统筹到一起，形成高效的统一算力供应。 而在算力网络时代，最主要做的是构建后台算力中心（从数据中心升级到算力中心）和前台算力服务运营解耦分工的新业务模式。 算力中心，专注于算力中心建设，专注于算力的最优性能和最低成本（包括建设成本和运营成本）；同时，还要有非常广阔的算力销售渠道，确保算力的广泛销售，最大限度减少闲置算力资源。 同时，个人觉得，算力网络是算力组成的网络，“网络”的含义是一个形象的比喻，如我们常听到的营销网络、物流网络等概念中的网络是相同的意思。而不仅仅是技术里讲的如以太网、IPv4/v6等的网络技术。 3.3 算力生产和算力运营的解耦 在云计算时代，算力供应和运营是一体的，客户是算力需求方。像电商的平台、卖家、买家三方关系一样，算力网络时代，需要实现算力供应和算力运营的解耦： 算力供应商。
2.3K12编辑于 2024-03-27 - 来自专栏鲜枣课堂
世界算力简史（中）
接上集：世界算力简史（上） 在上一篇里，小枣君提到了ENIAC的诞生。 其实，在1945年-1948年，也就是我们中国还处于内战时期时，除了ENIAC诞生外，科技领域还发生了好几件大事。 这款处理器片内集成了2250个晶体管，能够处理4bit的数据，每秒运算6万次，工作频率为108KHz。 Intel 4004 Intel 4004的出现，标志着微处理器时代的开始。 它改变了计算机产业的商业模式，标志着算力不再仅为少数大型企业服务（大型机），而是开始昂首走向了普通家庭和中小企业。 技术蓄力 除了处理器之外，计算机存储设备和网络技术也有显著进步。 未完待续…… 敬请期待——《世界算力简史（下）》 参考文献： 1、《计算机的发展历史汇总》，网络； 2、《算力发展简史》， 庐山真容； 3、《世界上第一台个人电脑是哪台？》 ，小盒子，知乎； 4、《电子计算机的发展世代概述》，吴国发，知乎； 5、《IT历史连载-计算机和个人电脑的历史》，网络； 6、维基百科、百度百科；
85720编辑于 2023-08-21 - 来自专栏大语言模型，算力共享
算力服务标识封装
为了解决这一问题，算力服务标识封装技术应运而生，旨在实现算力服务与IP层的解耦，提升算力服务的灵活性和可扩展性。 这个overlay层用于封装算力服务标识，使得算力服务可以在不改变现有IP网络架构的情况下独立部署和管理。 算力服务标识：在overlay层中封装的算力服务标识是区分不同算力服务的唯一标识。 IP层解耦：通过算力服务标识封装，算力服务的路由和管理不再依赖于IP层。这意味着网络中间转发节点在转发数据时，无需识别算力服务标识，仅做普通路由转发即可。 可扩展性：随着算力服务的发展，可以通过增加新的算力服务标识来扩展网络功能，而无需改变现有网络架构。兼容性：算力服务标识封装技术可以与现有网络架构兼容，实现平滑过渡。 数据中心网络：在数据中心网络中，算力服务标识封装技术可以提升数据中心的资源利用率和服务质量。算力服务标识封装技术是一种实现算力服务与IP层解耦的有效手段。
60420编辑于 2024-07-28 - 来自专栏鲜枣课堂
世界算力简史（下）
1982年6月，哥伦比亚数据产品公司（Columbia Data Products）推出了第一台IBM PC兼容机——MPC 1600。 埃里克·施密特 云计算的本质，是把零散的物理算力资源变成灵活的虚拟算力资源，配合分布式架构，提供理论上无限的算力服务。 算力趋势 2010年至今，算力发展出现两个显著趋势。 一，泛在化。 各个行业对算力有着不同的需求。于是，算力逐渐开始细分，分为通用算力、超算算力、智能算力。 不同的算力需求，也使得算力芯片产生了不同的形态。 除了传统的CPU和GPU之外，NPU、DPU等算力单元开始出现，并成为大众关注的焦点。 在高性能计算上，算力集群成为超算和智算的新宠。 我们对算力的需求，还在疯狂增长。 在摩尔定律逐渐走向瓶颈的前提下，我们该如何实现算力的倍增？以量子计算为代表的新型算力，是否会全面崛起？ 就让时间来告诉我们答案吧！ —— 全文完 ——
85220编辑于 2023-08-21 - 来自专栏软硬件融合
算力芯片，如何突围？
作为常年从事计算机算力芯片相关工作的我，今天就从算力芯片这个视角出发，谈谈对国内算力芯片如何实现突围的个人的一些看法。 2 技术的变革，是后进赶超先进的关键时机 国产新能源汽车，是后进赶超先进的经典案例。 2023年1～6月出口新能源车80万辆，同比增长105%。 在成熟赛道，先进具有技术优势、市场优势、专利优势、品牌优势等等，后进赶超先进很难。 国产汽车，就是抓住了新能源和智能汽车这一波浪潮，迅速地达到了汽车出口量全球第一。 那么，芯片的变革机会在哪里？ 可以在工艺落后1-2代的情况下，实现单个芯片的算力更优。 方法二，算力网络。通过算力网络、东数西算，实现跨集群的算力调度和算力协同，可以实现算力资源的高效利用。 方法三，智能网联。
88020编辑于 2023-11-16
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号