- 综合排序
- 最热优先
- 最新优先
- 来自专栏腾讯专有云
直播预告：TCS异构算力管理与成本优化
7月1日15:00-15:50，研修营第三期课程《国产适配：异构算力管理与成本优化》强势来袭。 课程亮点： ✅ 智能调度，适配工业复杂算力需求 ✅ 国产适配，突破采购限制，缩短部署周期 该课程基于云原生AI架构，全面覆盖算力资源整合、智能调度策略、国产芯片适配全流程，以统一管理平台、标准化适配框架 、场景化调度算法为核心，为企业打造“高可用、低损耗、快部署”的异构算力解决方案，助力企业“算力资源粗放管理”迈向“精细化成本控制”，深度破解异构算力适配及成本优化难题。 这个夏天，让您的企业告别“算力瓶颈”，用云原生AI驱动算力国产化、调度智能化，让知识产生价值，让智能触手可及！
10400编辑于 2025-06-28 大模型时代的算力成本管控：GPT-5.5 成本效能拆解与多模型编排优化路径
摘要： 在 AI 应用规模化落地的今天，算力成本管控已成为企业技术决策的核心。GPT-5.5 及其 Image 2.0 的发布，不仅刷新了性能高度，也重塑了企业的成本效益比（ROI）。 这种“隐形”的 Token 节约，直接将单项业务的平均算力支出压缩了约 30%。2. Image 2.0 的生产力效率分析Image 2.0 引入的属性解耦技术，为视觉生产带来了显著的降本空间。 架构优化：多模型编排与聚合调度在 2026 年的 AI 架构设计中，成熟的企业不再依赖单一接口，而是通过多模型编排来平摊风险与成本。 算力利用率（MFU）与推理损耗的量化观察GPT-5.5 引入了动态 Token 压缩算法，尤其是在处理高分辨率（4K 级别）图像理解任务时。 通过对 Token 效率、生成成功率及调度策略的深度优化，开发者可以在 2026 年这波技术浪潮中，为企业构建出既有硬核实力又具备极高经济性的 AI 视觉生产力系统。
22310编辑于 2026-04-30AI芯片的终局——算力即权力：一场由成本和算力决定的竞赛！
算力即权力：为什么AI芯片至关重要？ 走向未来现代人工智能（AI），特别是深度神经网络（DNN），正在驱动一场技术变革。这场变革的燃料不是数据，而是计算。 训练一个前沿的AI算法可能需要耗时数月，成本高达数千万甚至数亿美元。这种巨大的算力需求，催生了专门为此优化的计算机硬件——AI芯片。 人们可能直觉地认为，既然AI计算可以并行，为什么不能用大量廉价的旧芯片（如28nm或40nm节点）来堆叠算力呢？文件的成本模型给出了否定的答案，其关键在于区分了生产成本和运营成本。 结论：算力即权力文件的分析逻辑严密且具有前瞻性。 在AI时代，算力（Compute）不仅是技术问题，更是经济问题和安全问题。对先进算力供应链的控制，在很大程度上等同于对未来AI发展制高点的控制。
73310编辑于 2025-11-06TencentOS 加速框架破解AI算力效率与成本难题
AI算力资源高消耗与低利用率并存 当前AI基础设施面临核心矛盾：GPU资源稀缺且采购成本高昂，同时存在显著的潮汐效应，导致资源闲置与浪费。 以100台H100服务器为例，CPU平均利用率仅为15%，估算年浪费成本高达2600万元。 三大核心技术实现资源极致优化 TencentOS通过操作系统底层技术创新，提供系统性解决方案。 GPU资源精细切分（qGPU）：支持多个容器共享单张GPU卡，实现算力与显存的精细隔离和灵活配置。该技术在驱动层实现虚拟化，实现近零性能损耗，并保持业务无感知、无需重编代码的兼容性。 内存压缩卸载降低硬件成本：通过自研“悟净”内存多级卸载技术，进行内存冷热感知与动态压缩。服务器硬件采购成本中内存占比高，此技术能在保障业务性能的前提下，显著提高内存资源利用率。 荣耀手机AI助手YOYO场景：在多模态理解场景下，使用TACO-X优化Qwen2.5-VL-7B模型，实现吞吐量提升50%，同时优化了峰值显存占用。
11210编辑于 2026-06-01- 来自专栏存内计算加速大模型
存算架构优化：为大模型算力提升铺平道路
然而，大模型的高效运行离不开强大的算力支持，而存算架构的优化则是提升算力的关键所在。本文将探讨现有大模型对算力的需求以及RRAM架构优化如何为大模型的算力提升提供动力，为开发者提供一些实用的指导。 算力可分为基础算力、智能算力和超算算力三部分，分别提供基础通用计算、人工智能计算 和科学工程计算。 但GPU搭载传统架构用于AI计算需耗费的大量功耗以及成本，使得科研界另辟蹊径，其中，存内计算近年来呼声日益高涨，较之传统计算架构提升上百倍的算力以及减少数据搬运，打破内存墙的低功耗特性，产业界更加看好存内计算作为 2.2、存内计算技术的潜力为了应对大模型对算力的巨大需求，存内计算技术提供了一种潜在的解决方案。存内计算技术的基本思想是将数据计算移动到存储器中，实现原位计算，消除带宽限制和数据传输成本6。 基于RRAM的CIM架构通过一系列创新的优化策略，为大模型的加速提供了有效的解决方案。这些优化不仅提高了模型的运行效率，还降低了能耗和硬件成本。
1.2K10编辑于 2024-05-14 - 来自专栏产品经理的人工智能学习库
算力 – computation
文章目录 人工智能里的算力是什么？ 在普通电脑中，CPU就提供了算力帮助电脑快速运行。玩游戏的时候需要显卡提供算力，帮助电脑快速处理图形。 而在 人工智能中，需要有类似CPU和GPU的硬件来提供算力，帮助算法快速运算出结果。 之前在算法里讲过，在制造木桌的过程中，工厂的流水线就是算法。 在那个例子中，工厂中的机器就像算力，机器越好越先进，制造的过程就越快。 ? 算力越大，速度越快 维基百科版本 Techpedia版本 算力是使用计算机技术完成给定目标导向任务的过程。 算力可以包括软件和硬件系统的设计和开发，用于广泛的目的 – 通常构建，处理和管理任何类型的信息 – 以帮助追求科学研究，制作智能系统，以及创建和使用不同的媒体娱乐和交流。 查看详情 维基百科版本 算力是使用计算机的任何活动。它包括开发硬件 和软件，以及使用计算机来管理和处理信息，进行交流和娱乐。算力是现代工业技术的一个至关重要的组成部分。
2.7K30发布于 2019-12-18 - 来自专栏星融元
边缘机房如何低成本地提高单位空间的算力？
随着物联网、智能驾驶等业务的兴起，边缘网络算力需求愈发明晰，运营商及云服务商纷纷将工作负载及服务从核心迁移到边缘，比如部署5G UPF、5G MEC及边缘网关VNF等。 与此同时，边缘数据中心受限于空间、能耗等限制，无法进行大规模的算力扩展，只能承载有限的计算业务，阻碍了业务应用规模。 并结合网卡的硬件加速引擎进行业务加速（例如深度解析业务报文，对音视频、网页数据进行流分类），提高单位体积的处理性能，在有限的机架空间内低成本地灵活扩展算力。 图片图片电源管理更方便节省机架空间降低功耗并且，多块DPU网卡存储的数据可通过PCIe共享到同一台服务器，以标准服务器+DPU的 “算力资源池" 形式接受云管平台纳管，实现"从云到边"的资源统一管理和分配 目前厂商已将软件和场景开源，开源地址： https://github.com/asterfusion/Helium_DPU图片图片Helium的典型应用场景：OVS卸载+第三方应用图片算力释放：多核ARM
34600编辑于 2023-08-01 - 来自专栏ToB行业头条
每年节省80%成本，中小企业迎来“算力自由”
在这种情况下，“算力租赁”开始变成今天企业破局AI成本投入问题的“版本答案”。 来源丨ToB行业头条 作者丨栗子 · 编辑丨瑞雪 01 是什么在阻碍AI普及？ 前文提到的实在智能，与易点云合作长达5年，就是中小企业低成本获取AI算力的典型范式。 通过专业的设备租赁服务，企业不仅能够有效控制成本、优化现金流，还能获得可靠的技术支持，从而更专注于自身核心竞争力的构建。 它打破了传统采购模式下的资金壁垒和技术门槛，让企业能够以更低的成本、更小的风险、更高的灵活性，获得部署和运行AI应用所需的强大算力支撑。 当一家企业的管理者能够意识到AI会给自身带来机会，并且选择包括算力租赁的方式来抓住机会时，我们很难认为他不会成功。因为他就是在选择用最低成本实现价值的最大化。
89600编辑于 2025-06-20 - 来自专栏云服务业务
腾讯云代理商：腾讯云 AI 算力成本全解析 从技术原理到价格优化策略
随着人工智能技术的快速发展，AI 算力需求呈现爆发式增长。 近期腾讯云官方也宣布AI算力全面涨价，本文将深入解析腾讯云 AI 算力的技术原理和成本构成，帮助您更好地理解 AI 算力定价逻辑，并找到成本优化方案。 训练芯片· H100：最新一代 AI 加速卡· 国产化算力：如华为昇腾等替代方案二、腾讯云 AI 算力成本构成分析2.1 硬件成本（约占总成本 40-50%）· GPU 采购成本：高端 AI 芯片价格昂贵 网络配置：带宽大小和类型四、技术优化降低 AI 算力成本的实用策略4.1 选择合适的实例规格· 训练阶段：使用高性能 GPU 实例加速训练· 推理阶段：使用成本更优的实例或专用推理芯片· 混合使用：结合竞价实例和预留实例 技术团队全程支持结语：AI 算力成本确实不低，但通过技术优化和官方授权代理商支持，完全可以将成本控制在合理范围内。理解 AI 算力的技术原理和成本构成，是制定有效成本控制策略的第一步。
45020编辑于 2026-05-07 - 来自专栏大语言模型，算力共享
算力共享：环形结构的算力分配策略
目录算力共享：环形结构的算力分配策略方法签名方法实现注意事项nodes.sort(key=lambda x: (x[1].memory, x[0]), reverse=True)end = round (start + (node[1].memory / total_memory), 5)算力共享：环形结构的算力分配策略这段代码定义了一个名为RingMemoryWeightedPartitioningStrategy
1.2K20编辑于 2024-07-26 - 来自专栏科技云报道
算力之后，“存力”上位
当算力芯片的摩尔定律逐渐逼近物理极限，存力开始从幕后走向台前，成为AI领域下一个关键赛点。 长期以来，伴随企业数字化转型所建设的“烟囱式”AI基础设施各自为战，数据奔流，价值却困于“堰塞湖”。 AI时代存储市场的 三座大山 随着AI技术持续突破，构筑更高效、更可靠的AI存力底座成为大势所趋。当前，存储市场正在经历三个全新变化，主要聚焦在效率和成本方面。 第三，长序列推理时，计算复杂度随序列长度而增长，内存占用与算力消耗激增，推理速度与成本间形成“效率低、成本高”的剪刀差，如何降低大模型推理成本、提升推理效率，将影响大模型的行业应用进程。 构建AI时代新型 “数据粮仓” 与算力聚焦在“算”不同，数据存力聚焦在“数”和“存”，是数据生产要素处理的综合能力体现，肩负着为数字经济各种场景提供源源不断的“生产资料”的使命。 将目光投向更长远，新型AI存储很可能是撬动人工智能时代杠杆的另一个支点，“以存强算”“以数助算”亦是弯道超车的重要落点。当AI产业具备扎实的存力底座，才能登高远眺，看见AI时代最美的风景。
49600编辑于 2025-06-19 异构算力统一管理：TCS平台实现GPU资源利用率提升与成本优化
随着国产加速芯片（NPU等）的加入，企业算力基础设施面临以下核心挑战： 资源孤岛： 英伟达与国产算力集群分散，缺乏全局资源视图，导致资源利用率低下。 构建一云多芯的异构算力底座 主讲人：吴伟（腾讯专有云PaaS平台Tencent TCS） Tencent TCS通过云原生应用声明式部署规范（TAD），标准化接入接口，实现对CPU、GPU、NPU等多种异构算力资源的统一管理 内核态虚拟化（qGPU）： 实现GPU算力和显存的精细隔离与灵活配置。 FinOps成本中心： 基于腾讯开源项目Crane开发，提供资源可视化与智能调度优化。 量化指标验证资源效能提升 通过TCS平台的调度优化与资源共享技术，在资源利用率与推理性能上实现了具体的量化提升： 资源粒度控制： 支持以5%算力、1G显存的粒度进行GPU共享资源分配，透明无感。 开源影响力： FinOps成本中心基于Crane项目，为CNCF Landscape项目及FinOps基金会认证方案，获CSDN《2022年度开源影响力项目奖》。
15200编辑于 2026-05-29腾讯云智算与数据底座：重构自动驾驶算力调度与海量数据存储成本
部署端到端云智算与数据存储引擎 为解决算力与存储解耦带来的效率损耗，腾讯云构建了覆盖“数据采集、预处理、算法训练、仿真测试、OTA升级”五大阶段的智算服务矩阵： 全栈自研vRDMA网络： 无需额外网卡硬件成本 释放算力潜能与量化研发降本指标 基于上述技术架构的落地，企业研发效能与运维成本（Ops Cost）得到具体量化改善，核心业务指标显著提升： 算力成本大幅削减： 云函数SCF按毫秒级精确计费，最高节省超70% 的数据预处理成本；vRDMA多机互联技术在实现集群算力近无损扩展（扩展比达98%）的同时，节省20%的业务训练成本。 执行效果： 引入云函数SCF进行多任务共享算力，单卡可实现每秒处理30MB视频文件，整体数据预处理成本降低50%；部署上海自动驾驶专区，打通数据采集、配送、注入至算法训练的安全闭环。 其自研的星脉网络（3.2 Tbps RDMA）与星星海自研AI服务器，支持从CPU到qGPU（5%超细粒度切分）的异构算力池化管理，并实现软硬协同的框架独家优化。
18100编辑于 2026-05-31税务大模型私有化部署与知识引擎RAG方案：算力底座、成本优化与合规落地
高频调用成本压力： 在客服系统每日处理百万级回答的高频场景下，公有云按次付费模式的边际成本显著高于私有化部署。 算力与部署模式 私有化首选： 提供私有化算力部署，通过数据物理隔离+业务深度集成，满足政府、金融等高价值场景刚需。 方案对比： 维度 私有化部署 公有云方案 业务场景 数据私密性要求高 个税申报等对公场景、利用行业公开数据快速落地 资源需求 私有化算力 租用公有云 成本比较 初期投入较高 多种计费模式，灵活多样 建设时效 第三章：量化效能与业务指标 通过技术架构的优化，方案在文档处理、检索准确率及成本效益上实现具体量化提升： 文档处理效能： 文档支持： 支持26类以上文档类型，突破图文混排版面分析、复杂表格识别技术瓶颈。 端到端安全合规： 依托 天御 系统，提供业界首款端侧轻量级隐私解决方案，覆盖模型训练、内容生成到后期优化的全流程，确保符合税务行业严苛的合规要求。
17110编辑于 2026-05-30- 来自专栏科技云报道
要算力更要“算利”，“精装算力”触发大模型产业新变局？
定制化方面，宁畅围绕用户实际应用场景和算力需要，可以为用户定制对应各种算力需求的解决方案，方案完整覆盖用户交付、部署、应用、运维体验和业务需求，本身就涵盖了硬件、软件平台搭建、算法模型优化、应用场景定制等内容 ，最终实现算力资源不浪费、使用成本更节省。 在“软装”层面，宁畅提供从集群、算子再到模型软件优化的全局服务和涵盖算存网管用全体系优化。也就是说从算力集群环境搭建，到AI开发算力调度，再到集群运维和算力运营，都有相对应的软件提供支持。 比如在液冷领域，宁畅原生全液冷技术，不仅液冷成本可控、运维方式与风冷无异，数据中心运行PUE值更可低至1.09，远低于业内风液混合形态冷板式服务器平均水平，致力于实现数据中心能效极致、最大限度释放冷空调电力加速算力提升 可以预见的是，随着人工智能技术的不断创新，算力应用场景的日益丰富，企业对高质量算力需求将会持续激增，靠不计成本、堆算卡、堆规模就期望能做好算力服务的日子已经一去不复返了。
1K00编辑于 2025-03-04 - 来自专栏大模型应用
大模型应用：算力分层治理：基于大模型算力四层匹配体系的优化方案.72
实时生成场景（如大模型对话、AI 文案生成）：对响应速度要求高，通常<1 秒，对算力的单卡推理效率要求高，适合使用中等规模算力集群，采用低延迟推理优化，如模型量化、剪枝、KV Cache 优化，避免使用大规模集群 批量推理场景（如 AI 数据标注、文档批量总结）：对吞吐量要求高，通常>1000条/分钟，对响应速度要求低，适合使用大规模算力集群，采用高吞吐量推理优化，如批量增大、数据并行，实现算力资源的高效利用。 模型微调场景（如行业大模型微调）：对计算算力和访存算力都有较高要求，适合使用中等规模算力集群，采用微调专用优化，如 LoRA 技术，减少参数更新量，降低算力需求，实现业务需求与算力规模的精准匹配。 第四步：监控优化（闭环迭代）部署算力监控工具（如 Prometheus + Grafana），实时监控三层算力的利用率、四层匹配的效率；针对出现的瓶颈（如通信开销过大、显存利用率过低）进行迭代优化，形成 我们首先可以从基础匹配入手，先搞定计算精度适配、显存带宽优化这些低成本动作，用代码验证效果后再进阶多卡协同；再就是是绑定业务场景优化，不同场景对算力需求差异极大，实时推理重低延迟，批量训练重吞吐量，针对性匹配才能让算力价值最大化
28343编辑于 2026-04-10 - 来自专栏ADAS性能优化
生存VS算力
英國「金融時報」報導，鑒於美國近期祭出制裁來壓制中國電腦運算能力，中國科技企業阿里巴巴和壁仞科技為了避免受制裁，正將各自最先進晶片的設計微調，以降低運算處理速度。 華府10月宣布的制裁措施，禁止任何運算能力超過一定門檻的半導體產品出貨至中國除非得到许可。這打亂了上述中國科技企業的發展計畫。 但中國工程師表示，要判斷哪些晶片產品不受制裁並不簡單，因為華府對於如何計算這個速率沒有清楚規範。 根據研究集團伯恩斯坦（Bernstein）計算，從壁仞官方網站存檔紀錄來看，在美國宣布制裁之前，壁仞首款處理器BR100的規格算出傳輸率是640 GB/s，超過限制門檻；但根據壁仞官網目前發布的BR100
1.3K20编辑于 2022-12-20 - 来自专栏运维开发王义杰
函数算力计算
对于一个函数消耗的算力，我们通常用它的运行时间来衡量，例如在基准测试中。你可以测量一个函数运行一次（或者多次）所需要的时间，然后用这个时间来比较不同函数或者同一个函数的不同实现。 然而，这种方法并不能直接测量一个函数消耗的CPU算力。为了获得这种信息，你可能需要使用一种叫做CPU profiling的技术，它可以测量程序在CPU上花费的时间。Go的pprof包提供了这种功能。 一般来说，更复杂的性能分析和优化可能需要更深入的知识和技术，包括对CPU架构、内存层次结构、并发编程等方面的理解。
79010编辑于 2023-08-16 腾讯云2024运营商行业图谱：基于大模型与异构算力的效能跃升及成本优化路径
构建全栈自主创新底座与智能化业务赋能网络 针对上述瓶颈，腾讯云重构了涵盖云网服务、自主创新、无界安全、人工智能、异构算力及ICT合作的六大场景解决方案图谱： 实施全栈自主创新的TCS虚拟化替换： 推出企业版 推进双方优势互补的智算池合营： 结合运营商IDC天然优势与优质计算资源，叠加腾讯云自用大算力需求与自研底座套件，联合推广智算应用，实现智算资源的双向互补。 量化研发效能与算网资源的核心业务指标 通过部署上述技术产品，企业在研发效能提升、安全运维规模及算力资源利用率上实现了明确的量化收益： 研发时间成本显著压降： 使用AI代码助手后，编码时间缩短40%；整体研发提效超过 底层算力资源池利用率突破： 智算中心方案采用3.2T智能RDMA网络IHN，使通信时长占比低于10%；通过自研ROCE协议及智能流量导航，GPU利用率提升40%以上；结合自研高性能文件存储与对象存储方案 底层算力硬件自研： 智算池合营方案深度集成了腾讯自研紫霄芯片以及星脉高性能计算网络架构，确保了多厂商、多卡型异构环境下，系统依然保持高性价比、高稳定性与ms级时延度量。
5900编辑于 2026-05-30“算力普惠” 开战，10 亿模型咋降外呼成本？答案来了！
一方面，10 亿参数足以让模型学习到丰富的语言模式和语义理解能力，在文本生成、智能客服、外呼系统等应用中表现出色；另一方面，相比千亿级参数模型，其训练所需的算力和数据量大幅减少，使得成本可控。 巨头布局：算力普惠的背后面对中小企业对低成本、高性能大模型的需求，众多企业纷纷加快布局。 此外，云蝠智能也在算力普惠浪潮中积极作为，其凭借自主研发的 10 亿参数大模型技术，深度优化外呼系统。 同时，云蝠智能还为企业提供数据安全保障和全流程的技术支持，让中小企业在享受算力普惠带来的成本降低和效率提升的同时，无需担忧数据与技术问题 。这些企业的布局背后，是对 “算力普惠” 理念的践行。 在这场 “算力普惠” 大战中，受益的不仅仅是中小企业。随着大模型应用的普及，整个产业链都将迎来新的发展机遇。硬件厂商将迎来更多的算力需求，软件开发商也将基于大模型开发出更多创新的应用和服务。
49810编辑于 2025-05-16
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号