- 综合排序
- 最热优先
- 最新优先
如何实现异构显卡调度 - 数算岛（数据算力智能调度平台）
数算岛SSD（数据算力智能调度平台） 是一款面向AI任务设计的集群管理与资源调度平台，专注于高效管理异构GPU资源。 多租户资源隔离：通过分级配额（如团队GPU配额、用户算力额度）和QoS保障（如显存预留、算力基线），确保关键任务不受资源竞争影响。 3. 多任务混合部署：GPU训练、CPU预处理、NPU推理任务协同调度，避免资源闲置。 国产化适配：深度兼容国产AI芯片（如寒武纪、昇腾），提供软硬一体优化方案，算力利用率提升30%以上。 总结 数算岛SSD的异构显卡调度能力源于“三层解耦”设计： 硬件层：抽象异构算力，实现“一卡多用”； 调度层：拓扑感知+动态优先级，最大化资源利用率； 应用层：容器化+智能策略，降低开发者负担。 对用户而言，数算岛SSD让GPU资源像水电一样“即插即用”；对企业而言，则通过精细化调度将算力成本降低40%以上，成为AI时代的“算力中枢”。
16710编辑于 2026-06-17- 来自专栏肉眼品世界
面向FaaS的算网异构算力调度技术
图2 算力网络资源供给模式变革 什么是异构算力 什么叫“算力”？ 通过算力网络来协同和纳管调度异构算力，构建起“云、边、端”一体的异构算力协同网络，从而更好的满足包括高性能计算、物联网、边缘计算、人工智能等众多场景的算力需求。 图3 异构算力满足多场景需求 什么是FaaS 算力的纳管和协同调度离不开云计算和云原生，在算力网络中采用云计算和云原生来实现“云、边、端”的算力统一纳管和资源调度是目前实现异构算力共享的主流技术手段。 通过Serverless进一步屏蔽异构算力的差异性，从而更好的为不同算力之间的调度提供无差别的服务函数接口来实现不同算力的协同。 本文的主要技术架构 本文正是基于算力网络技术的发展，结合最新的云原生Serverless模式提出了面向FaaS的算网异构资源调度技术，提出了整体的技术架构和异构算力调度机制，并且在此基础上进一步提出了整体平台功能架构
1.7K20编辑于 2022-06-15 - 来自专栏Python项目实战
云端算力调度算法研究：算力不是不够，是你不会“分”
云端算力调度算法研究：算力不是不够，是你不会“分”大家好，我是Echo_Wish。今天想跟你聊一个看起来很高大上、但本质特别接地气的话题——云端算力调度算法。 很多人一提算力调度，第一反应是：“那不是云厂商、Kubernetes、调度器干的事吗？跟我有啥关系？”但我可以很负责任地说一句：你系统慢、成本高、资源利用率低，90%跟算力调度有关。 二、云端算力调度，调的到底是什么？别被“算力”这两个字骗了，它不只是CPU。 2️⃣冷启动与预热容器拉镜像GPU初始化JVM启动很多时候：不是没算力，是算力“没热身”。3️⃣异构算力调度现在的云，不只有CPU：GPUNPUFPGA调度策略必须知道：“这活，谁干最合适。” 五、一个简化版“云端算力调度器”示例下面这个例子，帮你理解调度决策过程。
35810编辑于 2025-12-30 - 来自专栏SDNLAB
面向FaaS的算网异构算力调度技术（附PPT）
图2 算力网络资源供给模式变革 什么是异构算力 什么叫“算力”？ 通过算力网络来协同和纳管调度异构算力，构建起“云、边、端”一体的异构算力协同网络，从而更好的满足包括高性能计算、物联网、边缘计算、人工智能等众多场景的算力需求。 图3 异构算力满足多场景需求 什么是FaaS 算力的纳管和协同调度离不开云计算和云原生，在算力网络中采用云计算和云原生来实现“云、边、端”的算力统一纳管和资源调度是目前实现异构算力共享的主流技术手段。 通过Serverless进一步屏蔽异构算力的差异性，从而更好的为不同算力之间的调度提供无差别的服务函数接口来实现不同算力的协同。 本文的主要技术架构 本文正是基于算力网络技术的发展，结合最新的云原生Serverless模式提出了面向FaaS的算网异构资源调度技术，提出了整体的技术架构和异构算力调度机制，并且在此基础上进一步提出了整体平台功能架构
5.9K30编辑于 2022-04-19 - 来自专栏边缘计算
面向FaaS的算网异构算力调度技术（附PPT）
图2 算力网络资源供给模式变革 什么是异构算力 什么叫“算力”？ 通过算力网络来协同和纳管调度异构算力，构建起“云、边、端”一体的异构算力协同网络，从而更好的满足包括高性能计算、物联网、边缘计算、人工智能等众多场景的算力需求。 image.png 图3 异构算力满足多场景需求 什么是FaaS 算力的纳管和协同调度离不开云计算和云原生，在算力网络中采用云计算和云原生来实现“云、边、端”的算力统一纳管和资源调度是目前实现异构算力共享的主流技术手段 通过Serverless进一步屏蔽异构算力的差异性，从而更好的为不同算力之间的调度提供无差别的服务函数接口来实现不同算力的协同。 本文的主要技术架构 本文正是基于算力网络技术的发展，结合最新的云原生Serverless模式提出了面向FaaS的算网异构资源调度技术，提出了整体的技术架构和异构算力调度机制，并且在此基础上进一步提出了整体平台功能架构
1.1K40编辑于 2022-05-17 算力租赁节点负载均衡调度算法设计，闲置算力利用率提升方案
二、算力集群负载现状与优化目标2.1集群现存问题常规算力租赁集群分为物理GPU节点、vGPU虚拟化节点两类，在无智能调度的前提下，存在三类典型问题：节点负载两极分化、算力任务集中扎堆、闲置算力碎片化。 ，推理场景首选动态负载感知调度实时采集节点显存、算力、带宽、温度数据，综合评分分配任务动态适配负载，均衡效果最优数据采集与计算开销略高高，算力租赁全场景通用3.2面向算力租赁的定制化算法设计星宇智算基于动态负载感知调度算法做二次定制 四、闲置算力利用率提升配套方案4.1算力整合策略结合调度算法，搭配三类落地策略盘活闲置资源：碎片算力聚合：将多台低负载节点的空闲vGPU分区、空闲算力单元聚合，承接轻量推理、批量预处理等短时任务；错峰任务调度 38%11%下降27个百分点高负载节点（负载＞70%）占比17%8%下降9个百分点任务平均响应延迟186ms102ms降低45.2%单节点日均能耗21.6kWh17.3kWh下降19.9%数据说明：测试集群包含 七、总结负载均衡调度算法是算力集群提质增效的核心技术，结合动态感知算法、碎片算力整合、错峰调度等方案，可有效解决节点负载失衡、资源闲置等行业痛点。
15310编辑于 2026-06-15- 来自专栏大语言模型，算力共享
OpenStack；异构算力网络架构；算力服务与交易技术；服务编排与调度技术
，算力网络架构采用基于“K8S+轻量化 K8S”的两级联动 的架构来实现统一的算力资源调度纳管。 K8S 采用中心的资源调度统一平台对于 整体的基础资源进行统一管理和集群管理，而轻量化 K8S 集群主要是作为边缘 侧的资源调度平台对于边缘计算集群进行调度和管理。 泛在算力资源的统一建模度量是算力调度的基础。针对泛在的算力资源，通 过模型函数将不同类型的算力资源映射到统一的量纲维度，形成业务层可理解、 可阅读的零散算力资源池。 为算力网络的资源匹配调度提供基础保障。 算力服务与交易技术 服务编排与调度技术 从算力网络的服务模式和交易模式出发，不论是服务使用者还是算力贡献者 都需要考虑三个方面的问题：（1）效费比问题，即从自身信息化建设成本和使用 需求的角度考虑，采用自有资源或租用外部资源
1.4K10编辑于 2024-08-03 - 来自专栏深度学习与python
调度 GPU 算力，除了 K8s 我们别无选择 | Kubernetes 十年
，整个集群作为一个标准的算力支撑服务，最终提升整体资源利用率。 所以在大厂里，不管是现在 GPT 也好，或者其他各种公司大语言模型也好，都是基于 Kubernetes 来调度 GPU 的算力。 大家就会关注在 GPU 场景下，怎么去做大规模算力的支撑，怎么去优化网络、存储和并行计算架构的高效使用，这也会成为整个容器或云原生应用未来探索的方向。 所以 Kubernetes 一方面受益于谷歌的技术影响力，另一方面也受益于红帽的开源影响力。 如今，无论是从技术理念、开源投入、工程师认知成本、生态发展，Kubernetes 都已经变得无可替代。 ：https://www.infoq.cn/article/otoewtvxnyws8ab6ydzb 涉及数万人、历时三年，国内最大规模的云原生实践是如何打造出来的？
2.3K10编辑于 2024-06-17 - 来自专栏音视频咖
新知 | 离线视频处理AOV框架&AI算力池调度
本期我们邀请到了腾讯云音视频技术导师——孙祥学，为大家分享视频处理AOV框架及AI算力池调度。 MPS中引入的AI算力池调度方案就能够很好地解决刚才提到的六个问题。 简单的说就是通过通用filter+ 算力池代理的方式完成 。 代理根据转码模板中指定的算力引擎，请求调度中心分配对应的引擎实例，剩下的引擎交互逻辑全部由代理完成，转码只需写帧、读帧即可。这样转码实例、算力池集群、算力池调度中心相互之间都是解耦的。 假设在现有算法基础上，我们想要新增抠图能力，那只需将服务模块引擎部署后注册上报，调度中心感知到抠图服务的存在，在转码模块配置转码模板时配置抠图的字符串模板，传递后直接去算力池调度中心分配实例。 前文提到的这些特性，包括AOV调度、AI算力池调度方案均已打包入MPS2.0中，目前MPS2.0也已经上线。 图中的四个链接分别是国内站接入地址、国际站接入地址、转码体验馆及视频AI体验馆。
1.9K10编辑于 2022-11-18 - 来自专栏大语言模型，算力共享
算力共享中：负载监控系统；多维度调度策略
目录内建负载监控系统多维度调度策略调度策略轮循调度的具体步骤裸金属服务器和虚拟化服务器一、定义与基本特性二、性能与资源利用三、成本与管理四、适用场景内建负载监控系统每 5 秒采集一次所有集群上的负载信息 多维度调度策略支持基于实际资源使用阈值的调度、大作业资源预留、小作业回填等功能，基于容器的资源管理软件（如 K8S，MESOS）不具备这样完整的大型生产环境需要的高级调度策略支持。 调度策略对分布式多种任务异构资源的集中调度管理其它的资源调度器对多种任务的资源每次调度一种，当一种任务所需资源不足时其它作业占着资源等待，造成资源浪费。 多任务异构资源的统一调度是 SkyForm AIP 的独特调度能力，保障应用性能和资源利用最大化。 伸缩资源主动分配应用（作业）在一开始可以告诉调度器所需最小和最大资源的值，调度器会根据调度策略和可用资源尽量满足应用的需求。
75610编辑于 2024-07-30 《边缘算力困局突破：智能体模型动态调度全解析》
要突破边缘设备算力限制的困境，动态调度策略成为关键钥匙。 当边缘设备算力紧张时，系统可以优先将算力分配给高优先级的入侵检测任务，确保及时发现潜在威胁。 通过为每个任务设定明确的优先级权重，并实时监测任务队列和算力资源，调度系统能够快速做出决策，暂停或延迟低优先级任务的执行，保证高优先级任务的高效运行。另一种策略是模型分区与动态加载。 这样，避免了一次性加载整个庞大模型对算力的巨大压力，提高了模型运行的灵活性和效率。还有一种基于网络状态的动态调度策略也不容忽视。边缘设备与云端或其他设备之间的网络连接状况是动态变化的。 尽管面临挑战，但一旦成功实现边缘设备算力限制下智能体模型的高效动态调度，带来的变革将是深远的。
76710编辑于 2025-05-23- 来自专栏科技云报道
算力不竭如江海，天翼云“息壤”如何助力千行百业算力智能调度？
“东数西算”的传输网络首先要满足低时延、高可靠、大带宽等要求，还得面临算力跨区域、跨层级连接的挑战。 虽然我国算力规模增长飞快，但算力供给与调度的统筹能力较为薄弱。 从定位上看，“息壤”好比是一个算力调度的枢纽，能够在全国范围内实现每分钟数万次、每天上千万次的算力统筹和调度。 鄢智勇表示，要实现算力调度首先要有算力，目前中国电信整体算力规模已达到3.8Eflops（每秒380亿亿次浮点运算）。 通过算力调度引擎灵活的自定义调度策略能力，满足不同业务需求，如云渲染、跨云调度、性能压测、混合云AI计算等多种应用场景，通过算力调度可视化能力，实现资源量、使用率、数据流调度过程可视化。 ，以及结合自研的算力调度引擎，实现对算力资源的统一管理、统一编排、智能调度和全局算力资源优化。
1.3K30编辑于 2023-08-03 - 来自专栏产品经理的人工智能学习库
算力 – computation
文章目录 人工智能里的算力是什么？ 在普通电脑中，CPU就提供了算力帮助电脑快速运行。玩游戏的时候需要显卡提供算力，帮助电脑快速处理图形。 而在 人工智能中，需要有类似CPU和GPU的硬件来提供算力，帮助算法快速运算出结果。 之前在算法里讲过，在制造木桌的过程中，工厂的流水线就是算法。 在那个例子中，工厂中的机器就像算力，机器越好越先进，制造的过程就越快。 ? 算力越大，速度越快 维基百科版本 Techpedia版本 算力是使用计算机技术完成给定目标导向任务的过程。 算力可以包括软件和硬件系统的设计和开发，用于广泛的目的 – 通常构建，处理和管理任何类型的信息 – 以帮助追求科学研究，制作智能系统，以及创建和使用不同的媒体娱乐和交流。 查看详情 维基百科版本 算力是使用计算机的任何活动。它包括开发硬件 和软件，以及使用计算机来管理和处理信息，进行交流和娱乐。算力是现代工业技术的一个至关重要的组成部分。
2.7K30发布于 2019-12-18 K8s 容器化调度 GPU 算力，弹性租赁资源配额精细化管控实践
K8s容器化技术通过资源池化、隔离机制、弹性调度能力，可实现GPU算力的标准化交付与精细化管控。 三、K8s容器化GPU调度架构设计3.1整体架构分层星宇智算采用“K8s+NVIDIA插件+自研调度”三层架构，统一管理NVIDIA与国产GPU混合算力池，支撑训练/推理双场景弹性租赁。 、可视化看板租户/集群性能观测配额管理自研QuotaManager、K8sResourceQuota多租户配额定义、校验、超配拦截资源精细化管控弹性调度K8sHPA、自研调度器负载感知扩缩容、混合算力分配动态算力调配镜像管理 版本管控规范：K8s版本、GPU驱动、镜像统一管理，变更执行灰度测试，留存操作日志。6.3职业实践心得K8s容器化GPU算力租赁的核心是标准化、隔离化、弹性化。 七、总结K8s容器化调度GPU算力，结合多租户弹性资源配额精细化管控，解决了传统GPU租赁隔离弱、调度僵、管控粗、利用率低的核心痛点。
23810编辑于 2026-06-15- 来自专栏大语言模型，算力共享
算力共享：环形结构的算力分配策略
目录算力共享：环形结构的算力分配策略方法签名方法实现注意事项nodes.sort(key=lambda x: (x[1].memory, x[0]), reverse=True)end = round (start + (node[1].memory / total_memory), 5)算力共享：环形结构的算力分配策略这段代码定义了一个名为RingMemoryWeightedPartitioningStrategy
1.3K20编辑于 2024-07-26 - 来自专栏科技云报道
算力之后，“存力”上位
当算力芯片的摩尔定律逐渐逼近物理极限，存力开始从幕后走向台前，成为AI领域下一个关键赛点。 长期以来，伴随企业数字化转型所建设的“烟囱式”AI基础设施各自为战，数据奔流，价值却困于“堰塞湖”。 存力中心作为新型的数据基础设施，正成为AI时代数据流通和融合应用的破题关键。 AI时代的 “数据决定论” AI技术的发展离不开三大要素：数据、算法和算力。 通过兼容多种存储协议，在提升数据跨域调度效率的同时，大幅降低数据治理成本。 构建AI时代新型 “数据粮仓” 与算力聚焦在“算”不同，数据存力聚焦在“数”和“存”，是数据生产要素处理的综合能力体现，肩负着为数字经济各种场景提供源源不断的“生产资料”的使命。 将目光投向更长远，新型AI存储很可能是撬动人工智能时代杠杆的另一个支点，“以存强算”“以数助算”亦是弯道超车的重要落点。当AI产业具备扎实的存力底座，才能登高远眺，看见AI时代最美的风景。
55500编辑于 2025-06-19 腾讯云智算与数据底座：重构自动驾驶算力调度与海量数据存储成本
报告来源： 腾讯智慧出行技术开放日 (2025 TIME DAY) 核心主讲人： 宋丹丹（腾讯云异构计算产品副总经理）、王登宇（腾讯云存储专家架构师） 应对智能汽车数据爆炸与算力调度瓶颈 随着自动驾驶从算法为核心向数据为核心演进 部署端到端云智算与数据存储引擎 为解决算力与存储解耦带来的效率损耗，腾讯云构建了覆盖“数据采集、预处理、算法训练、仿真测试、OTA升级”五大阶段的智算服务矩阵： 全栈自研vRDMA网络： 无需额外网卡硬件成本 云函数SCF（国内首发GPU混合调度）： 支持自动跨Zone容灾与毫秒级弹性扩缩容（上不封顶下可到零），高度兼容MQTT/COS/Kafka等车企现有触发器，实现错峰调度与资源复用。 释放算力潜能与量化研发降本指标 基于上述技术架构的落地，企业研发效能与运维成本（Ops Cost）得到具体量化改善，核心业务指标显著提升： 算力成本大幅削减： 云函数SCF按毫秒级精确计费，最高节省超70% 的数据预处理成本；vRDMA多机互联技术在实现集群算力近无损扩展（扩展比达98%）的同时，节省20%的业务训练成本。
26400编辑于 2026-05-31- 来自专栏编程教程
代理IP与科技创新：算力资源的灵活调度与高效利用
随着技术的不断进步，如何高效地利用算力资源成为了一个关键问题。代理IP作为一项关键技术，不仅在网络隐私保护和突破地域限制方面发挥着重要作用，还在算力资源的灵活调度与高效利用方面展现出独特的优势。 本文将探讨代理IP与科技创新的融合，通过具体案例和代码示例，展示代理IP如何助力算力资源的灵活调度与高效利用。 二、代理IP在算力资源调度中的优势 流量管理与优化 代理IP可以实现对网络流量的统一管理和优化。通过代理服务器，可以监控和调节数据的传输路径，提高数据传输的效率和稳定性。 三、代理IP在AI算力集群中的应用 AI算力集群的构建需要考虑多个方面，包括硬件架构、软件优化、资源调度与管理等。 七、结论 代理IP与科技创新的融合，为算力资源的灵活调度与高效利用提供了有力的支持。通过代理IP，我们可以实现对网络流量的统一管理和优化，充分利用各地的算力资源，提高计算效率和资源利用效率。
34210编辑于 2025-08-28 - 来自专栏科技云报道
要算力更要“算利”，“精装算力”触发大模型产业新变局？
与算力需求一路高歌猛进形成鲜明对比的是，当前在算力使用上仍面临许多挑战，存在着利用率低、混合算力协同调度难等问题。 《中国算力发展观察报告》显示，有些算力中心整体算力利用率不足30%，大量的算力资源在沉睡中等待被唤醒，算力供需矛盾凸显。 这种演进使智能算力变得不可或缺，且不再局限于简单的算力叠加或升级，而是在多元重构驱动下实现算力的极致拓展与跃迁。 在“软装”层面，宁畅提供从集群、算子再到模型软件优化的全局服务和涵盖算存网管用全体系优化。也就是说从算力集群环境搭建，到AI开发算力调度，再到集群运维和算力运营，都有相对应的软件提供支持。 此外，针对大型企业级用户，SIMS算力互联云平台还可助力实现本地资源与云端资源的融合调度及统一管理，协助客户高效构建更适合自己的算力平台，让大模型的运行管理更加省心省力省时省钱，从而让客户更关注于应用层面的落地
1.2K00编辑于 2025-03-04 算力的迷雾
在旧金山，耗资数倍算力训练出来的GPT-5并没有像GPT-4那样带来预期中的、断层式的跃迁。 同样的算力洪流，却给出了完全不同的答案。 这不是巧合，而是一层正在缓慢下沉的迷雾。 为什么投入了天文数字的算力，Loss曲线（误差）却有时拒绝下降，甚至莫名其妙地发散？ 如果我们只是简单地将其归结为算力不够或数据不够，那就太傲慢了。 在万亿维度的黑暗森林里，我们拿着手电筒（算力），却照不到地图的边界。 这时候，单纯地堆算力，加大Batch Size或学习率，就像是在平原上从走路变成了狂奔。 但这有用吗？ 代价：训练效率极低，算力无法跑满，甚至可能在原地打转。
12410编辑于 2026-07-02
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号