- 综合排序
- 最热优先
- 最新优先
- 来自专栏存储知识
如何提升AI资源利用率
研究显示，AI工程化落地过程中，出现痛点从高到底依次是资源利用率、大模型落地、分布式训练效率、推理效率、国产化、异构芯片调度。其中，资源利用率出现频率接近后面五名的总和。 深挖痛点，其背后是资源分配不均衡、资源规划不合理、资源碎片多的问题。为了解决以上问题，可以引入云原生加存储资源盘活的组合解决方案。 存储资源盘活系统会充分利用用户的全部资源来提供最好的性能，帮助用户进一步提高现有硬件资源的利用率。这对于硬件更新换代频率很快的AI领域来说是好消息：再也不用担心被淘汰的设备闲置了。 因此，存储资源盘活系统可以在同一个Linux操作系统实例中与其他应用程序并发运行，在不影响整体功耗的情况下大大提高了硬件利用率，也在一定程度上缓解了AI“耗电高”的痛点。存储资源盘活系统是高性能的。 可高效地对接私有云中各种存储资源，降低AI工程化的基础架构层管理运维成本，解绑硬件锁定，消除数据孤岛，全面提升AI资源利用率，解决AI工程化落地过程中资源分配不均衡、资源规划不合理、资源碎片多的问题。
87220编辑于 2023-04-13 - 来自专栏【腾讯云开发者】
提升内存资源利用率，TencentOS“悟净”硬核技术详解
“悟净”利用OS内核侧进行内存优化的天然优势，保障业务内存使用性能前提下，将较冷的内存换出至较便宜的设备上，从而降低整机的内存消耗，提高内存资源利用率，通过平滑降配、负载调压、内存超卖等手段实现降本增效 一方面，得益于高性能内存压缩算法和 CPU 性能的提升，我们可以消耗极少的 CPU 时间来进行内存内部的 SWAP 压缩换出，换取内存空间。 CXL 可以通过池化方式让 CPU 访问海量内存，其慢于 CPU 所对应的 Local Node 内存，但远快于 IO 与内存压缩，因此换出优先级是最高的，若将 CXL 作为内存卸载的首选设备，可以在提升内存利用率的同时提高业务性能 内存超卖 同等资源可以释放更多可用内存，部署或售卖更多业务实例。 负载调压 自动进行业务画像，自适应进行内存负载调节，降低颠簸的同时节约成本。 后续我们会继续聚焦优化内存降本增效技术，提升内存资源利用率，通过技术手段助力业务商业增值。 本次分享到这里就结束啦！如果对我们后续内容感兴趣，欢迎收藏转发本片文章，期待与大家在评论区分享交流。
3.2K31编辑于 2023-06-05 - 来自专栏腾讯云原生团队
智能 Request 推荐，K8s 资源利用率提升 252%
虽然 Kubernetes 可以有效的提升业务编排能力和资源利用率，但如果没有额外的能力支撑，提升的能力十分有限，根据 TKE 团队之前统计的数据：Kubernetes 降本增效标准指南| 容器化计算资源利用率现象剖析 在腾讯云原生 Kubernetes 降本增效标准指南| 资源利用率提升工具大全资源常见浪费场景部分，有对单一的工作负载进行分析，工作负载设置的 Request 中至少有一半的资源没有被使用，而且这部分资源不能被其他的工作负载使用 提升资源利用率有很多种方法，详见 Kubernetes 降本增效标准指南| 资源利用率提升工具大全。本文主要探讨 Request 的设置。 例如在下面的集群中应用 Request 推荐，业务资源使用量在 10 核左右，但手工配置的 Request 是 60 核，实际上 Request 设置在 17 核就足够了，利用率从之前的 16.7%（= 10/60） 左右提升到 58.8%（=10/17），提升了 252%（=（58.8-16.7）/16.7），CPU 节省了 71.7%(=(60-17)/60)。
4.2K40发布于 2021-11-26 - 来自专栏腾讯云原生团队
kubernetes 降本增效标准指南| 资源利用率提升工具大全
在《Kubernetes 降本增效标准指南》系列的上一篇文章《容器化计算资源利用率现象剖析》中可看到，IDC 上云后资源利用率提高有限，即使已经容器化，节点的平均利用率依旧仅在 13% 左右，资源利用率的提升任重道远 在 Kubernetes 上提升资源利用率的方法 腾讯云容器服务 TKE 基于大量的用户实际业务，已经产品化了一系列工具，帮助用户轻松有效的提升资源利用率。 如何更自动化的动态调整以提升资源利用率是用户更关心的问题，接下来从弹性伸缩、调度、在离线混部三大产品化的方向，详述如何提升资源利用率。 总结 资源利用率的提升道阻且长，如何在保障业务稳定性的前提下，有效提升资源利用率具有较大挑战。 利用上述这些 TKE 的产品化方案，可以有效帮助用户解决资源利用率提升过程中的种种挑战，此外 TKE 也在开发其他的工具帮助用户降低提升资源利用率的门槛。
3.5K43发布于 2021-04-09 云手机成本控制策略：带宽计费优化与资源利用率提升
摘要： 云手机成本由资源、带宽、存储三部分组成，企业往往因带宽计费理解不足导致成本失控。本文详解带宽计费优化策略与资源利用率提升方法，助力企业降低云手机运营成本。 1.4 资源利用率提升方法 除了带宽成本优化，提升云手机资源本身的利用率，也是控制成本的重要方向。 a. 单卡多开提升资源产出。腾讯云手机支持单卡最多虚拟化6个云手机实例。 需要新增实例时，基于镜像快速创建，大幅缩短环境准备时间，提升资源投入使用的速度，间接提升了资源利用率。 c. 智能调度匹配业务峰谷。 对于需要多个云手机实例协同完成的任务，通过负载均衡将任务合理分配到各个实例上，避免出现部分实例过载、部分实例闲置的情况，从整体提升资源池的利用率。 二、结尾 云手机的成本控制是一项系统性工作，需要从资源采购、带宽优化、存储管理、利用率提升等多个维度综合施策。
16010编辑于 2026-06-17- 来自专栏腾讯云技术沙龙
庄鹏锐：腾讯云Kubernetes集群提升资源利用率的实践
下面是庄鹏锐老师关于腾讯云内部平台STKE是如何提升平台资源利用率的内容分享。 讲师介绍：庄鹏锐，腾讯云高级工程师。先后在唯品会，vivo，腾讯等公司从事Kubernetes云平台建设的工作。 首先我们可以看到，为什么我们的集群资源利用率不够高？其中大概会归纳为几个方向，第一个是Node节点资源的碎片。 这个是Node超卖，kubelet默认每隔10秒就会重新计算自身Node的可分配的资源并发生一个patch的请求给kube-apiserver，来上报自身的状态。 比如当Node资源已分配非常多，但是使用率又相对比较低的时候，我们认为这个Node的实际利用率很低，可以进行超卖。 最后一点是动态调整的最小副本数，这个在我们的整个提到集群利用率是很明显的效果，比如说我们之前是有发现有一些用户它的最小副本数就是设置了1000个，但是他的资源利用率就只有0.1%，这是一个很浪费资源的情况
4.1K53发布于 2019-11-18 - 来自专栏腾讯云原生团队
直播预约｜TencentOS “如意”显威力，大力提升服务器资源利用率
【云原生正发声】六月份直播专场6月15日的基于K8s全场景在离线混部方案的分享，大受观众喜爱，在短短10分钟的互动问答环节，竟有20余名参与者留言提问。 由于时间关系，讲师并未全部回答，但有部分关于”CPU资源利用“、”为什么要做服务器层面的资源QoS“等问题都涉及到我们接下来第六期直播分享内容！ 下周6月22日周二晚19:30，聚焦腾讯 TencentOS 的服务器资源 QoS 产品：“如意”，向大家介绍我们如何在保障在线业务服务质量的前提下，提升服务器资源利用率。 · 主题简介 · 各互联网巨头 IDC 的规模增长迅速，CPU 等资源利用率却普遍处于一个较低的水平。要部署更多的离线业务提升利用率，又难免会对在线业务造成影响。 本次分享将聚焦腾讯 TencentOS 的服务器资源 QoS 产品：“如意”，向大家介绍我们如何在保障在线业务服务质量的前提下，提升服务器资源利用率。
1K30发布于 2021-06-18 - 来自专栏随手写个文章
如何提高集群资源利用率？
场景说明 当我们手里有一个固定资源的集群时，需要做两件事：1. 资源管理，2. 成本效率管理；为了让进程跑在合适的机器我们需要任务调度器（深度学习任务跑在带GPU的物理机上），为了提高资源利用率（降本提效）则需要资源调度器（根据标签、算法进行调度）。 只有提高集群整体的利用率才能让大家都降本提效，超卖不在本话题讨论内（本质上在蹭人家花钱没用的资源，具体节省的钱有没有回馈给用户仅取决于市场的竞争惨烈度）。 图片 如图2，是一个业界常见的场景，资源的使用率随着时间进行周期变化，虽然一个周期内目标总资源使用量是1000，但是由于波峰是1500，所以最终总资源池为1500。 资源有限情况下，服务提供商根据资源在不同时段的利用率进行价格波动，来达到收益最高；用户则是根据手里的现金进行投票来满足不同时段的需求。
97050编辑于 2023-10-07 TACO-LLM推理加速方案：提升AI生成业务吞吐与资源利用率
量化性能提升：显著提高吞吐并突破资源限制 TACO-LLM方案在真实业务模型中验证了显著的性能增益： 业务生文bt模型测试：在2并发请求下，TACO-LLM处理请求数达到1408个，对比原方案（752个 在5并发与10并发场景下，原方案出现OOM（内存溢出）无法运行，而TACO-LLM分别处理了2305个和2163个请求，极大提高了业务吞吐能力。 同样，在5/10并发时，原方案OOM，TACO-LLM稳定处理2757个和3129个请求。 TencentOS如意RUE内核支持CPU与GPU业务混布，通过动态资源调度与抢占，实现业务零改造接入，提升资源利用率。 此外，腾讯云向量数据库支持单索引10亿行数据，为RAG应用提供大规模知识扩展能力。方案集成的合规审核与内容安全能力，为AIGC业务提供从数据接入、处理到生成内容管理的端到端支撑。
16010编辑于 2026-05-31《WebGPU资源同步屏障效率提升10大实用技巧》
对于追求极致性能的WebGPU应用（如3A级网页游戏、实时3D建模、AI推理可视化）而言，掌握资源同步屏障的效率优化技巧，是解锁GPU硬件潜力、提升应用流畅度的核心环节。 本文将从屏障设计的底层逻辑出发，拆解10个可直接落地的实用技巧，帮助开发者在保证数据安全的前提下，最大化释放WebGPU的渲染与计算性能。 尤其在处理大型资源（如4K纹理、GB级缓冲区）时，子资源范围的精准设置能将同步效率提升数倍，因为GPU无需处理超出范围的资源状态校验。 ，提升并行能力。 上述10个技巧并非孤立存在，而是需要结合具体应用场景（如渲染规模、资源类型、硬件环境）灵活组合：例如，在处理大型3D场景的多pass渲染时，可同时运用“合并相邻屏障”“利用子资源范围”“结合硬件特性适配
42700编辑于 2025-08-15- 来自专栏码农的生活
容器化过程记录：稳定性提升和利用率提升
容器化过程记录 我们的容器化上云到现在为止可以分为三步：容器化，稳定性提升和利用率提升。 ，这是南京和广州的 LB 权重分别为130，100） 利用率提升 在进行过一轮稳定性提升之后，我们可以更加自信的利用弹性能力，利用率也有了显著提升。 不过依旧有两个问题阻碍着我们的利用率更进一步。一个是有些服务模型大，启动慢，流量突增时服务无法很及时的扩容出来，这时我们必须要提前占用一些资源导致利用率提不上去。 成果 优化前 优化后 资源占用 1500+CPU 物理机 ( 8w+ 核)800+GPU 物理机 (P4 1600 卡) CPU 6w 核 T4 1000 卡 资源利用率 10% 30% 成本 - - 40% 服务成功率 99.9% 99.95% 服务扩容效率 小规模 (<2000核)： 3 小时 大规模： 2天 小规模 (<2000核)： 10分钟 大规模： 6小时 服务升级效率 小规模 (<50实例
1K21发布于 2021-09-26 - 来自专栏AI 创作日记
AI 创作日记 | 新零售企业成本控制实战，AI 资源利用率提升的配置策略
本文将结合新零售企业的实际业务场景，深入探讨 AI 资源利用率提升的配置策略，为企业提供实用的成本控制方案。 四、提升 AI 资源利用率的配置策略4.1 资源动态分配策略根据不同业务场景的需求，动态分配 AI 资源。例如，在促销活动期间，增加智能营销和客服系统的资源分配；在非高峰期，减少资源使用，降低成本。 5.3 实施效果成本降低：通过实施上述策略，企业的 AI 资源成本降低了 30% 以上。资源利用率提升：AI 资源的利用率提高了 40% 以上，系统的响应速度和处理能力得到了显著提升。 6.2 制定策略根据评估结果，结合企业的业务需求和发展战略，制定适合企业的 AI 资源利用率提升配置策略。该流程图展示了 AI 资源利用率提升配置策略的实施步骤。 通过不断循环优化，最终实现 AI 资源利用率的提升和成本的控制。6.3 实施策略按照制定的策略，逐步实施资源动态分配、模型优化、数据管理和多租户共享等措施。
81820编辑于 2025-03-18 异构算力统一管理：TCS平台实现GPU资源利用率提升与成本优化
随着国产加速芯片（NPU等）的加入，企业算力基础设施面临以下核心挑战： 资源孤岛： 英伟达与国产算力集群分散，缺乏全局资源视图，导致资源利用率低下。 量化指标验证资源效能提升 通过TCS平台的调度优化与资源共享技术，在资源利用率与推理性能上实现了具体的量化提升： 资源粒度控制： 支持以5%算力、1G显存的粒度进行GPU共享资源分配，透明无感。 推理性能加速： 在DeepSeek-R1:70B模型场景下，相比vLLM框架，TACO-LLM推理引擎带来平均80%的性能提升（16并发从121.01 token/s提升至202.68 token/s； 成果： 实现了统一技术标准与业务架构的整合，通过离在线混部与GPU虚拟化技术提升基础资源利用率。 案例三：某头部手机制造厂商推理加速 背景： AI功能调用频繁，高并发场景下对推理底座性能要求极高。 为什么选择腾讯云TCS 技术领先性 唯一在离线混部能力： qGPU是业界唯一支持GPU离在线混部能力的产品，支持在线100%抢占，极致提高GPU利用率。
39600编辑于 2026-05-29- 来自专栏深度学习与python
CPU利用率从10%提升至60%：中型企业云原生成本优化实战指南
机器规格大部分为 8 核 32G，整体 CPU 利用率仅 10% 左右，每年花销在 1000 万以上。 价格最低可达到按需实例价格的 10%。由于此类实例随时可能被抢占，所以需要部署的服务应当尽量为无状态服务且有完备的保活和流量调配机制。 系统指标描述服务算力特征 完成混合云改造后，小王进一步将算力成本拆解为服务算力成本和基础设施资源成本： 服务资源指业务服务程序所消耗的 CPU、内存、磁盘、带宽等算力资源，相应成本取决于业务特征、业务运营行为 基于上述分析，小王分析出需要依次解决的三个问题： 以更精准的业务指标，替代以 CPU 消耗为核心的物理指标； 持续采集该指标，精准匹配算力波动曲线并实时联动扩缩容； 获得更匹配实际业务的机器算力规格，提高资源利用率 两阶段下来，CPU 利用率上升至 60%，总共节省成本将近 70%，实现并超出 CTO 预期。
78920编辑于 2022-06-13 - 来自专栏晓月寒·
nginx缓存静态资源，只需几个配置提升10倍页面加载速度
nginx缓存静态资源，只需几个配置提升10倍页面加载速度 首先我们看图说话 这是在没有缓存的情况下，这个页面发送了很多静态资源的请求： ? 1.png 可以看到，静态资源占用了整个页面加载用时的90%以上，而且这个静态资源还是已经在我使用了nginx配置压缩以后的大小，如果没有对这些静态资源压缩的话，那么静态资源加载应该会占用这个页面展示99% 页面加载速度直接提升10倍以上！并且由于我这个页面没有采用前后端分离的方式，所以html没有缓存下来，如果采用了前后端分离架构的话，就连html都可以直接缓存，那提升的速度可想而知。 当然由于浏览器或者手机端对页面加载的优化我们并不能很直观的感受到10倍的提升，实际上以肉眼观察的话，差不多减少了一半的时间，并且由于并没有向后端服务器请求这些静态资源，也相当于对后端服务器做了一层保护措施 proxy_cache_path /var/cache/nginx/cache levels=1:2 keys_zone=imgcache:100m inactive=1d max_size=10g;
15.2K41发布于 2019-05-23 - 来自专栏大数据
YARN资源调度优化：最大化集群利用率
当集群规模达到数百节点时，资源利用率往往成为制约性能的关键瓶颈。 2.2 调度器选型实践对比测试不同调度器性能（100节点集群）：调度器类型任务完成时间资源利用率优先级响应CapacityScheduler2h35m68%⭐⭐FairScheduler2h10m75% 某次深夜紧急故障排查揭示：当将yarn.resourcemanager.zk-timeout-ms从默认30s调整为15s时，ZK异常检测速度提升2倍，意外降低了20%的资源申请延迟。 某头部云服务商的生产数据显示，采用强化学习算法优化调度策略后，集群资源利用率提升了27%，任务完成时间缩短了19%。 深度连接： 点击 「头像」→「+关注」 每周解锁： 一线架构实录 ｜ 故障排查手册 ｜ 效能提升秘籍
71121编辑于 2025-09-10 - 来自专栏腾讯云原生团队
明日直播｜如何在保障在线业务服务质量前提下，提升服务器资源利用率？
还没有收看的同学也不用着急，我们所有的分享都有直播回放，手指滑倒底部，就可以看到【云原生正发声】的全部直播回放哦～ 上次直播的交流过程中，很多同学提到关于”CPU资源利用“、”服务器层面的资源QoS“等技术内容 ，想了解更多，其实这些问题都会在我们明天6月22日直播分享得到解答哦～ 明晚6月22日19:30，腾讯云高级工程师李弘博，将与我们一起聚焦腾讯 TencentOS 的服务器资源 QoS ，向大家介绍我们如何在保障在线业务服务质量的前提下 ，提升服务器资源利用率。
76530发布于 2021-06-23 - 来自专栏鸿蒙开发笔记
OpenHarmony 实战开发内存之旅——如何提升CMA利用率？
以 ARM64 为例，buddy 系统中最高 order 是 10，单次支持分配的最大内存大小是 4MB，所以无法为业务分配超过 4MB 物理地址连续的内存。 但是缺点也很明显，即在非多媒体业务场景，预留的 CMA 区域无法得到利用，整机内存利用率变低了。第二个方案对整机友好，因为没有 CMA 预留，整机内存利用率相比方案一更高。 cma_init_reserved_mem() 函数进行 CMA 区域的创建：rmem_cma_setup()`-|cma_init_reserved_mem()创建完成后，由于暂时没有设备驱动使用，为了提升内存利用率 鸿蒙开发面试真题（含参考答案） 6.TypeScript入门学习手册7.OpenHarmony 经典面试题(含参考答案)8.OpenHarmony设备开发入门【最新版】9.沉浸式剖析OpenHarmony源代码10 问题1：CMA区域内存利用率低当前 Linux 内核 CMA 区域使用策略较为保守，CMA 内存区域利用率低。
68220编辑于 2025-04-08 YashanDB与机器学习的结合：提升数据利用率
在当今大数据时代，数据量的持续激增为企业带来了数据利用率提升的挑战。传统的数据库技术虽然能够存储和管理大规模数据，但在面对诸如性能瓶颈、数据一致性问题等挑战时，表现逐渐乏力。 机器学习作为一项强大的技术手段，能够帮助数据分析师和开发人员更好地挖掘、预测和利用数据，提升决策的准确性和效率。 YashanDB作为一款具有高性能和高可扩展性的数据库，在与机器学习结合后，能够有效提高数据的利用率，为企业赋能，使其在激烈的市场竞争中脱颖而出。核心技术点分析1. 这样的数据整合能力为机器学习提供了多样化的数据输入，有助于提升模型的泛化能力和实际应用效果。具体技术建议充分利用YashanDB的列存表存储结构，以提高数据访问速度，特别是在机器学习模型训练阶段。 结论YashanDB与机器学习的结合为提升数据利用率提供了强有力的技术保障。通过高效的存储引擎、分布式计算能力和多版本并发控制，企业能够有效地管理大规模数据，快速响应市场需求，并提高决策的准确性。
16100编辑于 2025-06-29工业富联分布式云底座与云原生改造实践：提升资源利用率与研发能效
重复造轮子与资源错配： 传统开发模式存在大量重复的增删改查工作；同时，由于迁移上云用户的使用习惯局限（常以1:2的vCPU/内存比例申请资源，而非推荐的1:4均衡型），导致CPU使用较多而内存大量剩余， 计算资源整体利用率低下。 从易于迁移的云服务器入手，先外围后核心；优先将访问流量有突发变化或对数据融合处理有较高要求的弹性业务上云，以获取最明显的效益提升。 核心指标实现质的飞跃：开发时间缩短30%，开发人效提升40%，需求响应速度提升50%，系统缺陷数量大幅降低70%。 计算与存储成本（Ops Cost）双降： 针对资源错配，通过建立CPU超分资源池并动态调整比例，计算资源利用率成功提升12.6%。
22110编辑于 2026-04-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号