从AI云底座到AI原生云：重塑大模型训推效率与底层部署范式

报告人：李力（腾讯云 副总裁）

应对生成式AI爆发下的算力调度与技术栈重构挑战

产业正加速从“+AI”向“AI+”转变，底层数据增长与企业部署需求暴增，正倒逼IT基础设施从传统云原生向AI原生演进。企业在落地AIGC应用时，面临产品设计逻辑变更与技术栈重构的双重瓶颈：

• 算力与数据承载压力： 国内每秒平均产出数据量已达 1.1PB（年增速22%+，数据来源：国家数据局）；国内10亿参数规模以上大模型数量突破 100+个；未来2年计划部署GenAI的企业比例高达 68%（数据来源：Gartner）。
• 技术栈范式转移困境： 传统云原生应用以GUI为主导、依赖通用算力与标准CI/CD工具链；而AI原生应用转向LUI（自然语言交互），要求底层提供高性能硬件及AI加速套件，工具链需适配PyTorch等AI框架进行训练监控，且安全策略从基础防火墙向模型安全、内容合规与伦理版权等高维度延伸。

部署全栈模块化AI原生云平台与智算套件

为承载AI原生应用，腾讯云将底层架构重构为涵盖“基础设施、模型层、工程层、应用层”的全栈AI原生云平台，并重磅发布支持专有云与分布式云形态的腾讯云智算套件，实现一云多芯与软硬协同：

• 智能算力网络与存储： 发布高性能计算集群 HCC（CVM/CBM）、智能高性能网络 IHN（3.2T RDMA网络高带宽），以及支持千卡并发读写的高性能文件系统 TurboFS。支持中心IDC、边缘可用区（TEZ）、专属可用区（CDZ）、本地专有集群（CDC）与专有云（TCE）的任意位置部署。
• AI赋能研发工程平台： 提供 GPU 开发空间（HAI + Cloud Studio 支持一键部署）、数据检索增强服务（向量数据库支持 千亿索引 与 RAG 套件），以及一站式精调 TI 平台。通过 OrcaTerm 助手与 AI 代码助手实现智能运维与代码生成。
• 攻防演练驱动的全方位安全防护： 建立“打自己”的模型安全防护体系。针对 Prompt 安全，提供模拟攻击者行为、自动化攻击样本生成与自动化风险研判能力。覆盖从数据准备、模拟训练、模型部署到业务运营的常态化安全演练。

驱动算力资源利用率与模型开发能效量化增长

依托腾讯自研的 TACO-LLM / Pipefusion 加速引擎与星脉网络，企业在模型训练、算力调度与业务落地方面获得了明确的量化收益（核心ROI指标）：

• 集群计算效能与硬件利用率大幅提升： 依托云原生调度与无缝集成内外AI生态，GPU资源利用率达到 99%；软件加速框架 Taco 带来高加速比，推理及训练性能提升 1.5x-2.5x。
• 训练稳定性与网络提效： 借助 3.2 Tbps RDMA 星脉网络，模型训练提效 200%；HCC 高性能计算集群支持 超100小时连续高可用训练，结合任务与机器异常自研监控，保障训练节点异常快速恢复。
• 垂直行业模型性能超越： 金融大模型以 百亿参数规模实现超越千亿参数模型的效果；医疗大模型覆盖 98%医学知识，达到同级 SOTA（最优效果）水平。

承载头部大模型企业与千行百业AI应用落地

AI原生云平台不仅已接入腾讯内部 600+ 产品（含微信、QQ、腾讯会议、腾讯文档等），更广泛支撑了头部大模型独角兽及多行业标杆客户的底层算力与模型训练需求：

• 大模型创业公司与科研机构： Moonshot AI (月之暗面)、MiniMax、百川智能、智谱·AI、清华大学、北京大学、中国科学院等。
• 互联网与内容平台： 小红书、知乎、快手、美团、豆瓣、凤凰网等。
• 智能制造与出行： 大疆创新、BOSCH（博世）、一汽大众等。
• 金融机构： 微众银行、招商银行、中国工商银行、中国农业银行等。

沉淀万亿级模型自研技术与行业标准制定能力

• 底层架构技术领先： 腾讯基础大模型具备 万亿级参数规模，并在国内率先采用 MOE（混合专家）架构，引领自研模型体系发展。
• 确立行业工程化标准： 腾讯云联合权威机构 Gartner，重磅发布业内首个 《AI原生云建设与加速指南》白皮书，输出打磨沉淀的算存网全栈方案，为企业规避“智算木桶效应”、抢占 AGI 商业风口提供标准化的建设路径。