InfoQ 特别邀请 IDC 高级研究经理张犁、智诊科技产品总监罗龙生、腾讯云异构计算高级产品经理黄阳,解析 AI Infra 的六大核心能力、Agent 规模化的结构性难题、AI Infra 价值闭环衡量标准 扫描二维码,获取腾讯云联合 IDC 发布的《AI Infra:加速智能体落地的基础架构发展趋势与产业实践》白皮书,了解更多行业知识。 重估 AI Infra 价值 随着 AI 应用进入规模化落地阶段,Agent 也逐步快速渗透到各个行业。 企业在评估 AI Infra 时,不再只关注芯片种类或资源规模,而是从性能优化、成本管控、运营效率、安全保障、应用落地等角度,全方面衡量其能力。 AI Infra 下一阶段的竞争逻辑 随着 Agent 在行业中加速落地,AI Infra 的竞争开始从“比技术”走向“比业务价值”。
特别是在各行各业的应用落地方面,大模型面临着精准度不够、与业务系统联动不足、数据安全担忧、算力成本居高不下等问题。这些问题直接影响了大模型在实际业务中的有效应用,限制了其在产业界的发展。 同时,爱数通过规范的数据治理和资产化,大模型一体机等方法,来提升数据治理能力、降低算力成本、有效解决数据安全问题,最终实现大模型在各行各业的规模化应用落地。 用大模型升级数据资产管理与运营体系,构建领域认知中台 从爱数的经验来看,要推动领域认知智能的应用落地,一个关键的步骤就是通过构建领域认知中台,用大模型技术来提升业务和数据的理解能力,更好实现数据资产化和业务智能化 然而,大模型的规模化商用面临着显而易见的两大问题,即算力成本和数据安全。对此,爱数提出的AnyShare大模型一体机,或许是一种解决之道。 首先,AI算力成本无疑是大模型规模化商用的一大阻碍。 这一切,使得大模型的规模化商用变得更为可能。 然后,数据安全问题也是大模型规模化商用的另一大挑战。大模型的训练和应用,都涉及到大量的数据,这其中包含了用户的个人信息、商业机密等各种敏感信息。
AI规模化落地的“隐藏成本”:从架构视野审视API选型发布日期:2026年2月技术视角:SRE(可靠性工程)与TCO(总拥有成本)优化核心结论:稳定的基础设施能将研发效率提升40%,减少90%的生产事故
与为数不多的顶级AI研发公司相比,大多数传统行业或企业有着更丰富的 AI 应用场景,推动着规模化的AI应用落地,其AI应用更具有实践意义。 而且,解决企业 AI 规模化落地,需要充分利用以数据为中心的基础架构,考虑芯片处理器、核心算法和软件工具等平台解决方案的选择。 下面我们从7个方面,展开阐述英特尔如何从性能、数据预处理、可扩展性、内存、模型部署、大数据分析、跨平台部署应用等多方面实现优化和升级,全面支持企业AI的 规模化应用落地。 总结:英特尔架构和平台,AI应用落地之选 上面分析了AI应用落地时,开发者需要重点关注的七大维度——性能、数据预处理、可扩展性、内存、模型部署、大数据分析、跨平台部署应用,我们会发现,每一个维度都支持CPU
一、行业落地现状与长期趋势判断2026 年,"人工智能 +" 已从实验室概念进入各行业规模化落地阶段,智能体(AI Agent)成为企业数字化转型的核心载体之一。 从企业运营视角看,智能体的规模化应用正在重构职场核心命题:正如 NVIDIA 创始人黄仁勋所观察,未来企业的运营重心将从十万级人力规模管理,转向千万级智能体的编排与调度 —— 这并非工具层面的迭代,而是企业数字化运营模式的长期变革 结合人社部相关报告与 To B 场景落地数据,我国人工智能人才供需比例约为 1:10,其中掌握智能体构建、编排与业务落地能力的人才处于供需紧平衡状态,具备较强的职业议价空间。 职业教育体系已同步跟进这一趋势:2026 年教育部办公厅公布的职业教育拟招生专业中,新增 "智能体技术应用" 专业方向,标志着智能体人才培养从企业自发探索进入国家标准层面,将逐步形成标准化、规模化的供给体系 ,为传媒、文创等行业提供智能体落地解决方案。
例57:一个球从100m高度自由落下,每次落地后反跳回原高度的一半,再落下,再反弹。C语言编程求它在第10次落地时,共经过多少米,第10次反弹多高。 ;n++) { height=height+2*bounce_Height;//第n次落地时共经过的米数 bounce_Height=bounce_Height/2;//第n次反跳高度 } printf("第10次落地时共经过%f米\n",height); printf("第10次反弹%f米\n",bounce_Height); return 0; } 编译运行结果如下 : 第10次落地时共经过299.609375米 第10次反弹0.097656米 -------------------------------- Process exited after 0.106 C语言 | 自由落地,求第10次落地共经过多少米 更多案例可以公众号:C语言入门到精通
谈到中间件,他希望通过中间件搭建连接互联网云服务和区块链智能合约的中间桥梁,推动区块链应用生态规模化落地。 ? 那么如何去推动区块链在商业应用上的落地?我们认为,区块链和互联网的云系统之间有一条很大的鸿沟需要去逾越。一定要有一套中间件的体系,填这个鸿沟,粘合现在的基础链和互联网的云服务。 基于这个理念,我们为用户提供SDK,写10行代码就可以将互联网云服务上的应用与区块链对接。 ? 基础链的技术问题和解决方案 基础链的技术问题从水平分层来说可以分为四层,数据层、通信层、共识层、计算层。 行业链的落地实践 区块链对于行业链是有需求的,所有的基础链都需要抱行业的大腿,为啥呢,一个没有成熟应用的链,始终只是玩具和试验品。在这里就不点名了,我指的是在座所有的各位。 丝链是全行业商业组织间的DAO平台(新一代智能合约平台),由十几家全球贸易行业领袖机构联合发起,在全球最大行业—“国际贸易行业”首先落地,现有业务已覆盖1500万用户,近百亿美元的年交易额。 ?
智能驾驶系统规模化落地面临多重挑战 智能驾驶系统规模化落地,面对多重的挑战。 的处理能力普遍不足,因此需要 2 片甚至更多片来实现,使得系统复杂度指数级上升,量产困难;第二,多片 SOC 还造成域控制器功耗很大,必须采用风冷甚至液冷,增加了系统成本,从而使得智能驾驶系统在燃油车及 10 当前的域控制器方案一般采用两颗甚至三颗的 SoC 实现 L2 + 级别的行车 + 泊车功能,系统复杂,功耗比较高,无法采用自然散热,成本也相应的水涨船高,很难在 10 万元以下的车型进行推广。 而寒武纪行歌 L2 + 行泊一体的芯片解决方案,采用先进工艺,最大算力达到 16 个 TOPS,单颗 SoC 就可实现行泊一体功能,并可采用自然散热,推动自动驾驶系统向 10 万元左右的入门级车型覆盖, 第三,我们希望半导体企业的兄弟企业能够在制造端早日实现车规级的制造和封装的本土落地。 最后让我们共同努力,推动智能驾驶芯片这个行业健康的发展。
行业面临数据、模型与交付三重瓶颈 具身智能从实验室走向商业化面临核心挑战:数据采集成本高、真机采集效率低;大模型训练算力消耗巨大,复杂场景泛化能力不足;硬件异构性强,部署运维复杂,对实时性要求极高。效
生态共创能力:联合探索教育前沿场景,连接优质生态伙伴,推动“规模化因材施教”愿景落地(数据来源:浙江小虫科技有限公司,腾讯全球数字生态大会)。
来源:腾讯全球数字生态大会《企业级智能体产业落地研究报告》
传统信息化工具存在数据孤岛、响应滞后等痛点,浙江金华实验学校在2022年10月前需人工协调放学签到,家长平均等待时间超15分钟,教师日均管理负荷增加2小时。 核心突破点包括:●智能体矩阵:集成课件生成、资源搜索、教学设计等9类Agent,支持教师一键生成跨学科教案●多模态交互:AI学伴支持双模式答疑(直答/启发式),错题本动态推荐精准练习资源量化成效:从单点验证到省级规模化复制 ●管理能效提升:金华实验学校落地放学管理平台后,家长扫码签到实现100%无纸化,班级状态感知效率提升3倍,获CCTV《朝闻天下》专题报道●生态覆盖规模:累计服务32个省份、1400+区县、17万所学校,
3、规模化 采用分布式高可用架构,支撑百万的指标体系。 4、智能化 随着大模型的广泛的应用,把大模型也引入到监控平台,后文会给出智能化运维场景的案例。 “ 二、规模化架构方案 2.1 架构设计 2.1.1 总体架构 架构是落地的核心,我们以Zabbix作为监控引擎外加日志和链路数据,构建了一个可观测体系的运维监控平台。 2.4.2 Agent 智能适配 在实际落地中,被监控对象的系统版本繁多,涵盖不同内核和架构,若为每个版本单独维护Zabbix Agent包,容易造成管理混乱。 CentOS7(X86) + MySQL 5.7 + Zabbix 5.0,我们规划迁移到新信创环境:KylinOSv10(C86) + TDSQL 8.0 + Zabbix 7.0,主要考虑到风险可控 整个切换过程用时 不足 10 分钟,实现了“平滑迁移”。 3.3 问题和挑战 (1) 数据库分区 Crash:在高并发场景下,旧版本TDSQL出现分区崩溃问题。
11月10日,腾讯发布Q3财报,首次提到数据库对企业服务的贡献。财报显示:“腾讯云数据库TDSQL已被3000多家来自金融、公共服务和电信垂直行业的客户采用,中国十大银行中的六家都应用了该产品。 据统计,腾讯云分布式数据库TDSQL已服务近半国内TOP 20银行,TOP 10银行中服务比例也高达60%。 他表示,国产数据库即将进入规模化阶段,未来五年,腾讯云数据库即将助力1000家金融机构实现核心系统数据库国产化。同时宣布,腾讯云TDSQL即将推出免费版。 2020年10月,平安银行基于腾讯数据库打造的平安银行信用卡“A+”新核心系统成功投产,助力平安银行全面完成将活跃卡量超过6000万的信用卡核心系统从依赖了超过三十年的传统集中式大型机,下移至国产分布式架构系统 得益于此,微众银行当前每一个账户的科技运维成本降至仅为3.5元/年,仅为国内其它银行的1/10,相比国际银行则更低,只有其成本的2%至5%。
从 2023 年的小范围验证到如今 25 + 集群、上万核规模的全面应用,Doris 在菜鸟完成了一次教科书级别的 OLAP 数据库规模化落地。 这种设计让大部分场景下的数据写入后秒级可见,查询响应稳定在百毫秒内 —— 即使是对延迟不敏感的场景,也能保证 10 秒内可见。 二、从验证到规模化:Doris 在菜鸟的 "两步走" 落地法 菜鸟对 Doris 的落地采取了 "稳扎稳打" 的策略 —— 不急于求成,而是通过核心场景验证、大规模迁移两个阶段,逐步完成从 0 到万核的跨越 团队将运维流程拆解为原子能力,通过 Workflow 编排整合到运维平台: 集群创建:选择地域和规格后,10 分钟即可完成初始化 资源组管理:支持按业务域快速创建资源组,实现精细化扩缩容 全球化部署:一个平台管控多地域集群 ,结合资源组隔离提升抗风险能力 智能运维:在现有平台基础上引入 AI 能力,实现故障预测与自动调优 结语:数据引擎的 "进化之道" 从 300CU 的小集群到上万核的规模化应用,Doris 在菜鸟的落地之路
但同时,人工智能的落地应用也非常具有挑战性。 基于此,段伟芝判断,中国人工智能的发展必然带来两个结果: A:从物理世界到数字世界的升级,必然有一部分先转型,一部分后转型; B:只有真正实现大量算法的规模化量产及应用,城市数字化转型才有可能真正完成。 基于这两个基因,整个人工智能的落地必然有三个前提条件。 小视科技作为新成长起来的AI公司,以AI普适化规模化应用于数字世界为目标,定位大AI作为我们的智能底座,做最辛苦的那部分活。同时以部分重点产业做大应用,整个战略新定义就是大AI+大应用。 我们从2-3个案例的落地,可以全部实现50种算法的全栈开发。
第一章:报告基础信息 报告标题:企业级智能体产业落地研究报告:从场景试点到规模化应用实践 发布机构:腾讯云 | 腾讯研究院 | Gartner 发布时间:2025年 行业标签:金融,零售,文旅,教育,医疗 本报告针对企业在落地过程中面临的算力成本(训练/迭代资源高消耗)、模型幻觉及数据孤岛等核心挑战,构建了包含5个层级的能力分级体系与4大象限的场景罗盘,旨在为企业提供从场景试点到规模化应用的可执行路线图, 智能体场景罗盘:基于“任务复杂度”和“自主规划依赖度”两个维度,将场景划分为高效助手、执行专家、决策专家、全能专家四大象限,用于评估落地成熟度。 场景落地四大象限与策略 高效助手(低复杂度/低自主性):如企业行政问答,价值在于降低SSC成本,适合作为首选切入点。 广泛的行业落地验证: 已在14个行业落地100+标杆场景。 DHL案例:将人工维护的知识条数从900条下降至119条,机器人解决率提升至74%。
4月16日,2021百度认知AI创意赛“AI创意派”决赛正式举行,这是业内首次将先进的AI大模型能力开放给公众使用,实现了大模型在激发创意、落地应用上的突破。 文心源于产业实践,也将在产业中广泛落地。本次创意赛中,选手展现了基于文心大模型的丰富创意,让我们看到了大模型广泛应用的前景。” 通过本次创意赛,挖掘了多支具备开发和创意双重实力的参赛队伍,丰富了大模型落地的想象空间。 除了技术上的不断创新,文心大模型作为“产业级”大模型,驱动AI规模化落地应用是其核心价值。 截至目前,文心大模型已支持数百家企业与机构,开发者数量超过6万,已在数百个场景中落地应用,产业应用数量居业界首位。
驱动内部研发自动化的量化指标支撑 基于腾讯云内部的大规模落地运营实践(数据来源:腾讯内部 Codebuddy 运营平台看板),智能编码产品已实现规模化业务验证: 高频活跃度覆盖: 面向大部分研发人员的 例如 APUS 医疗大模型已落地三甲医院上线 11 个月,服务超 120 万 患者,并荣获 国家卫健委智慧医疗创新大奖,入选中国信通院 高质量数字化转型典型案例。
自动驾驶商业化面临高精度地图与规模化部署挑战 自动驾驶行业面临高精度地图覆盖不足、动态环境更新延迟及跨平台服务接入复杂等核心瓶颈,导致L4级Robotaxi大规模商业化进程受阻。 0主动安全事故(安全性达人类驾驶5倍) 覆盖5个城市(含北京、广州等核心城市)的公开收费运营 超5年公众开放运营经验(截至2024年11月) Uber首次在美国以外地区上线Robotaxi服务(阿联酋落地 腾讯云技术领先性支撑全球化部署 腾讯云凭借云端地图更新与版本差分服务,支持文远知行18个月内完成博世ADAS方案量产落地。 其技术获2023《财富》改变世界公司前十认证,覆盖全球10国30城运营场景,为机场、港口、城市道路等多场景提供数据合规与系统稳定性保障。