领导者应真正治理什么正确的控制单位是什么:席位、团队、供应商还是工作流?最有用的治理单位是单个应用程序或工作流,而不是软件席位或部门预算。AI成本由使用模式产生,而不是由谁持有许可证决定。 行之有效的实用治理机制我们现在能采取的最具操作性的治理步骤是什么?为每个应用程序设置Token预算,并配有自动告警阈值,并要求任何新AI功能在上线前进行成本影响评估。 基础设施选择应如何纳入AI成本治理?不要再从成本角度将所有AI工作负载视为等同。公有某中心是实验和突发能力的正确选择,因为灵活性证明了其溢价的合理性。 我们应该如何构建AI成本治理以引起董事会层面的关注?将其构建为竞争风险,而不是预算管理问题。 不受管理的AI消费会以复合的方式侵蚀利润率,而那些良好治理其AI经济学的组织将比不这样做的组织拥有结构性的成本优势。
支出失控的根因:从集中采购到分布式消费过去企业IT成本以SaaS订阅为主,结构清晰——按席位核算,账单集中。AI调用彻底打破了这一模式。 AI调用治理的三个核心维度类似的混乱在云计算早期出现过。行业最终沉淀出FinOps方法论,将云成本纳入可计量、可归属、可优化的管理框架。 从工程实践来看,AI调用成本治理需要覆盖三个维度:计量。按人、按项目、按模型实时统计消耗。不能月底拉报表——时效性决定了治理的有效性。归属。从部门级汇总下沉到个人和项目维度。 工程层面的技术挑战从架构角度看,AI调用治理需要在应用与模型之间引入统一管控层。工程落地时面临几个关键技术问题:计费归一化。 从FinOps到AI调用治理,本质上是将同一套治理逻辑从云资源延伸到Token消费。
关键发现13% 的被调研企业遭遇涉及AI模型的数据泄露63% 的受影响企业缺乏正式AI治理框架或处于开发阶段仅34% 已制定政策的企业会定期审计未经授权的AI使用影子AI的财务影响五分之一企业将数据泄露归因于影子 AI广泛存在影子AI的企业平均多承担67万美元泄露成本影子AI相关事件中:65% 导致个人身份信息泄露(全球平均53%)40% 影响知识产权(全球平均33%)攻击与防御的双向AI应用攻击者利用AI提升网络钓鱼和深度伪造攻击的效率 ,而防御方采用AI驱动工具实现:平均节省190万美元泄露成本缩短80天事件响应周期行业数据对比全球数据泄露平均成本降至440万美元(五年来首次下降)美国平均成本创纪录达到1022万美元医疗行业泄露成本最高 缺乏治理的AI系统更易引发安全事件,而将AI安全工具集成到运营流程的企业显示出显著投资回报。
2026 年,AI 在企业中的角色已经从“试点工具”变成“生产系统”。问题也随之变化:过去关注“模型效果”,现在更关注“调用成本是否可控、可解释、可优化”。 “某个模型太贵”,而是缺少一套稳定的治理闭环。 三、4 步治理路径(可执行)第一步:统一调用入口先收敛 key 与调用路径,避免“多口子直连、多口径记账”。 五、工程实践补充:如何把治理做成日常能力在实践中,最容易长期坚持的做法是:每周固定复盘 1 个高成本低产出工作流每月只优化 TopN 异常链路,不追求一次清空所有问题先建立“可解释性”,再扩大“自动化策略覆盖率 结语AI 成本治理不是单纯降本,而是提高“单位 token 的有效产出”。当团队能稳定回答“谁在花、花在哪、为什么涨、值不值”时,AI 才真正从工具变成可运营资产。
这部分的数据实际上只是为了存储的目的,但也是用物理机来存的,付出的成本是整机成本,但是只使用整机的存储资源,计算资源利用率很低,所以代价也比较高。 (4)离线计算浪费 第四点是离线计算。 二、综合治理 在这样的大背景下,我们从 5 个方面进行了成本的综合治理。和前面的问题也有关联: 1. (4)替换 第四部分主要是老数据的替换。这里主要发生在一些跑的时间比较长的业务场景中。 (4)运营 再结合我们刚才的公式,就可以得到不同任务数字资源的成本。 Q:数据治理怎么和数据成本关联 A:数据治理的范围很⼴,包含数据本⾝的管理、数据安全、数据质量、数据成本等。 640.gif
AI伦理治理框架的全球协同案例 欧盟《人工智能法案》提出基于风险分级的四层治理体系,禁止社会评分等高风险应用。OECD的AI政策观察站已收录全球700余项政策倡议,形成跨国数据库共享机制。 新加坡的Model AI Governance Framework为亚洲企业提供可认证的伦理操作手册。 美国NIST的AI风险管理框架(RMF)采用模块化设计,包含测量标准与测试工具包。 日本社会5.0计划将AI伦理纳入智慧城市基础设施标准,通过区块链技术实现算法审计追踪。 多利益相关方协同机制 联合国教科文组织的《AI伦理建议书》获得193国采纳,建立全球论坛平台。 企业联盟如Partnership on AI推动跨行业协作,发布《负责任的AI实践指南》。蒙特利尔宣言构建了研究人员伦理承诺体系,通过数字签名实现全球联署。 伦理治理效果评估需结合定量与定性指标: 技术指标:算法偏差系数 \Delta = \frac{|P(y|g_1) - P(y|g_2)|}{\max(P(y|g_1), P(y|g_2))} 过程指标
行业共识已然清晰:在AI成为核心业务引擎的时代,可观测性不再是运维团队的“事后补救”,而是必须前置到架构设计中的“成本与质量控制器”。这标志着AI工程正式从“功能优先”迈入“治理优先”的新阶段。 二、专业级AI可观测性的三维模型构建生产级AI可观测体系,需覆盖三个相互关联的维度:成本维度(Cost):按会话、用户、功能模块、数据源归因Token消耗与API费用。 三者缺一不可:只关注成本会牺牲体验,只关注质量会拖垮预算,只关注性能会掩盖业务风险。三、实战:构建带成本归因与质量追踪的可观测中间件以下是一个可直接集成的轻量级AI可观测层核心代码。 AI可观测性正是这场转型的治理基石——它让智能不再是一笔糊涂账,而是在精细度量下持续优化的可控资产。 在这个AI从“技术实验”走向“商业基础设施”的关键年份,唯有以白盒思维重塑治理体系,方能让大模型真正赢得CFO的信任、工程师的掌控与用户的满意,成为可持续创造价值的数字生产力。
本次演讲围绕提升数据指标的 ROI 以 及易用性展开,首先介绍了作业帮数据治理的背景和框架,然后从数据使用成本和数据使用效率的角度详细说明每一个模块的治理方案,最后总结并阐述了对未来数据治理的展望。 存储资源浪费主要表现在缺乏体系化数据治理,每次都是被动的、手动的运动式治理,导致失效、无用数据长期占用资源。 另一个问题是用户的用数成本很高。 针对以上问题,我们的数据治理方案是:以数据 ROI 为抓手,降低数据生产成本,提升数据使用效能。这里数据 ROI 等于数据效能价值除以数据生产成本。 降低成本主要就是计算成本和存储成本的优化,提升数据使用效能主要是通过建设数据治理和开发工具平台来达到目的。最终我们数据治理的目标就是,在成本可控的前提下,保障数据使用效能持续稳定输出。 有了这些治理手段加上工具,可以让数据 ROI 最大化,达到我们在成本可控的前提下,使数据使用效能持续稳定输出的目的。 未来数据治理方向也希望能用上 AI 辅助。
应对规模化 Agent 部署的治理与成本失控挑战 随着 AI 技术从 Chatbot、Copilot 演进至 Agent 元年(2025)及规模化部署元年(2026)(Sam Altman, OpenAI 模型路由与成本管控 技术侧通过统一模型网关实现智能路由与多模态支持;商业侧实施精细化运营: 算力成本优化:CVM Ai2 智能型机型刊例价 = 标准型 40%。 起步成本:不足百元的起步部署成本,相比自建大幅降低。 4. 验证治理效能与业务指标提升 基于上述架构,腾讯云在记忆管理与成本控制上取得了显著的量化收益: 记忆准确率提升:综合基准测试显示,OpenClaw 原生记忆准确率为 48%,升级至 TencentDB Agent 算力性价比:自研 CVM Ai2 智能型机型,刊例价仅为标准型的 40%,显著降低推理成本。
(三)治理特征:通过行政机构“介入式监管”直面版权争议深水区同风险把控相对应的是执法监管,欧盟AI版权治理的强监管特征已经慢慢呈现。 根据“AI法案”的规定,欧盟AI办公室作为法案的执行机构,将会直接参与到AI版权具体治理中。 (二)治理特征:依靠行政机关的细化指导以明确AI版权规则的落地适用应当说,在AI版权治理领域日本相较于其他国家和地区,展示出了极大的规则勇气,是唯一在细化规则和落地执行层面给予明确性回应的国家。 工具创作内容后续的“IP授权和维权”的权利稳定性,进而损害全社会文化内容的创作和传播;还会导致对利用AIGC工具创作的内容不经授权的任意侵权利用,这将引发作品创作秩序、版权交易规则的混乱,并带来额外的社会治理成本 对于AIGC服务提供者注意义务边界的设定,既不能强人所难,也不能鼓励故意懈怠者,而是需要借助于司法实践中个案认定,对平台技术可行能力和合理经济成本综合加以考量评估。
GraphRAG 实施成本为什么会那么高?因为它使用的是 GPT-4 Turob Preview 模型。 原来默认使用的是 GPT-4 Turbo preview,这一定要改为 GPT-4o mini,因为我们要尝试降低成本。其他设置无需更改。 接下来我们来建立索引。回到终端,执行以下命令。 考虑到使用官方样例花费 11 美金,你会发现 GPT-4o mini 带来的成本改善令人惊叹。 进一步,结合 GPT-4o mini 模型,我们不仅提高了处理效率和速度,还有效降低了成本。对于个人用户、研究人员和企业来说,这都是一个好消息。 祝基于知识图谱的 AI 知识库使用愉快!
当下行业内在进行软件成本估算时,常用的有4种估算方法。这4种软件成本估算方法分别是: 以“估”为主的——经验法和类推法。 以“算”为主的——类比法和方程法。 下面我们分别介绍一下这4大软件成本估算方法。 经验法:经验法也叫专家法,是由行业内经验丰富的专家背靠前一起依据自己的行业经验对软件项目进行整体的估算。
模型成本:Prompt + Completion + embedding 2. 工具成本:外部 API、浏览器执行、检索调用 3. 基础设施成本:计算、存储、日志、队列 4. 失效要可控(数据更新后主动刷新) 四、第三招:重试治理(避免“失败放大器”) 很多成本不是花在主流程,而是花在无效重试。 • 对高重复请求启用结果缓存 Day 9-11:治理重试逻辑 • 接入错误分级和退避策略 Day 12-14:输出复盘报告 • 对比优化前后:成功率、成本、时延 先跑通一条主链路,再横向复制到其他任务。 只追求最低成本模型,忽略结果质量 2. 缓存命中率低但缓存逻辑很复杂 3. 重试次数写死,缺少错误分类 4. 降本动作没有和业务指标绑定 降本不是 KPI 竞赛,而是系统优化工程。 结语 Agent 成本优化的本质,不是“更便宜”,而是“更高投入产出”。 当你把模型路由、缓存和重试治理串起来,才会形成可持续的降本机制。
对于部署AI应用的企业来说,数据资源的质量直接决定了AI应用能否成功落地。因此,在推进AI应用的过程中,开展针对性的数据治理工作是首要且必要的步骤。 为了确保AI模型的有效性和准确性,必须保证数据的完备性和准确性。有效的数据治理不仅可以为AI模型提供高质量的数据原料,还能提高模型的拟合效果,进而增强AI应用的实际性能。 [4]行业应用案例:更多可能性1 金融行业金融行业是我国信息化发展程度最高、信息技术应用最密集的行业之一。 良好的数据治理体系在支撑AI应用方面起着重要的作用,高质量的数据输入不仅能改善特征工程和模型训练的效果,还可以降低上线成本并减少潜在的数据问题带来的风险。 )[4] 数据管理协会(DAMA国际)《DAMA数据管理知识体系指南》(第2版)
在大部分场景下,这种治理能力带来的好处是通过最低的成本,保证模型上线并发挥效用。在一些特殊场景下,这种治理能力所发挥的作用则不止于此,比如金融、医疗等对可信度要求极高的领域。 企业应该投资治理 还是扩大现有 AI 解决方案? 对企业来说,现有资金到底应该投入到机器学习治理流程,还是应该继续扩展现有的机器学习解决方案呢? 机器学习治理的出现便是为了更好地构建负责任的 AI,全面实施负责任的 AI 有助于企业将风险降至最低。 提到 AI,我们最常说的一句话是“落地为王”,现在是时候将部分工作交由“负责任的 AI”来保证了(点击阅读原文轻松开启机器学习治理流程)。 今日好文推荐 想彻底改变云行业! Spark发源地UC伯克利分校再推开源项目应对云成本飙升:平均降至三分之一 重磅!
为了减轻资源负担,降低数仓维护成本,需要对数仓建设成本进行治理与优化。 二、技术路线 针对数仓建设成本治理的粒度从大到小可以分为:数据表、数据任务、数据表字段。 「"数仓建设成本分析"看板总览」 三、技术方案 1、低频使用数据表优化方案 1.1、定位低频使用数据表 火山引擎Dataleap提供了Hive表的资源治理功能,包括Hive表的存储与访问次数等基本信息查询 根据优化收益进行治理的顺序为:第二象限>第三象限>第一象限>第四象限。 优化思路 配合「埋点成本分析看板」,根据不同的使用成本与使用次数阈值将看板分为四个象限,其中各个象限的数据表的含义及推荐的优化手段为: 根据优化收益进行治理的顺序为:第二象限>第三象限>第一象限>第四象限 在梳理了数据表、字段的血缘树的基础上,建立了Hive表成本分析看板、任务成本分析看板、埋点成本分析看板等看板,结合大数据研发治理套件火山引擎DataLeap对数仓建设过程中的数据表、数据任务、埋点字段的成本的进行了由粗到细的梳理与优化
本文给出一套可落地的工程方法:通过“虚拟凭证 + 运行时注入 + 请求级审计”,在不大改业务代码的前提下,实现分钟级成本可见与异常快速止损。 业务复盘时,缺少请求级证据链,难以完成成本与效果对照。这类问题本质不是“单价高”,而是“归因口径不足”。 二、治理目标:先可见,再可控,再优化建议分三步推进:可见:每次调用都能回答“谁调用、调用什么、消耗多少、费用多少”。可控:可按项目/环境/调用方设置预算、有效期、模型范围。 三、方案设计:虚拟凭证与运行时治理层可采用如下设计:真实调用凭证统一保存在安全存储中;业务侧仅使用“虚拟凭证”;请求在运行时完成凭证映射与注入;调用结束后写入请求级审计记录。 七、结语企业大模型成本治理不是单次“降本动作”,而是持续的工程能力建设。当成本从“月度总账”下沉到“请求级账本”,团队才能实现:可审计、可回溯、可优化的稳定治理路径。
同样,当 AI 成为基础生产力之后,Token 治理也会逐渐成为企业基础设施的一部分。问题不是是否需要治理,而是何时开始治理。 Token治理,本质上是在帮助企业重新获得AI控制权很多人第一次接触 Token 治理时,会把它理解为一种成本管理工具。这种理解并不准确。企业缺少的从来不是账单——模型厂商本身就能提供账单。 因此,Token 治理不仅是成本问题,更是企业 AI 治理体系的重要组成部分。它帮助企业从"知道花了多少钱",升级到"知道为什么花钱",再进一步升级到"知道如何更合理地花钱"。 企业获得的,不仅是更清晰的成本管理能力,更是重新掌握 AI 控制权的能力。结论企业 AI 建设正在从单模型时代走向多模型时代,而多模型带来的最大变化,并不是模型数量增加,而是治理复杂度快速提升。 Token 治理不是多模型时代的附加能力,而是解决 AI 成本问题的必要能力。
别家做大模型长上下文,靠的是堆显存、堆算力,用硬件成本硬扛;而DeepSeek从V2到V4,一直靠的是“从根上改算法”。 这就是传统注意力机制的致命痛点:上下文长度翻一倍,算力和显存需求直接翻4倍。这也是为什么,百万上下文在过去一年,一直是闭源大厂的“付费高端特权”——普通人根本用不起,中小企业也扛不住这个成本。 各方案的成本对比如下:重点来了,V4-Flash是全量开源开放的,企业可以直接本地部署,不用再按token付费。 对于中小企业、开发者来说,这相当于直接把“长文本AI处理”的门槛,从几十万的服务器成本,降到了几千块的家用电脑就能跑,这才是真正的降维打击。 这才是中国AI最该走的路:不是靠参数堆砌的营销噱头,不是靠价格战的恶性内卷,而是靠实打实的底层技术创新,把顶级的AI能力,变成人人用得起、用得上的普惠工具。
价值和成本不是一回事。价值可能以较低的成本形式出现,它可能意味着企业的云计算战略正在实现其业务目标。因为企业的云计算战略与特定业务目标相关联。 “企业最好进行成本效益分析,以确保云计算提供价值。” 误解3:计算是付出唯一的代价 这是一个很大的问题,当云计算账单到来时,它也会导致人们只关注计算成本:运行机器的每小时成本,例如显然比购买和维护自己的服务器的成本大不相同。 然而,计算能力绝不是云计算中唯一的成本。忽视大局是从根本上误解企业业务在云中的成本。这是一个“定价”和“成本”不一定相同的领域; “定价”可能是单一服务,而“成本”可能更好地描述企业的实际总支出。 误解4:阅读和理解账单很容易 鉴于所有其他必要的服务以及公共云的消费模式,仅仅了解企业的支出可能很困难。云计算专家说,企业只会看到成本数字,而且它会立即变得有意义的想法是错误的。 MacQuarrie说,“如果既想预测云计算成本,又要关注成本增长,那么就必须了解CPU、IOP和内存等设备的使用情况。”