首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • AI账单上涨与成本治理技术

    领导者应真正治理什么正确的控制单位是什么:席位、团队、供应商还是工作流?最有用的治理单位是单个应用程序或工作流,而不是软件席位或部门预算。AI成本由使用模式产生,而不是由谁持有许可证决定。 行之有效的实用治理机制我们现在能采取的最具操作性的治理步骤是什么?为每个应用程序设置Token预算,并配有自动告警阈值,并要求任何新AI功能在上线前进行成本影响评估。 基础设施选择应如何纳入AI成本治理?不要再从成本角度将所有AI工作负载视为等同。公有某中心是实验和突发能力的正确选择,因为灵活性证明了其溢价的合理性。 我们应该如何构建AI成本治理以引起董事会层面的关注?将其构建为竞争风险,而不是预算管理问题。 不受管理的AI消费会以复合的方式侵蚀利润率,而那些良好治理AI经济学的组织将比不这样做的组织拥有结构性的成本优势。

    20610编辑于 2026-05-20
  • AI 调用成本失控的根因与技术治理思路

    支出失控的根因:从集中采购到分布式消费过去企业IT成本以SaaS订阅为主,结构清晰——按席位核算,账单集中。AI调用彻底打破了这一模式。 AI调用治理的三个核心维度类似的混乱在云计算早期出现过。行业最终沉淀出FinOps方法论,将云成本纳入可计量、可归属、可优化的管理框架。 从工程实践来看,AI调用成本治理需要覆盖三个维度:计量。按人、按项目、按模型实时统计消耗。不能月底拉报表——时效性决定了治理的有效性。归属。从部门级汇总下沉到个人和项目维度。 工程层面的技术挑战从架构角度看,AI调用治理需要在应用与模型之间引入统一管控层。工程落地时面临几个关键技术问题:计费归一化。 从FinOps到AI调用治理,本质上是将同一套治理逻辑从云资源延伸到Token消费。

    11410编辑于 2026-06-24
  • 影子AI治理缺失导致数据泄露成本上升

    关键发现13% 的被调研企业遭遇涉及AI模型的数据泄露63% 的受影响企业缺乏正式AI治理框架或处于开发阶段仅34% 已制定政策的企业会定期审计未经授权的AI使用影子AI的财务影响五分之一企业将数据泄露归因于影子 AI广泛存在影子AI的企业平均多承担67万美元泄露成本影子AI相关事件中:65% 导致个人身份信息泄露(全球平均53%)40% 影响知识产权(全球平均33%)攻击与防御的双向AI应用攻击者利用AI提升网络钓鱼和深度伪造攻击的效率 ,而防御方采用AI驱动工具实现:平均节省190万美元泄露成本缩短80天事件响应周期行业数据对比全球数据泄露平均成本降至440万美元(五年来首次下降)美国平均成本创纪录达到1022万美元医疗行业泄露成本最高 缺乏治理AI系统更易引发安全事件,而将AI安全工具集成到运营流程的企业显示出显著投资回报。

    28110编辑于 2025-09-01
  • 企业AI成本为什么总失控?3 类token隐性消耗与治理方法

    2026 年,AI 在企业中的角色已经从“试点工具”变成“生产系统”。问题也随之变化:过去关注“模型效果”,现在更关注“调用成本是否可控、可解释、可优化”。 “某个模型太贵”,而是缺少一套稳定的治理闭环。 三、4 步治理路径(可执行)第一步:统一调用入口先收敛 key 与调用路径,避免“多口子直连、多口径记账”。 五、工程实践补充:如何把治理做成日常能力在实践中,最容易长期坚持的做法是:每周固定复盘 1 个高成本低产出工作流每月只优化 TopN 异常链路,不追求一次清空所有问题先建立“可解释性”,再扩大“自动化策略覆盖率 结语AI 成本治理不是单纯降本,而是提高“单位 token 的有效产出”。当团队能稳定回答“谁在花、花在哪、为什么涨、值不值”时,AI 才真正从工具变成可运营资产。

    42910编辑于 2026-05-20
  • 来自专栏腾讯云开发者社区推荐

    存储成本降低80%,有赞数据中台成本治理怎么做的?

    二、综合治理 在这样的大背景下,我们从 5 个方面进行了成本的综合治理。和前面的问题也有关联: 1. 当然按需采购的成本也会略高于按月采购的成本,但只采购三分之一的时间,所以总体成本要比按月采购低非常多。 剩下的 10% 我们主要利用在线的计算资源来完成。这就是容器化给我们带来的比较大的价值。 3. 损耗系数目前我们跑下来基本定在 10% 。 (4)运营 再结合我们刚才的公式,就可以得到不同任务数字资源的成本。 保持现状的话,只需要一人投入 10% 左右的精力来跟进,就能持续节省成本。但是我们还会持续探索更多降本点,扩⼤战场。这样的话,也只需要半个人⼒就够了。 Q:数据中台全上云了吗? Q:数据治理怎么和数据成本关联 A:数据治理的范围很⼴,包含数据本⾝的管理、数据安全、数据质量、数据成本等。 640.gif

    8.3K12857发布于 2020-08-05
  • 【全球AI伦理治理

    AI伦理治理框架的全球协同案例 欧盟《人工智能法案》提出基于风险分级的四层治理体系,禁止社会评分等高风险应用。OECD的AI政策观察站已收录全球700余项政策倡议,形成跨国数据库共享机制。 新加坡的Model AI Governance Framework为亚洲企业提供可认证的伦理操作手册。 美国NIST的AI风险管理框架(RMF)采用模块化设计,包含测量标准与测试工具包。 日本社会5.0计划将AI伦理纳入智慧城市基础设施标准,通过区块链技术实现算法审计追踪。 多利益相关方协同机制 联合国教科文组织的《AI伦理建议书》获得193国采纳,建立全球论坛平台。 企业联盟如Partnership on AI推动跨行业协作,发布《负责任的AI实践指南》。蒙特利尔宣言构建了研究人员伦理承诺体系,通过数字签名实现全球联署。 伦理治理效果评估需结合定量与定性指标: 技术指标:算法偏差系数 \Delta = \frac{|P(y|g_1) - P(y|g_2)|}{\max(P(y|g_1), P(y|g_2))} 过程指标

    36510编辑于 2026-01-20
  • 从“黑盒调用”到“白盒治理”:2026年AI可观测性与成本精算实战

    行业共识已然清晰:在AI成为核心业务引擎的时代,可观测性不再是运维团队的“事后补救”,而是必须前置到架构设计中的“成本与质量控制器”。这标志着AI工程正式从“功能优先”迈入“治理优先”的新阶段。 三者缺一不可:只关注成本会牺牲体验,只关注质量会拖垮预算,只关注性能会掩盖业务风险。三、实战:构建带成本归因与质量追踪的可观测中间件以下是一个可直接集成的轻量级AI可观测层核心代码。 采用采样策略(如10%全量+90%摘要)平衡精度与开销。不要把数据留在监控系统里:可观测数据的价值在于驱动行动。 AI可观测性正是这场转型的治理基石——它让智能不再是一笔糊涂账,而是在精细度量下持续优化的可控资产。 在这个AI从“技术实验”走向“商业基础设施”的关键年份,唯有以白盒思维重塑治理体系,方能让大模型真正赢得CFO的信任、工程师的掌控与用户的满意,成为可持续创造价值的数字生产力。

    12400编辑于 2026-07-03
  • 10 Vibe Coding 成本控制技巧

    我接受用AI花钱,但是咱不能花冤枉钱对吧?在VibeCoding中,成本主要来自AI大模型的使用。你给AI看的内容越多、AI输出的内容越多,花的钱就越多。 ,会把计算结果存起来(比如引用的文件、对话历史这些重复出现的内容),比普通输入略贵一点缓存读取token:后续再用相同的上下文时,直接复用缓存,价格只有普通输入的1/10,非常便宜举个例子,如果你给AI 另外,小米MiMo也是一个值得关注的低成本选项,它主打token效率高,同样的任务消耗更少。你可以通过CCSwitch等工具切换到MiMo模型,进一步降低AI编程成本。 3)前面提到过,AI工具支持缓存机制,相同的上下文重复使用时价格能降到1/10。所以尽量保持上下文稳定,比如CursorRules、引用的文件不要频繁改动,这样能持续享受缓存优惠。 我们团队就是这样做的,通过培训和规范,把人均成本降低了40%。最后,要评估AI的投入产出比。花$100用AI,如果能节省10小时的开发时间,那是非常划算的。

    42410编辑于 2026-05-21
  • 来自专栏深度学习与python

    成本与效率:作业帮数据治理全方位解析

    InfoQ 将于 10 月 18—19 日举办 QCon 全球软件开发大会 上海站 ,覆盖前后端 / 算法工程师、技术管理者、创业者、投资人等泛开发者群体,内容涵盖当下热点(AI Agent、AI Infra 存储资源浪费主要表现在缺乏体系化数据治理,每次都是被动的、手动的运动式治理,导致失效、无用数据长期占用资源。 另一个问题是用户的用数成本很高。 针对以上问题,我们的数据治理方案是:以数据 ROI 为抓手,降低数据生产成本,提升数据使用效能。这里数据 ROI 等于数据效能价值除以数据生产成本。 降低成本主要就是计算成本和存储成本的优化,提升数据使用效能主要是通过建设数据治理和开发工具平台来达到目的。最终我们数据治理的目标就是,在成本可控的前提下,保障数据使用效能持续稳定输出。 有了这些治理手段加上工具,可以让数据 ROI 最大化,达到我们在成本可控的前提下,使数据使用效能持续稳定输出的目的。 未来数据治理方向也希望能用上 AI 辅助。

    61910编辑于 2024-07-12
  • 腾讯云 AI Agent 治理平台:重构企业智能体基础设施与成本管控体系

    应对规模化 Agent 部署的治理成本失控挑战 随着 AI 技术从 Chatbot、Copilot 演进至 Agent 元年(2025)及规模化部署元年(2026)(Sam Altman, OpenAI 构建统一治理平台与分层记忆架构 腾讯云 Agent 治理平台通过“技术 Infra 重构”与“组织 Infra 重构”,提供从接入、治理到交付的全链路能力。 1. 模型路由与成本管控 技术侧通过统一模型网关实现智能路由与多模态支持;商业侧实施精细化运营: 算力成本优化:CVM Ai2 智能型机型刊例价 = 标准型 40%。 验证治理效能与业务指标提升 基于上述架构,腾讯云在记忆管理与成本控制上取得了显著的量化收益: 记忆准确率提升:综合基准测试显示,OpenClaw 原生记忆准确率为 48%,升级至 TencentDB Agent 算力性价比:自研 CVM Ai2 智能型机型,刊例价仅为标准型的 40%,显著降低推理成本

    39110编辑于 2026-06-11
  • AI版权全球治理观察

    不仅将一般性AI产品分为禁止性风险、高风险、有限风险和最小风险四类,同时也将通用AI产品按照是否存在系统风险(界限是累计计算量大于 10^25 浮点运算),配置不同的合规义务。 (三)治理特征:通过行政机构“介入式监管”直面版权争议深水区同风险把控相对应的是执法监管,欧盟AI版权治理的强监管特征已经慢慢呈现。 根据“AI法案”的规定,欧盟AI办公室作为法案的执行机构,将会直接参与到AI版权具体治理中。 工具创作内容后续的“IP授权和维权”的权利稳定性,进而损害全社会文化内容的创作和传播;还会导致对利用AIGC工具创作的内容不经授权的任意侵权利用,这将引发作品创作秩序、版权交易规则的混乱,并带来额外的社会治理成本 对于AIGC服务提供者注意义务边界的设定,既不能强人所难,也不能鼓励故意懈怠者,而是需要借助于司法实践中个案认定,对平台技术可行能力和合理经济成本综合加以考量评估。

    1.1K10编辑于 2025-04-22
  • 来自专栏安徽开发者圈

    AI算力成本要被颠覆?10人公司说token砍99倍

    更糟的是,随着上下文变长,模型需要处理的信息越来越多,成本也随之飙升。行业一直假设规模带来更低的单位成本,但新一代模型的实际表现正在打破这个假设。" 客户名单说明了一切成立仅10个月,13个人的团队,客户名单上已经赫然写着: 微软(Microsoft) Notion Harvey(法律AI独角兽)这些可不是好糊弄的主。 他们选择Engram,说明token成本问题已经切切实实地痛到了。企业AI支出正在失控。Forbes同日发布的调查显示,1/5的企业员工每周因AI工具的低效使用损失整整一个工作日。 而CNBC此前报道,开发者对AI的野蛮使用正让企业账单飞涨—OpenAI和Anthropic的模型路由问题成了一个公开的秘密。在这种背景下,一个能削减99%推理成本的方案,吸引力不言而喻。 写在最后AI行业正在经历一个有趣的转折点。一边是SpaceX用百亿级资本疯狂建设数据中心,另一边是一个10人团队说"其实你们可以少花99倍的钱"。真相可能介于两者之间。

    26631编辑于 2026-06-24
  • 来自专栏安徽开发者圈

    AI算力成本要被颠覆?10人公司说token砍99倍

    客户名单说明了一切 成立仅10个月,13个人的团队,客户名单上已经赫然写着: 微软(Microsoft) Notion Harvey(法律AI独角兽) 这些可不是好糊弄的主。 他们选择Engram,说明token成本问题已经切切实实地痛到了。 企业AI支出正在失控。Forbes同日发布的调查显示,1/5的企业员工每周因AI工具的低效使用损失整整一个工作日。 而CNBC此前报道,开发者对AI的野蛮使用正让企业账单飞涨—OpenAI和Anthropic的模型路由问题成了一个公开的秘密。 在这种背景下,一个能削减99%推理成本的方案,吸引力不言而喻。 写在最后 AI行业正在经历一个有趣的转折点。一边是SpaceX用百亿级资本疯狂建设数据中心,另一边是一个10人团队说"其实你们可以少花99倍的钱"。 真相可能介于两者之间。 Engram的9800万美元融资,买的不是一家公司,而是对整个行业成本结构的一次重新想象。 关注AI前沿趋势与技术落地

    12810编辑于 2026-06-25
  • 从零做 Agent 成本优化:模型路由、缓存与重试治理

    失效要可控(数据更新后主动刷新) 四、第三招:重试治理(避免“失败放大器”) 很多成本不是花在主流程,而是花在无效重试。 五、核心指标:盯“单位成功成本” 不要只看平均调用成本,建议核心看这个指标: 单位成功成本 = 总成本 / 成功任务数 如果你看到: • 单次调用成本下降 • 但单位成功成本上升 说明你可能为了省小钱牺牲了成功率 • 对高重复请求启用结果缓存 Day 9-11:治理重试逻辑 • 接入错误分级和退避策略 Day 12-14:输出复盘报告 • 对比优化前后:成功率、成本、时延 先跑通一条主链路,再横向复制到其他任务。 结语 Agent 成本优化的本质,不是“更便宜”,而是“更高投入产出”。 当你把模型路由、缓存和重试治理串起来,才会形成可持续的降本机制。 下一篇(第六篇)我们会继续写: 《从零做 Agent 组织落地:角色分工、流程治理与平台化推进》。

    21710编辑于 2026-06-15
  • AI+Data:AI时代的企业数据治理

    为了解决这些问题,数据治理逐渐成为企业普遍重视的关键环节,尤其是在AI应用日益普及的背景下,高质量的数据治理变得尤为重要。数据的多元化与价值挖掘长期以来,人们习惯将数据理解为以数字形式存储的信息。 对于部署AI应用的企业来说,数据资源的质量直接决定了AI应用能否成功落地。因此,在推进AI应用的过程中,开展针对性的数据治理工作是首要且必要的步骤。 为了确保AI模型的有效性和准确性,必须保证数据的完备性和准确性。有效的数据治理不仅可以为AI模型提供高质量的数据原料,还能提高模型的拟合效果,进而增强AI应用的实际性能。 良好的数据治理体系在支撑AI应用方面起着重要的作用,高质量的数据输入不仅能改善特征工程和模型训练的效果,还可以降低上线成本并减少潜在的数据问题带来的风险。 在金融、医疗、零售、工业以及互联网等数据基础建设较好的行业中,面向AI时代的数据治理正在逐步显现其优势。

    1.3K10编辑于 2025-01-03
  • 来自专栏深度学习与python

    是时候好好治理 AI 模型了!

    在大部分场景下,这种治理能力带来的好处是通过最低的成本,保证模型上线并发挥效用。在一些特殊场景下,这种治理能力所发挥的作用则不止于此,比如金融、医疗等对可信度要求极高的领域。 企业应该投资治理 还是扩大现有 AI 解决方案? 对企业来说,现有资金到底应该投入到机器学习治理流程,还是应该继续扩展现有的机器学习解决方案呢? 机器学习治理的出现便是为了更好地构建负责任的 AI,全面实施负责任的 AI 有助于企业将风险降至最低。 提到 AI,我们最常说的一句话是“落地为王”,现在是时候将部分工作交由“负责任的 AI”来保证了(点击阅读原文轻松开启机器学习治理流程)。 今日好文推荐 想彻底改变云行业! Spark发源地UC伯克利分校再推开源项目应对云成本飙升:平均降至三分之一 重磅!

    71320编辑于 2023-03-29
  • 来自专栏Java进阶架构师

    火山引擎Dataleap治理实践:如何降低数仓建设成本

    为了减轻资源负担,降低数仓维护成本,需要对数仓建设成本进行治理与优化。 二、技术路线 针对数仓建设成本治理的粒度从大到小可以分为:数据表、数据任务、数据表字段。 「"数仓建设成本分析"看板总览」 三、技术方案 1、低频使用数据表优化方案 1.1、定位低频使用数据表 火山引擎Dataleap提供了Hive表的资源治理功能,包括Hive表的存储与访问次数等基本信息查询 优化思路 配合「埋点成本分析看板」,根据不同的使用成本与使用次数阈值将看板分为四个象限,其中各个象限的数据表的含义及推荐的优化手段为: 根据优化收益进行治理的顺序为:第二象限>第三象限>第一象限>第四象限 四、总结 基于数据成本分析看板,结合以上技术方案,如果是累计下线20+张数据表及对应任务,优化10+高成本任务,停止200+数据埋点解析,结合数据表温存与TTL缩减,初步测算能节省数仓总成本的36%费用 在梳理了数据表、字段的血缘树的基础上,建立了Hive表成本分析看板、任务成本分析看板、埋点成本分析看板等看板,结合大数据研发治理套件火山引擎DataLeap对数仓建设过程中的数据表、数据任务、埋点字段的成本的进行了由粗到细的梳理与优化

    63021编辑于 2023-09-04
  • 来自专栏个人开发

    服务治理治什么,10张图告诉你答案

    今天我们聊的话题是服务治理,服务治理最终达到的结果就是系统 「7 * 24」 小时不间断服务。 1 监控告警 公司的这次生产告警很准确,找到系统的直接维护人,并且通知到是哪个跑批任务出了故障。 ❞ 1.6 监控注意事项 监控是为了能让系统维护人员快速发现生产问题并定位到原因,不过监控系统也有几个指标需要考虑: 根据监控目标来指定监控指标采样频率,频率太高会增加监控成本。 如下图: 10个请求,有9个延迟都是1秒,但有1个延迟是10秒,所以平均值参考意义并不大。 ❝蓝绿部署跟金丝雀部署的区别是,金丝雀部署不用增加新的机器,而蓝绿部署相当于是增加了一套新机器,需要额外的资源成本。 而服务治理就是对这些问题进行管理和预防,保证系统持续平稳地运行。 本文所讲的服务治理方案,也算是传统意义上的方案,有时会有一些代码的侵入,而框架的选择也会对编程语言有限制。

    63920编辑于 2022-08-23
  • 从月度总账到请求级归因:企业大模型调用成本治理实践

    本文给出一套可落地的工程方法:通过“虚拟凭证 + 运行时注入 + 请求级审计”,在不大改业务代码的前提下,实现分钟级成本可见与异常快速止损。 业务复盘时,缺少请求级证据链,难以完成成本与效果对照。这类问题本质不是“单价高”,而是“归因口径不足”。 二、治理目标:先可见,再可控,再优化建议分三步推进:可见:每次调用都能回答“谁调用、调用什么、消耗多少、费用多少”。可控:可按项目/环境/调用方设置预算、有效期、模型范围。 三、方案设计:虚拟凭证与运行时治理层可采用如下设计:真实调用凭证统一保存在安全存储中;业务侧仅使用“虚拟凭证”;请求在运行时完成凭证映射与注入;调用结束后写入请求级审计记录。 七、结语企业大模型成本治理不是单次“降本动作”,而是持续的工程能力建设。当成本从“月度总账”下沉到“请求级账本”,团队才能实现:可审计、可回溯、可优化的稳定治理路径。

    17100编辑于 2026-05-13
  • 来自专栏Token管理

    接了5个大模型后,我们终于发现:AI成本失控的根源,不是模型太贵,而是缺少Token治理

    同样,当 AI 成为基础生产力之后,Token 治理也会逐渐成为企业基础设施的一部分。问题不是是否需要治理,而是何时开始治理。 Token治理,本质上是在帮助企业重新获得AI控制权很多人第一次接触 Token 治理时,会把它理解为一种成本管理工具。这种理解并不准确。企业缺少的从来不是账单——模型厂商本身就能提供账单。 因此,Token 治理不仅是成本问题,更是企业 AI 治理体系的重要组成部分。它帮助企业从"知道花了多少钱",升级到"知道为什么花钱",再进一步升级到"知道如何更合理地花钱"。 企业获得的,不仅是更清晰的成本管理能力,更是重新掌握 AI 控制权的能力。结论企业 AI 建设正在从单模型时代走向多模型时代,而多模型带来的最大变化,并不是模型数量增加,而是治理复杂度快速提升。 Token 治理不是多模型时代的附加能力,而是解决 AI 成本问题的必要能力。

    4100编辑于 2026-06-12
领券