首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • Token计量与费用归因体系设计

    二、成本失控的根因分析根因一:计量颗粒度太粗传统IT成本计量以“实例”或“账号”为单位。但AI成本是以“Token”为单位的——每次调用消耗数百到数千Token,单价低、频次高、总量大。 没有精细化的Token计量,就无法回答“谁、什么时候、用什么模型、花了多少Token”。根因二:缺少多维度归因能力一个Token消耗背后涉及多个维度:哪个部门?市场部还是研发部?哪个项目? 一个业务上线不当,Token消耗可能在几小时内翻倍。如果成本可见性是“T+30天”,等发现问题时,预算已经超了。三、Token计量体系设计核心目标: 每一次模型调用,都能回答“花了多少Token”。 设计要点:要点一:统一计量口径不同模型的Token计价方式不同(有的按输入+输出分别计费,有的按总Token计费)。 计量系统需要:统一采集每次调用的输入Token数、输出Token数记录模型名称、调用时间、响应耗时保留原始请求和响应(用于审计和复盘)要点二:实时计量流采用流式计量架构:模型调用完成 → 异步写入计量队列计量消费者聚合数据

    30410编辑于 2026-05-12
  • Token 计量与费用归因体系的设计

    大模型调用的成本有几个特殊性:· 按量计费,弹性大:一个写得差的 prompt 可能比写得好的多用 3 倍 token,成本差异完全不透明· 多项目共用 Key:研发、运营、客服都在用同一套 API 无法拆分到各业务线· 用量行为难预测:某个员工突然开始用 AI 批量处理数据,当月成本暴增,事后才发现· 模型价格不一致:GPT-4o 和 GPT-4o-mini 单价差 20 倍,但用户选择模型往往没有约束二、计量体系的设计 2.1 归因维度要做有意义的费用报告,至少需要以下几个归因维度:计量记录(每次 LLM 调用):{ 'timestamp': '2026-03-15T10:23:45Z', 'model': ' token 比,比值异常往往意味着 prompt 设计有问题四、降低成本的工程手段4.1 Prompt 压缩input token 是成本的大头。 ZGI(zgi.cn)的费用管控模块提供了从计量、归因到预算预警的完整体系,支持按部门独立预算管理。

    75810编辑于 2026-03-26
  • 来自专栏Lambda

    5.access_token和refresh_token时效如何设置

    access_token和refresh_token实效如何设置 什么时候需要用户跳转到登录页面重新登录? token 过期了就需要用户跳转到等页面重新登录? 时效设置 为了保证能够刷新用户端的 access_token ,refresh_token 的有效时间不能小于 用户活跃时间点,假设 access_token 有效时间为et,那么用户在[access_token 起始时间,2 * et]时间内用户都是活跃的,因此 refresh_token 的有效时间 >= 2 * access_token 一般,refresh_token 的有效时间 > 2 * access_token 的有效时间 比如,access_token 实效7天,那么 refresh_token 实效可以给15天,也可以给30天 当然,access_token和refresh_token 的时长具体多少 刷新refresh_token 每次 刷新access_token 时判断 refresh_token 是否快过期 [ refresh_token 剩余有效时间 <= 2*access_token实效

    2.7K10发布于 2020-02-14
  • 来自专栏苏三说技术

    Token续期的5种方案

    如何续期:单Token还是双Token?有状态还是无状态? 安全防控:如何防止令牌劫持和并发风暴? 下面我跟大家一起聊聊工作中最常用的5种主流方案,希望对你会有所帮助。 oldToken) { // 旧Token加入黑名单(有效期比Token5分钟) redis.setex("blacklist:"+oldToken, "1", 35 * 60); refreshToken; RLock lock = redissonClient.getLock(lockKey); try { if (lock.tryLock(2, 5, = token.getTotalValidTime(); // 双阈值策略:绝对时间(5分钟)和相对时间(30%有效期) return remainTime <= Math.min (5 * 60 * 1000, 0.3 * totalTime); } 4.2 Redis缓存续期方案 public void autoRenewToken(String headerToken) {

    1.2K10编辑于 2025-08-24
  • 来自专栏全栈程序员必看

    matlab空间计量模型AIC和SC,空间计量模型

    第二列(value)是各个统计量的值,比如LM lag就是统计量等于0.238,服从自由度为1的卡方分部。下面的差不多。 第三列(Prob)应该是对应的P value。

    81940编辑于 2022-11-01
  • 来自专栏PyStaData

    计量笔记 | 异方差

    1.2 异方差的后果 存在异方差的情况下: 估计量无偏:用 OLS 估计所得参数估计量 仍具有无偏性,即 。 ---- 【问题】为什么 LM 统计量是 呢? 在大样本中, 与检验整个方程显著性的 F 统计量渐近等价。 计算 F 统计量或者 LM 统计量并计算 p 值。(前者使用 分布,后者使用 分布)。如果这个 p 值很小,即低于选定的显著性水平,那么就拒绝同方差性的原假设。 ),即在完成估计后所计算的后续统计量计量经济学及 Stata 应用[M]. 高等教育出版社. 古扎拉蒂, 波特, 2011. 计量经济学基础 第 5 版 (上册)[M]. 北京:中国人民大学出版社. 杰弗里·M·伍德里奇, 2015.

    7.8K20发布于 2021-03-05
  • 来自专栏机器学习与统计学

    【温习统计学】无偏估计量、相合估计量

    无偏估计量,数学期望等于被估计的量的统计估计量。 设^θ(X1,X2,…,Xn)是θ的估计量,若E(^θ)=θ,对一切θ∈Θ,则称^θ为θ的无偏估计量,否则称为θ的有偏估计量。 估计量的一种大样本性质:当样本容量n充分大时,估计量可以以任意的精确程度逼近被估计参数的真值。设n=T (X1,X2,…,Xn)是未知参数θ∈Θ的估计量,其中Θ是θ的值域。

    6K30发布于 2019-04-10
  • 来自专栏PyStaData

    计量笔记 | 拟合优度

    (图片来源:古扎拉蒂《计量经济学精要》(第 4 版)) 如上图所示,将 的总变异(TSS)分解为两部分,可以被回归分解(ESS) + 未被回归分解(RSS)。 自由度是指当以样本的统计量来估计总体的参数时,样本中独立或能自由变化的数据的个数,称为该统计量的自由度。通常为 。 比如,若存在两个变量 ,而 那么自由度为 1 。 计量经济学导论(第 5 版)[M]. 北京: 中国人民大学出版社. [2] 陈强, 2015. 计量经济学及 Stata 应用[M]. 经济计量学精要(第 4 版)[M]. 机械工业出版社. [4] 李·C·阿迪金斯, 卡特·希尔, 2015. 应用 Stata 学习计量经济学原理(第 4 版)[M]. 重庆:重庆大学出版社.

    6.8K30发布于 2021-04-13
  • 来自专栏站长的编程笔记

    jwt token 鉴权验证 【firebase 5.x】

    JWT 功能封装类 5. JWT 鉴权控制器 1. JWT 功能封装类 安装扩展包 composer require firebase/php-jwt:'5.*' <?  = JWT::encode($token, $this->key); // 创建token        $this->cache($data['uid'], $token); // 将token存入缓存         return $token; // 返回token    }    /**     * 解析token     *     * @param string $token 前端请求携带的token   string  $token 前端请求携带的token     * @return boolean true   token 有效 false 已过期     */    public function

    4.4K20编辑于 2022-12-31
  • 来自专栏YoungGy

    ISLR_t统计量

    mean inference for comparing two independent means inference for comparing two paired means 回顾 之前讲了Z统计量 Z统计量的总体逻辑是:假设H0成立,建立群体均值的正态分布。正态分布的均值是总体均值,标准差是σ/n−−√\sigma /\sqrt{n},σ\sigma一般用ss估计。

    96850发布于 2018-01-02
  • 来自专栏DearXuan的博客文章

    算法基础-顺序统计量

    顺序统计量 将长度为 n 的数组升序排序后,则第 i 个位置的数字是该数组的第 i 小的量,称之为第 i 顺序统计量 数组最小值是第1个顺序统计量,最大值是第n个顺序统计量,中位数(又称下中位数)是第⌊ (n+1)/2⌋个顺序统计量 ⌊n⌋ 表示对 n 向下取整,⌈n⌉表示对 n 向上取整 最大值和最小值 若想要寻找n个数字里的最大值或最小值,只需要进行(n-1)次比较 int min = a[0]; i += 2; } cout << "min:" << min << endl; cout << "max:" << max << endl; } 第i顺序统计量 如果想要找到数组里的第 i 顺序统计量,也就是第 i 小的数字,通常的办法是把整个数组排序,然后直接取出对应位置的数字。

    1.1K60编辑于 2022-01-31
  • 来自专栏技术学习笔记

    因果推断常用计量方法

    5. 混淆变量(Confounder):既影响自变量又影响因变量的变量。潜在结果框架的核心: 通过尽可能消除混淆变量的影响,得到精准的干预效应。 6. 干预效应(Treatment Effect):干预问题的基础是量化干预效应,常用的计量指标包括: (1). 5 所有 73.3 (9) 72.1 (7) -1.2 (1). 常用计量方法 随机对照试验 因果推断的一条黄金法则:随机对照试验(AB测试) 是确定因果关系最可靠的方法 [3]。 常用于计算复杂随机变量的方差、标准差等统计量,从而简化概率推断的计算过程。

    1.6K34编辑于 2025-02-09
  • 来自专栏生物信息与临床医学专栏

    关于F统计量的澄清

    在往期推送中,米老鼠和大家介绍过评价弱工具变量偏倚的策略------孟德尔随机化之F统计量。 Study,CGPS) 去探索C反应蛋白对纤维蛋白原的影响,他们将总人群分别平均分成5,10,16,40,100和250个子队列,然后将子队列的结果进行meta分析,具体结果如下表: 以第三行数据为例 从上表中我们不难看出,随着均分的子队列数目增加,观察性估计量比较稳定,2SLS和LIML的估计值和实际观察值越来越接近,但是每个子队列的平均F统计量在不断减少。 也即说明,等分的子队列数目越多,工具变量估计值越接近真实值,但这时候F统计量可能是比较小的。 从上表中我们不难看出单纯依靠F统计量大于10来判断弱工具变量偏倚是不可靠的,当然我们这里并不是否认F统计量的作用,在实际研究中,F统计量越大,确实偏倚会小,但不能拿F大于10作为“金标准”。

    3.2K21编辑于 2022-08-21
  • 来自专栏用户8955222的专栏

    计量模型 | 前定变量#时间FE

    最近在某年会的学术汇报上看到一篇DID实证论文,不过作者构建的计量模型比较特别。这篇文章的基本财务数据来自工企数据库,但却用于评估2017年实施的某项政策的政策效应。

    1.2K20发布于 2021-11-10
  • 来自专栏YoungGy

    统计简单学_常用统计量

    连续型数据特征 数据特征值的应用 经验法则 盒须图 连续型数据特征 集中趋势 平均数 中位数(群体η\eta,样本X̃ \tilde{X}) 众数 选择:当群体中有离群值时,使用中位数或者众数,

    92540发布于 2019-05-27
  • 来自专栏GiantPandaCV

    解析 Token to Token Vision Transformer

    最后看下T2T,通过Token to Token结构(下文会讲),它在浅层的时候也能建模出结构信息,同时也避免了极值的出现。 Token To Token结构 ? 这样会逐渐减少token的数量,但随之而来token的长度会增加很多(因为多个tokens连接在一个token),因此后续模型也降低了维度数目,以平衡计算量。 下面是一段测试代码 import torch import numpy as np np_input = np.array([[[[1, 2, 3], [4, 5, padding=0, stride=1) unfolded = unfold(torch_input) print(unfolded) # 输出为 tensor([[[ 1., 2., 4., 5. ], [ 2., 3., 5., 6.], [ 4., 5., 7., 8.], [ 5., 6., 8., 9.],

    8.1K10发布于 2021-03-11
  • 因果推断常用计量方法

    5. 倾向得分匹配 (Propensity Score Matching, PSM)原理:通过估计每个个体接受处理的概率(倾向得分),将处理组和对照组中倾向得分相近的个体进行匹配,从而减少选择偏差。

    81910编辑于 2025-02-21
  • 来自专栏PyStaData

    计量笔记 | 简单线性回归

    = rnormal(0, 9) gen y = 1*x + e //Data Generation Process reg y x tw function PRF = 1+2*x, range(-5 15) || /// scatter y x || lfit y x, lp(dash) 计量经济学的主要任务之一就是通过数据 来获取关于总体参数 的信息。 gen x = rnormal(3, 4) gen e = rnormal(0, 9) gen y = 1*x + e reg y x tw function PRF = 1+2*x, range(-5 计量经济学及 Stata 应用[M]. 高等教育出版社. 古扎拉蒂, 波特, 2010. 经济计量学精要[M]. 机械工业出版社. 杰弗里·M·伍德里奇, 2015. 计量经济学导论(第五版)[M]. 北京: 中国人民大学出版社.

    4.7K42发布于 2021-03-05
  • 来自专栏技术人生

    使用JWT实现Token认证,前端H5登录加密

    JSON Web Tokens 随着技术的发展,分布式web应用的普及,通过session管理用户登录状态成本越来越高,因此慢慢发展成为token的方式做登录身份校验,然后通过token去取redis中的缓存的用户信息 ,随着之后jwt的出现,校验方式更加简单便捷化,无需通过redis缓存,而是直接根据token取出保存的用户信息,以及对token可用性校验,单点登录更为简单。 array_merge($data, $ext); $ret = base64_encode(json_encode($ret)); $sign = hash_hmac('md5' ', $auth); $sign = hash_hmac('md5', $data[0], '12D&(HS^H!

    1.4K40编辑于 2022-01-04
  • 来自专栏CSDN小华

    如何评价估计量的好坏

    无偏性保证了估计量的长期稳定性;有效性确保了估计精度;一致性则保证了估计量在大样本情况下的可靠性。这三种标准共同构成了评价估计量优劣的基础框架。 无偏性 如何计算估计量的无偏性? 步骤 计算估计量的无偏性需要通过数学期望来判断。具体步骤如下: 定义无偏估计量:首先,我们需要明确什么是无偏估计量。 为了确保估计量的一致性,可以采用以下步骤: 选择合适的估计量:首先,需要选择一个无偏且有效的估计量。 无偏性意味着估计量的期望值等于待估计的参数,即估计量的系统误差为零;有效性则指在所有无偏估计量中,具有最小方差的估计量被认为是最有效的。 有效性是指对同一总体参数,如果有多个无偏估计量,那么方差最小的估计量更有效。有效性强调的是在所有无偏估计量中,波动(方差)最小的估计量更为理想。

    1.6K10编辑于 2024-10-16
领券