看大模型 API 的调用记录时,很多人都有过类似的疑惑:明明是同一段提示词,昨天调用扣了三分钱,今天再问同样的内容,扣费金额却对不上。是平台乱扣费吗?多数时候不是——要解释“每次扣费为什么不一样”,得先从最基本的计量单位 token 说起。
大模型处理文字,不是按“字”来的,而是先把文本切成一小段一小段的标记,这些标记就叫 token(词元),计费也按 token 数量来算。它和字数之间有一个常用的换算经验值:英文大约 4 个字符折 1 个 token,一个常见的英文单词本身就是 1 个 token;中文因为要走分词和编码,平均 1 个汉字约消耗 1.5~2 个 token。也就是说,一篇 1000 字的中文材料,实际消耗的 token 大约是 1500 到 2000,而不是 1000。同样一段内容,中文往往比英文“更占额度”,这是语言结构决定的。
主流大模型 API 的费用公式可以简单写成:费用 = 输入 token × 输入单价 + 输出 token × 输出单价。你发给模型的提示词按输入计价,模型生成回来的内容按输出计价,两套单价互不相同——输出单价普遍是输入的 2~4 倍。原因在于:输入是模型“读一遍”,输出却是一个 token 一个 token“算”出来的,计算成本更高。此外,不少推理型模型答题前会先“思考”,这段过程同样产生 token 并计入费用,思考越深,扣得越多。
弄清了计量方式,“每次扣费不一样”就好解释了:计费跟着每一次真实消耗走,而消耗受五个变量影响。
第一,输出长度天然有波动。模型的回答是逐 token 生成的,同一个问题,这一次答 200 字、下一次答 350 字很常见。输出 token 数不同,费用自然跟着变。
第二,思考深度不一样。推理类模型面对同一个问题时,每次的推理路径长短不同,思考 token 有多有少,这部分差异会直接体现在账单上。
第三,对话历史在悄悄加价。多轮对话时,每一轮请求都要把之前的全部历史带上:第 1 轮的输入只有你的一句话,到第 10 轮,输入已经变成前面所有问答的叠加。同一句话,放在第 1 轮问和第 10 轮问,扣费完全不是一个量级。
第四,缓存命中与否。多数平台对重复出现的内容做了缓存,命中的部分按远低于原价的折扣计费,有的能低到原价的十分之一。同样的提示词,第一次调用和第二次调用价格不同,多半是这个原因。
第五,时段与档位。部分模型分峰谷定价,高峰和空闲时段单价不同;切换过模型档位,单价也会随之变化。
五个变量整理成一张表,排查账单时可对号入座:
扣费差异来源 | 背后的原因 | 可以怎么应对 |
|---|---|---|
输出长度波动 | 回答逐 token 生成,每次长短措辞不一 | 在参数里设置最大输出长度 |
思考 token | 推理模型每次思考路径深浅不同 | 简单问题换用轻量档模型 |
对话历史累积 | 每一轮请求都要重发全部历史 | 定期裁剪或摘要对话历史 |
缓存命中 | 重复出现的内容按折扣价计费 | 固定提示词放在请求开头 |
时段与档位 | 部分模型分峰谷定价、档位单价不同 | 非紧急任务错峰调用 |
看明白这张表就能发现:扣费不同不是异常,而是“按量计费”在如实工作——变的不是价格规则,是每一次的真实消耗。
一是看明细,不算总账。别只盯月底总额,要看每次调用的输入、输出 token 拆分,钱花在哪一目了然。二是让固定内容尽量命中缓存:系统提示词、背景资料这类每次都一样的内容,放在请求开头,更容易吃到缓存折扣,而Olink这类聚合平台正是有这种优势。三是给输出设上限:在参数里限制最大输出长度。
排查的前提是数据可查。以 OLink 这类 API 聚合平台为例,控制台的使用日志会逐条记录每次调用消耗的 token 数量和费用构成,多模型混用时也能把每一笔账对上,发现异常消耗比翻原始账单直观得多。
Q1:两次调用的 token 数一样,扣费就一定一样吗?
不一定。token 数只是消耗量,最终金额还取决于单价:缓存命中部分按折扣计,部分模型分峰谷时段定价,不同模型档位单价也不同。对账时把“用量”和“单价”分开看,就能解释每一笔差异。
Q2:中文和英文,哪个更费 token?
同样的内容,中文通常更费。英文一个单词大致就是 1 个 token,中文一个汉字平均要消耗 1.5~2 个 token。如果业务允许,把固定的系统提示词写成英文,是一个常见的省钱细节。
Q3:能不能在调用前预估一次大概花多少钱?
可以。先用 tokenizer 工具把提示词转成 token 数,再按“输入 token × 输入单价 + 输出 token × 输出单价”分别估算,输出部分按历史平均回答长度取值即可。像 OLink 这样的聚合平台会在价格页公开每个模型的输入输出单价,换算时不用逐家官网去查,套公式就能算出单次成本。
token 计费拆开看只有两条主线:一是“怎么算”——文本切成词元,输入输出分开计量;二是“为什么每次不一样”——输出波动、思考深度、历史累积、缓存命中和时段定价共同决定金额。想清楚这两条,再看账单就不会发懵:它不是乱扣费,而是在忠实记录每一次真实消耗。先用好用量日志,再谈优化,顺序对了就不难省。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。