TokenHub 正式开源：企业 AI 落地，需要先把 Token 管起来

模型目录

过去一段时间，我们接触了大量正在推进 AI 落地的企业。大家的共识越来越清晰：AI 真的开始用起来了。

员工开始使用 ChatGPT、Claude、Cursor、Codex、Claude Code；研发团队开始引入 AI 编程工具；业务团队开始尝试智能客服、文档分析、知识库问答；一些团队甚至已经在使用 agent loop、自动化任务和内部 AI 平台。

但当 AI 真正进入企业日常之后，新的问题也很快出现了。

Token 开始烧起来了。

一开始，AI 成本可能只是几个账号、几个 API Key、几张不太显眼的账单。但随着使用规模扩大，企业会发现自己很难回答几个基础问题：

谁在用模型？

哪个团队用得最多？

哪个项目花了最多钱？

哪些请求是不必要的？

哪些模型调用可以降级到更便宜的模型？

员工有没有绕过公司，使用私人 API 中转站？

出了安全问题之后，还能不能追溯当时发生了什么？

这不是一个简单的“模型接入”问题，而是企业 AI 落地之后必然会遇到的治理问题。

AI 用起来之后，Token 会变成新的基础设施成本

很多企业最早关注 AI 时，重点是模型效果、应用场景、工具体验。但真正大规模推广之后，成本问题会快速浮出水面。

尤其是 AI 编程工具和 agent 类应用，它们的 Token 消耗并不是线性增长的。一个普通对话和一个自动执行任务的 agent，消耗完全不在一个量级上。企业一旦鼓励员工广泛使用 AI，就必须面对 Token 使用量突然放大的现实。

更麻烦的是，这些消耗往往是分散发生的。

有些员工使用公司统一采购的账号；有些团队自己申请 API Key；有些人会去淘宝、闲鱼购买低价 API 中转；还有人直接使用自己的 ChatGPT、Claude 订阅。对企业来说，这些分散入口带来的问题不只是成本不可控，还有数据安全和审计缺失。

当公司代码、客户数据、内部文档通过未经认证的中转服务流出时，企业很难知道发生了什么。

当供应商账单不断增加时，企业很难知道钱花在谁身上。

当安全、合规、财务部门需要追溯时，企业也很难拿出完整证据链。

这就是我们做 TokenHub 的原因。

TokenHub 不是一个 API 中转站

TokenHub 正式开源了。

TokenHub 是面向企业级 AI 落地的开源模型网关。它的目标不是再做一个 API 中转站，而是帮助企业解决大规模使用 AI 时的 Token 治理问题。

我们希望企业能够把分散的 AI 调用收回到一个统一入口：

统一认证，知道是谁在调用模型；

统一项目 Key，知道调用属于哪个项目和团队；

统一模型路由，让不同任务匹配合适的模型；

统一用量统计，按人、团队、项目、模型归因；

统一成本管理，支持限额、对账和预算控制；

统一请求日志，为审计、排查和合规留下证据。

换句话说，TokenHub 想解决的不是“怎么把请求转发给模型”，而是“企业如何长期、稳定、可控地使用 AI”。

为什么企业需要模型网关

企业 AI 落地的第一站，应该是统一网关。

因为只要企业允许员工使用外部模型服务，就一定会出现多个供应商、多个模型、多个账号、多个 API Key、多个使用入口。没有网关，这些调用天然就是分散的。

而网关的价值，就是把这些分散调用重新变成企业可治理的基础设施。

在 TokenHub 里，企业可以把 OpenAI、Claude、Gemini、本地模型、国内模型等不同供应商统一接入。员工不需要直接拿供应商 Key，只需要使用企业分配的项目 Key。管理员可以在后台配置 Provider、模型、路由、限额和审计策略。

这样一来，企业可以真正看清楚 AI 使用情况：

哪些模型被频繁调用；

哪些团队的 Token 消耗最高；

哪些请求失败率高；

哪些模型可以替换成更低成本方案；

哪些项目需要单独设置预算和限额。

这才是企业级 AI 基础设施应该具备的能力。

TokenHub 想解决的核心问题

第一，治理野连接。

员工私自使用低价 API 中转站，看似节省成本，实际可能把公司代码、客户数据和内部资料交给第三方。TokenHub 通过统一入口和统一认证，帮助企业把 AI 调用收回到可控范围内。

第二，看清 Token 成本。

AI 用量增长之后，企业不能只看供应商总账单，而要知道成本具体发生在哪个团队、哪个项目、哪个模型上。TokenHub 会持续完善用量统计、成本归因、限额和对账能力。

第三，提升模型使用效率。

不是所有任务都需要最贵、最强的模型。简单任务可以走低成本模型，复杂任务再使用高能力模型。TokenHub 希望把模型路由和成本优化变成企业可配置、可迭代的策略。

第四，留下审计证据。

企业需要知道每一次模型调用发生在什么时候、由谁发起、走了哪个模型、用了多少 Token、是否失败、是否命中策略。没有日志，就没有审计；没有审计，就很难真正放心使用 AI。

开源，是为了让企业能真正掌控自己的 AI 基础设施

我们选择开源 TokenHub，是因为企业 AI 基础设施不应该完全依赖黑盒平台。

模型可以来自不同供应商，应用可以由不同团队构建，但企业自己的入口、身份、成本、日志和审计体系，应该掌握在自己手里。

TokenHub 会坚持面向企业真实场景持续演进：更完善的模型路由、更细粒度的 Token 统计、更强的成本控制、更好的审计追溯、更易用的管理后台，以及更多企业身份体系和部署环境的适配。

我们希望 TokenHub 成为企业内部 AI 基础设施的一块重要拼图。

不是限制大家使用 AI，而是让企业能够更放心、更高效、更可持续地使用 AI。

欢迎试用和共建

TokenHub 现在已经正式开源。

如果你的团队正在推广 AI 编程工具、内部 Agent、智能客服、知识库问答、多模型平台，或者你已经开始遇到 Token 成本失控、用量难统计、API Key 分散、审计难追溯等问题，欢迎关注和试用 TokenHub。

GitHub 地址：

https://github.com/astaxie/TokenHub

也欢迎大家提交 issue、参与讨论、贡献代码，一起把企业级 AI 模型网关这件事做扎实。