上个月我翻自家 AI 日报流水线的月账单,心里咯噔一下。OpenAI 和 Anthropic 这四个月把部分模型单价砍了快八成,可我那张按调用量结算的票,降幅没...
大部分机器在私有子网里靠 NAT 统一出网,有几台要对外提供服务,单独绑了 EIP。两件事各自都对,放在一起出了问题。
凌晨一点,月之暗面把 Kimi K3.1 Pro 放了出来。我第一反应不是看它多强,是去核它的价目表和上下文长度:2.8 万亿参数、100 万 token、输入...
蚂蚁数科 10 月 22 日发布决策模型 LingDT-Decision-1.0,相比大语言模型 Token 消耗降低超 90%,响应时效提升 10 倍,27B...
客服系统收到一条消息,要的是"转账单组还是技术组";审核系统拿到一张图,要的是"过还是不过";工单系统要的是一个严重度评分。答案就是一个选项、一个概率、一个分数...
在 Claude Code、Codex、Cursor、OpenCode 等工具中配置 OmniRoute:
一个值得注意的工程点:路由是在插件里做的,不是每个请求都去实时查询后端 Pod。插件会维护一份高频本地缓存,通过周期性拉取 + 订阅的方式拿到各 Pod 的指标...
很多 AI 系统有个隐性浪费:不管任务难易,一律发给最贵最强的大模型。我想做智能路由,可"判断该走哪个模型"这步本身如果也用大模型,又慢又贵。这一周我用 Jev...
语音控浏览器的链路是:语音转文本 → 判断用户意图 → 路由到对应动作。卡点在中间那步。用大模型解析意图,慢在逐字生成、响应以秒计;输出是自由文本,难以直接对接...
这三种几乎能覆盖我日常遇到的所有判断需求。分类、路由是 Choice;风险、情绪、优先级分级是 Score;"是不是垃圾邮件、是否表达了取消意图"这类真伪判断是...
传统LangChain是LLM应用的组件工具箱,以Chain与Runnable为核心抽象,提供提示词模板、文档处理、向量检索、工具调用、记忆能力等标准化组件,目...
现在我们公司已经几乎没有人再手动写代码了——因为 Claude Code 和 Codex足够聪明,尤其是Claude 4.7 Opus和GPT 5.5,这俩模型...