首页
学习
活动
专区
圈层
工具
发布

#路由

基于 vLLM+Nginx 构建负载均衡推理集群

王瑞MVP

企业内部私有环境部署大模型推理集群时,很容易遇到流量调度混乱、节点负载失衡、会话上下文丢失、接口缺少鉴权防护等一系列问题,单 vLLM 推理节点难以支撑并发请求...

000

Polis Protocol A Self Optimizing City Of Agents 实用指南

用户4482004

2500

Performance Testing Review Multi Agent Review 实用指南

用户4482004

2000

Codex终于能用国产模型了!保姆级教程来!多图预警!

卡卡罗特AI

Claude Code如果要使用国产模型,那就需要更改Claude Code 的 baseURL。

32640

Openapi Spec Generator 实用指南

用户4482004

5310

本体回归:三天九篇论文都在说的同一件事

本体与AI

从"让 AI 自动生成本体",到"用本体约束 AI"。72 小时内的 9 篇论文与 6 个项目,同时指向一个转折。

11910

OpenClaw 架构详解:Gateway 如何工作

本体与AI

本文是《OpenClaw 从新手到精通》系列教程第 5 篇,共 25 篇。第 6 篇预告:CLI 命令大全

7900

终于有人把逆向渗透的活也教给AI干了

豆芽菜小萌

如果我没猜的错的话,你早就把 Claude Code、Cursor 这些 AI 编程客户端当主力了,写业务逻辑、改 bug 顺得不行。可一碰到逆向、渗透这类活儿...

10210

11 万星了,YC CEO 把自己"一人顶二十人"的 Claude Code 配置开源了。

豆芽菜小萌

? 智能路由——顶层 SKILL.md 是一个纯路由器。你说"帮我设计登录页",它自动路由到 Designer;你说"这段代码有 bug",它路由到 QA。

7500

Frontend Seo 实用指南

用户4482004

12510

React 弹窗组件如何在新标签页打开?

SmileNicky

在 React 项目开发中,我们经常会遇到这样的场景:页面上有一个弹窗组件,用户希望可以“在新标签页中打开”这个弹窗。但弹窗本质上是挂载在当前页面的 DOM 节...

8810

Frontend Architecture 实用指南

用户4482004

9610

Deepapi 实用指南

用户4482004

10510

MetaSkill 落地 .NET:当 Agent 从「调用工具」进化到「组织工具」

张善友

《Meta Skill 来了,Agent 正从「调用工具」变成「组织工具」》。, 文章的核心观察很锐利:OpenSquilla 最值钱的东西,不是那智能路由动画...

12710

Backend Dev Guidelines 实用指南

用户4482004

9710

弱模型不能裸奔:Agent Harness 凭什么真实有效

张善友

这件事同样可以建模:把工作流画成一张技能 DAG,每个节点声明自己的能力需求,路由按标注调度。DAG 就是那条弧,调度策略就是 frontier 的使用纪律。

10310

Api Endpoint Builder 实用指南

用户4482004

11610
领券