
>**核心定位**：**LiteLLM** 是一个开源的 LLM 网关，作为 OpenClaw 与底层模型提供商（OpenAI, Anthropic, Bedrock 等）之间的**中间层**。
**核心价值**：提供**企业级可观测性**（成本追踪、完整日志）、**灵活路由**（无缝切换后端）以及**安全管控**（虚拟 Key 与预算限制）。
**适用场景**：需要精细控制 AI 支出、调试复杂请求、或在多个模型提供商之间构建高可用架构的团队与个人开发者。


----

## 🌟 一、为什么要在 OpenClaw 中使用 LiteLLM？


直接在 OpenClaw 中配置各个模型的 API Key 虽然简单，但缺乏集中管控。引入 LiteLLM Proxy 后，你将获得以下关键能力：


|功能|描述|价值|
|:-:|:-:|:-:|
|**💰 成本追踪 (Cost Tracking)**|精确记录 OpenClaw 在每个模型上的 Token 消耗和美元花费。|告别“账单黑盒”，清晰掌握每一分钱的去向。|
|**🔄 模型路由 (Model Routing)**|在 LiteLLM 配置中映射模型，OpenClaw 只需请求逻辑名称（如 `claude-opus`），后端可随意切换。|无需修改 OpenClaw 配置即可从 Anthropic 切换到 AWS Bedrock 或其他供应商。|
|**🔑 虚拟密钥 (Virtual Keys)**|为 OpenClaw 生成独立的 API Key，并设置月度预算上限或速率限制。|防止意外高额账单，实现细粒度的访问控制。|
|**📝 完整日志 (Logging)**|记录所有请求和响应的完整 Payload。|便于调试 Prompt 效果、审计合规性及分析失败原因。|
|**🛡️ 自动故障转移 (Fallbacks)**|当主模型提供商宕机时，自动切换到备用提供商。|提升系统可用性，确保 OpenClaw 任务不中断。|


----

## 🚀 二、快速开始 (Quick Start)


### 方案 A：交互式配置 (推荐)


如果你已经运行了 LiteLLM Proxy 并拥有了 Key，可以直接使用 OpenClaw 的 Onboarding 命令：

```
openclaw onboard --auth-choice litellm-api-key
```
按提示输入你的 LiteLLM Proxy API Key 及 Base URL (默认为 `http://localhost:4000`)。

### 方案 B：手动部署与连接


#### 1. 启动 LiteLLM Proxy


首先安装并启动 LiteLLM 服务。你可以先测试单个模型，或加载完整的 `config.yaml`。

```
# 安装
pip install 'litellm[proxy]'

# 快速启动 (示例：直接代理 Claude Opus)
# 需确保环境变量 ANTHROPIC_API_KEY 已设置
litellm --model claude-opus-4-6
```
默认监听地址：`http://0.0.0.0:4000`

#### 2. 配置 OpenClaw 环境变量


告诉 OpenClaw 将请求发送给 LiteLLM 而不是直接发送给厂商：

```
export LITELLM_API_KEY="sk-litellm-your-key"
# 如果非默认端口或地址，可能还需设置 BASE_URL (视具体 OpenClaw 版本实现而定，通常 onboarding 会处理)
```
#### 3. 启动 OpenClaw


```
openclaw
```
现在，OpenClaw 的所有流量都将经过 LiteLLM 网关。


----

## ⚙️ 三、高级配置详解


### 1. OpenClaw 配置文件 (`openclaw.json`)


在配置文件中，你可以显式定义 LiteLLM 提供商的细节，包括模型元数据（上下文窗口、支持类型等）：

```
{
  "models": {
    "providers": {
      "litellm": {
        // LiteLLM Proxy 地址
        "baseUrl": "http://localhost:4000",
        // 认证 Key
        "apiKey": "${LITELLM_API_KEY}",
        // 协议类型 (LiteLLM 模拟 OpenAI 接口)
        "api": "openai-completions",
        
        // 定义可用模型及其元数据 (可选，LiteLLM 通常会自动发现)
        "models": [
          {
            "id": "claude-opus-4-6",
            "name": "Claude Opus 4.6",
            "reasoning": true,
            "input": ["text", "image"],
            "contextWindow": 200000,
            "maxTokens": 64000
          },
          {
            "id": "gpt-4o",
            "name": "GPT-4o",
            "reasoning": false,
            "input": ["text", "image"],
            "contextWindow": 128000,
            "maxTokens": 8192
          }
        ]
      }
    }
  },
  "agents": {
    "defaults": {
      "model": {
        // 引用格式：litellm/<model-id-defined-in-litellm>
        "primary": "litellm/claude-opus-4-6"
      }
    }
  }
}
```
### 2. LiteLLM 路由配置 (`config.yaml`)


在 LiteLLM 端，你可以定义复杂的映射关系。OpenClaw 只关心逻辑模型名，具体的物理后端由 LiteLLM 决定。

```
model_list:
  # 逻辑名称：claude-opus-4-6
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6  # 实际调用 Anthropic
      api_key: os.environ/ANTHROPIC_API_KEY

  # 逻辑名称：gpt-4o
  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o           # 实际调用 OpenAI
      api_key: os.environ/OPENAI_API_KEY
  
  # 高级路由：同一个逻辑名，根据负载自动切换后端
  - model_name: smart-model
    litellm_params:
      model: anthropic/claude-3-5-sonnet-20241022
      api_key: os.environ/ANTHROPIC_API_KEY
    # 可以添加更多 fallback 模型...
```
此时，OpenClaw 只需配置 `primary: "litellm/smart-model"`，即可享受自动负载均衡。


----

## 🔐 四、安全与预算控制：虚拟密钥 (Virtual Keys)


LiteLLM 允许你创建带有**预算限制**和**权限控制**的虚拟 Key，非常适合分配给 OpenClaw 实例使用。

### 生成受限 Key


使用 Master Key 调用 LiteLLM API 生成一个新 Key：

```
curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw-instance-01",
    "max_budget": 50.00,       // 每月最多花费 50 美元
    "budget_duration": "monthly",
    "models": ["claude-opus-4-6", "gpt-4o"] // 仅允许访问特定模型
  }'
```
### 使用生成的 Key


将返回的 `key` 设置为 OpenClaw 的环境变量 `LITELLM_API_KEY`。一旦超出 50 美元预算，LiteLLM 将自动拒绝后续请求，保护你的钱包。


----

## 📊 五、监控与可观测性


### 1. 查看 Key 使用情况


检查当前 Key 的剩余预算和用量：

```
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-your-virtual-key"
```
### 2. 获取消费日志


拉取详细的消费记录（包含模型、Token 数、成本）：

```
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"
```
### 3. Web 仪表盘 (UI)


LiteLLM 通常自带或可集成 UI 面板（如 LiteLLM Proxy UI），可视化展示 OpenClaw 的流量趋势、错误率和成本分布。


----

## 💡 六、最佳实践建议


1. **本地开发与生产隔离**：
	- 为开发环境创建一个低预算的 Virtual Key。
	- 为生产环境创建一个高预算但带警报的 Virtual Key。

2. **利用 Fallback 机制**：
	- 在 LiteLLM 配置中设置 `fallbacks`。例如：首选 `claude-3-5-sonnet`，若超时或报错，自动降级到 `gpt-4o` 或 `haiku`，确保 OpenClaw 任务不中断。

3. **统一日志审计**：
	- 开启 LiteLLM 的详细日志记录，将其输出到 ELK 栈或 Datadog，以便追溯 OpenClaw Agent 的每一次决策过程。

4. **动态模型热切换**：
	- 当某个模型提供商（如 OpenAI）出现区域性故障时，只需在 LiteLLM 的 `config.yaml` 中修改路由指向（例如切到 Azure OpenAI），**无需重启或修改 OpenClaw 配置**。


----

## 🔗 七、相关资源


- **LiteLLM 官方文档**: [https://docs.litellm.ai](https://docs.litellm.ai/)

- **OpenClaw 模型提供商概念**: [/concepts/model-providers](https://www.qianwen.com/concepts/model-providers)

- **LiteLLM GitHub**: https://github.com/BerriAI/litellm 


通过集成 LiteLLM，OpenClaw 从一个单纯的客户端进化为一个具备**企业级治理能力**的 AI 应用平台。无论是成本控制、安全合规还是高可用架构，LiteLLM 都为 OpenClaw 提供了坚实的后盾。🛡️📈

核心定位：LiteLLM 是一个开源的 LLM 网关，作为 OpenClaw 与底层模型提供商（OpenAI, Anthropic, Bedrock 等）之间的中间层。

OpenClaw 集成 LiteLLM Proxy：统一网关、成本追踪与智能路由

LiteLLM 是一个开源的 LLM 网关，作为 OpenClaw 与底层模型提供商（OpenAI, Anthropic, Bedrock 等）之间的中间层。

云计算

人工智能

开发工具

LiteLLM是开源LLM网关，提供企业级AI管控方案，支持成本追踪、模型路由、虚拟密钥等功能，帮助OpenClaw用户实现精细预算控制、高可用架构与安全访问。支持主流模型提供商无缝切换，提升AI应用的可观测性与稳定性。

负载均衡

安全合规

路由

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

OpenClaw 集成 LiteLLM Proxy：统一网关、成本追踪与智能路由-腾讯云开发者社区-腾讯云

OpenClaw 集成 LiteLLM Proxy：统一网关、成本追踪与智能路由

OpenClaw 集成 LiteLLM Proxy：统一网关、成本追踪与智能路由

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐