
 
> LLM 的输出不需要"被评判"，只需要"被校验"。评价体系从"对不对"降级为"合不合规"——合规是一个确定性问题。
 
## 态控的方案：不用 LLM 判 LLM，用确定性规则判
 
态控的态度是：**偏离检测有两层保障，没有一层依赖 LLM 的自我审查。**
 
### 第一层：宪法强制（结构层）
 
态控的根宪法第 1 条不是"建议"，是硬约束：
 
- `ANALYZING` 节点只能做意图识别——不能追问、不能采集字段、不能给最终回复
- `IN_SESSION` 节点只能做本环节任务，非本环节内容立即标记 `off-task`
 
这条宪法由**上下文管理器**以最高优先级注入 prompt 的首部。模型看到上下文的第一件事不是"用户说了什么"，而是"我当前在什么房间，什么是偏离"。这相当于：不是让模特自己决定不要吃太多，而是把健身教练的照片贴在冰箱门上——机制在前，意志在后。
 
### 第二层：重新识别验证（校验层）
 
当模型返回 `off-task` 后，态控**不直接路由**。调度器做一次非空检查（DET 门卫），然后把偏离输入送回 `ANALYZING` 重新意图识别。
 
这不是"LLM 判 LLM"——这是**两个独立环节之间的校验**：
 
```
IN_SESSION 说："这个输入偏离了，我要标记 off-task"
    ↓
调度器 DET：非空检查（仅仅是"offTaskInput 字段不为空"）
    ↓
ANALYZING：从头做意图识别，用 API logprobs 拿真实概率分布
    ↓
识别出不同 intent → 确认切换
识别出相同 intent → 不是偏离，是误判，回到当前房间
识别出 intent=other → 进入追问澄清
```
 
关键在最后两步：`ANALYZING` **不是在"检查 IN_SESSION 的判断是否正确"**——它是在重新做自己的本职（意图识别），自然产生了验证效果。验证不是附加功能，是两个节点之间的天然信息流。
 
## 态控的降级链：不判，只校验
 
理解了"不判"之后，态控做了什么？
 
四项降级链全部是**确定性计算**：
 
| 检查项 | 做什么 | 执行体 | 为什么不需要 LLM |
|--------|--------|:------:|-----------------|
| **L1 结构校验** | JSON parse + Schema 校验 | DET | 格式是硬规则，不需要语义理解 |
| **DET 值域复验** | 金额上限、时间格式、必填字段 | DET | 值域是事先定义的，不需要推理 |
| **logprobs 检查** | 从 API 拿真实概率分布，阈值裁决 | DET | logprobs 是模型的原始输出数据，不是模型的"判断" |
| **硬编码兜底** | 所有以上检查都失败了，硬编码回复 | DET | 不需要任何智能 |
 
四个检查全部由 DET 执行，没有一个 LLM 调用。态控不判断"这次输出好不好"，只校验"这次输出是否符合预设约束"。评价体系从"正确"降级为"合规"，合规是一个确定性问题。
 
这是一条完整的确定性收敛链。之所以有四项而不是一项，不是因为检查不够，而是因为每一项都有自己覆盖不了的盲区：
 
- 结构校验检查格式，但检查不了内容——LLM 可以输出完美的 JSON 结构，里面的内容完全错误
- 值域复验检查内容边界，但检查不了语义——金额 999999 在值域内，但如果是月薪记账，这显然是错的
- logprobs 检查语义不确定性，但检查不了逻辑——模型可以非常自信地输出"猫粮 35 块，时间是明天"（记账时间不应是未来）
- 硬编码兜底检查不了任何东西——它是熔断器，前面的防线全破了才启动
 
**四项不是堆砌，是分层。** 每一项补前一项的盲区，每一项都不引入新的 LLM 调用。态控用确定性计算的分层组合，逼近了"可靠校验"这个目标——但从未声称自己能达到"100% 拦截"，只是用每个检查项补上一个可证伪的缺口。
 
## 一个你不能忽视的盲区：logprobs 检查只保护 ANALYZING
 
降级链的四项检查中，logprobs 检查是态控在意图识别层布防的核心——ANALYZING 用强制选择 + 真实概率分布替代 LLM 自由生成的伪置信度。"我 78% 确定这是记账"比"我感觉这是记账"可靠得多——logprobs 是模型的诊断输出，不是模型的自我表述。
 
但这里有一个关键盲区：在 IN_SESSION 阶段，态控没有等价于 logprobs 的"硬撑式确认"检测机制。IN_SESSION 里的偏离和幻觉仍然是 LLM 自主判断，没有 API 级别的诊断数据做二次校验。态控对此的缓解措施是：
 
- 单轮硬屏蔽：每轮宪法强制注入环节隔离声明，IN_SESSION 偏离概率被结构性地压低
- 多轮关联防御：`roomConversationLog` 的累积偏差可以被事后审计——如果 IN_SESSION 连续多轮偏离而未标记 `off-task`，日志里会有明显的"任务切换痕迹"
- `ANALYZING` 层的 logprobs 检查是 IN_SESSION 的前置防线——如果一开始意图就错了（low probability→`intent=other`），就不会进入 IN_SESSION 去"继续错"
 
这个盲区不是因为降级链设计不完备，而是 logprobs 在 LLM 对话环节不可获取的技术限制。态控在这个环节能做到的是：用宪法抑制偏离发生的概率，用日志暴露偏离发生的事实。前者是**预防**，后者是**可审计**——两者替代了"实时检测"在当前技术约束下不可实现的要求。
 
*技术报告 DOI：10.5281/zenodo.21435111*
 


LLM 的输出不需要"被评判"，只需要"被校验"。评价体系从"对不对"降级为"合不合规"——合规是一个确定性问题。

# 态控的降级链：四项确定性检查替代 LLM 自我审查

人工智能

架构设计

编程语言

LLM输出校验采用确定性规则而非主观评判，通过宪法强制和重新识别验证双重保障确保合规性。系统分层设置结构校验、值域复验、logprobs检查和硬编码兜底四项确定性检查，形成完整降级链。ANALYZING层利用API真实概率分布验证意图，IN_SESSION通过结构隔离降低偏离风险，实现无需LLM自我审查的可靠校验机制。

代码解释

路由

JSON

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

# 态控的降级链：四项确定性检查替代 LLM 自我审查-腾讯云开发者社区-腾讯云

# 态控的降级链：四项确定性检查替代 LLM 自我审查

# 态控的降级链：四项确定性检查替代 LLM 自我审查

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐