Agent 评估的核心评估维度包含哪些?
修改于 2026-10-13 17:04:44
12
1. 任务完成度(Task Success)
- 以业务目标是否真正达成、外部系统状态是否正确变更作为判断标准,而非仅看最终文本是否"看起来正确"
- 常用指标为任务成功率(Task Success Rate),应核对真实系统状态,避免被"假成功"误导
2. 轨迹质量(Trajectory Quality)
- 评估智能体从规划、工具选择、参数构造到结果利用的每一步决策是否合理
- 关注冗余调用、无效循环、不必要的动作、错误回溯等影响可靠性的中间行为
3. 工具使用正确性(Tool-Use Correctness)
- 衡量智能体是否选择了正确的工具、传入了正确的参数、以正确的顺序执行
- 工具调用错误(选错函数、参数格式错误、调用顺序错乱)是 Agent 失败的主要来源之一
4. 上下文与记忆(Context and Memory)
- 评估多轮、长程任务中信息的保留与检索质量,避免上下文漂移或遗忘关键约束
5. 效率与成本(Efficiency and Cost)
- 跟踪执行耗时、Token 消耗、工具调用次数与单次成功任务成本,判断规模化可行性
6. 安全性与合规性(Safety and Compliance)
- 考察越权行为、策略违背、敏感信息暴露、不安全升级等,需与安全评估独立成门