Agent 全链路追踪如何采集模型调用环节的数据

1. chat Span 包裹每次模型调用

每个 LLM 调用生成独立 Span，记录模型名、输入与输出 Token、首 Token 耗时与结束原因，使单次调用的成本与延迟可量化。

2. 输入输出与缓存

记录 prompt 与 completion 内容（需显式开启内容捕获）；启用提示词缓存时记录 gen_ai.usage.cache_read.input_tokens 与 gen_ai.usage.cache_creation.input_tokens，区分缓存命中带来的节省。

3. 多模态与推理 Token

多模态请求记录生成内容类型，推理模型记录 gen_ai.usage.reasoning.output_tokens（自 v1.41 起成为独立属性，不再并入 output_tokens），使不同模型形态的用量被正确归集。

4. 模型性能分位度量

按 P50 / P95 / P99 分位展示首 Token 耗时与模型调用耗时，支持按模型、应用、时间维度下钻对比，为模型选型与调优提供数据依据。