AI Agent搭建

智能体的定义，是一个可以感知环境、基于策略行动以实现目标的自主体。

包括环境感知、推理决策、工具调用、记忆更新等能力。

简单理解，是一个LLM+工具+Memory的组合。

单智能体的问题：

1、工具太多，导致LLM很难决策调用哪个工具；

2、上下文太长，导致推理退化；

3、难以在单一提示词中兼顾专业性和通用性需求；

多智能体可以很好解决以上问题：

1、通过模块化开发，维护成本更低；

2、定义专精智能体，专业性更强；

3、策略可定制，而不是完全交给LLM自由发挥；

但仍有很多最佳实践需要注意。

一个普遍的误区是，认为工具越多Agent能力越强，但其实这会给Agent有限的上下文与决策系统带来巨大的认知负荷。

正确的思路是，少即是多。

将高频、高价值的核心工作流中的多个步骤，整合为一个复合型工具。

这本质上，是将部分Agent的规划责任，前置到工具的设计当中，是一种责任转移的思路。

当工具库膨胀之后，命名混乱与功能重叠，会让Agent无所适从，通过命名空间来组织工具。

需要打磨工具的描述，因为这些描述是Agent理解工具的唯一信息来源。

工具描述，应将所有隐含的知识显性化、力求清晰、无歧义。

结构化命名，相当于为Agent提供了一张清晰的地图，帮助在正确的场景下，快速定位合适的工具。

同样，工具返回给Agent的内容质量，远比数量更重要。

因为Agent比人类更擅长理解的的内容，也是人类可读的、具有意义的文本，这些高质量内容，可以显著降低Agent在检索任务中的幻觉。

Agent与工具的交互，本质上是一个持续对话场景。

需要处理好每一次响应的细节，比如任何可能返回大量数据的工具，都应该内置分页、拦截、过滤机制。

同样，错误提示设计也至关重要，一个可行动的错误提示，应清晰解释原因，并给出修正建议。

要想让Agent像业务专家一样解决问题，需要能很好的理解用户潜在意图。

手段上，可以基于图的意图匹配以及语义搜索技术相结合。

与传统Graph不同，双层意图图谱，是用双层意图节点代替原始节点，从优秀专家历史对话中，动态提取专家意图流转过程，生成该领域专家意图流转图谱，优秀的Knowledge可以作为few-shot。

并融合意图流转图谱和语义相似性检索，提升检索效果和效率。

整个方案分为构建和推理两个阶段。

构建阶段：针对优秀历史对话，采用LLM提取对话意图，构建Graph；存储历史意图序列和对话示例。

1、语料收集：收集人类专家在真实业务中达成业务目标的多轮对话数据，这些语料覆盖了业务的各种场景、用户不同的问法、优秀的回复或解决流程经验等，为后续图构建提供优质的数据基础；

2、数据清理：原始对话数据中不可避免存在噪音，在图构建前会先针对原始对话数据进行数据清洗和预处理；

3、LLM意图提取：LLM对清洗后的对话数据进行深度语义理解和分析，分别提取每一轮对话中用户和助理的一级、二级意图；

4、图构建：综合上述多轮对话数据，以意图为节点、意图流转关系为边，搭建对话意图流转图，每个意图下关联对应优秀话术；

推理阶段：

1、意图识别：与构建阶段相同，采用LLM从对话消息中提取客服、用户对话意图；

2、双层检索：根据意图识别中生成的意图，采用双层检索，使用意图匹配和语义内容来查找历史相似性对话和客服回复生成最优候选示例；

3、回复生成：根据双层检索结果作为few-shot，结合用户和助手意图、对话记忆采用LLM生成回复；

传统的一级意图图谱在多轮对话场景中容易出现语义冲突。

两级意图图谱的构建，先借助LLM进行意图识别和分类，一级意图为主要意图，明确意图主要类别提升识别精确度，每个一级意图下面有二级分意图，提升知识精细度，避免混淆，既能把握对话整体方向，也能洞察用户对话中细微差别。

primary intent：用于明确对话的核心类别，可以快速分类与路由，明确对话的大框架，通过先判断大类别，缩小后续精度判断范围，避免大类别之间误判，提升对话准确度。

secondary intent：意图细分，可以明确当前对话具体分类，提升知识的精细度，在不同意图分类下，可以有效避免语义混淆。

在多轮对话过程中，系统需要根据当前轮次用户的二级意图，快速准确识别出用户所有可能的下一级别的意图。

可以提前将这些意图进行聚合，形成一个个意图对，极大优化了意图图谱的查询效率。

传统的RAG通常依赖单一检索路径，要么基于语义相似度、要么基于静态知识图谱，在复杂多轮对话中，难以兼顾上下文连贯性和目标性。

双层检索可以弥补这一缺陷。

首先，意图匹配，而非文本匹配，可以根据意图出现频率查询客服下一个意图，快速定位到与该意图关联的所有专家经验和话术推荐。

这非常类似人类的策略性思维，确保每一次回复都在有效推进对话目标，而非被动应答。

其次，在Prompt结构中，增加了user intent和双层检索的top-k example response作为few shot。

包括user question、当前对话memory、user intent、top k优秀的few shot、instructions指令，这确保回复不仅听起来更自然，同时也像一个训练有素的专家一样，每一个策略都在引导对话走向闭环。

双层检索方案，在意图检索上更加准确的找到与对话上下文中最相关的知识片段，解决了答不准的问题，在回复上更加流畅，兼顾了策略性和用户体验。