此文主要讲解ai项目集成心得体会

个人感觉ai项目与正常开发并无太大区别，你可以理解为就多了一些依赖引入，多了些编码的固定格式。

主要涉及几大板块区别，一个是模型引入，即你想使用什么LLM作为基座。其次是Function call，我常说tool使用。然后是RAG的引入，即做检索增强，因为有些数据是公司私有的，需要一套私有化的知识存储。再然后就是MCP，好比一个可插拔式的外接USB（其余的三方插件数据）。也可以加个提示词工程吧（个人感觉就是看你描述功底了）。

第一个模型引入，简单来说就是需要接入我们的大语言模型，作为我们整个agent项目的衔接。简单来说就是引入依赖后的一个类配置ChatModule/

，会基于不同架构（如langchain4j或者spring ai）有所不同但原理一致。通过这个类配置你的模型，对应模型的api-key，模型名称等等。

application.yaml配置文件简单配置也可以直接使用。也可以代码中初始化配置。然后可能需要注意的就是对话记忆储存，以及流式响应处理。已经对话的方式，也是有对应类提供，进行数据填充即可，如ChatMemory，ChatMemoryStore用于对话记忆，WebFlux流式处理（流式需要支持流式的LLM）。其中一些注解@SystemMessages，@UserMessages，@MemoryId等为要使用的一些注解，此处为浅谈先不做过多解释。配好了就可以正常的进行一个对话了。

就是让你的对话能够干实事，不只是问答。比如你是业财系统，你直接给他说开那张发票，他能通过tool调用对应开票接口帮你完成开票，又或者是前面很火的千问点外卖，你直接说他就给你筛选出你想要并帮你完成外卖下单。但有个前提就是这是你服务内部功能，是属于你自己的接口。这个功能简单来说就是在你的接口上个注解@Tool（“此工具描述”）。然后将这个工具加入到

ChatClient/ChatLanguageModel中，调用他们对应方法加入。然后你和LLM对话时有相应描述，他就会调用此工具也可以说这个接口。这个就是函数调用功能。

模型对话—》识别是否为tools—》按描述进行对应接口调用—》结果返回给模型—》模型根据数据整理返回结果答复 

就是为了实现使用数据引入，让LLM能够知道你的公司的私有数据，然后进行相应答复，比如你公司项目是业财系统，你问自己公司这个月的财务支持，纯LLM怎么可能知道呢对吧。又或者是公司相应系统的介绍以及涵盖功能等等，你可以上传对应文件来增强LLM的知识库。由此可以看出这是两个操作，一个是你要将内部数据文件导入，然后让LLM能去检索到。这涉及到一个文档解析功能，以及向量化处理。就是解析文件然后存到相应数据库中。我们可以使用向量模型进行文档向量化然后存入向量数据库，文档向量化前涉及到一个拆分处理，也有相应规则此处不过多概述。就相当于让大模型知道你公司私有知识库。

文件传入—》文件按规则拆分—》向量化入库—》查询相应问题—》外部无法获取内部识别—》向量化匹配—》得到系列匹配度的结果—》展示最高的（可以设置匹配对大于多少才得到结果，应为有可能本身也没有这个数据信息）

本质上是一个通信协议。但他常涵盖一套操作，就是我们调用外部的其余api的一个规范化（基于agent的），此处说的其余api其实描述是不大对的但你可以看做类似的这种操作。只是调用api是单次的，一问一答。而通过mcp建立的链接是有回话上下文记录的，并且目前基于网络的是使用Streamable http可以保持一个会话保持的。我们agent ide引入MCP插件使用的stdio，以前的网络连接是SSE（server sent event）。就相当于一个外接USB，这个USB有各种功能，只要没有拔下来就是和你电脑保持连接的。比如时间，天气等LLM是没法实时获取的（当然有些实时更新的模型或者联网的他能获取，但有些服务内部的他没法获取，比如sql数据库的一些MCP，就针对内部数据的处理）。

模型对话—》是否需要调用MCP—》调用对应MCP—》得到结果—》扔回给模型—》模型整理内容—》对应产出结果

过程图如下，来源网络图片。但解释版本切入点不同涉及组成结构也不同，但流转过程基本一致。

就是各个注解上的描述，为了让你的LLM执行相应操作得到的结果更明确，正确，一致，有用等。去避免模型的一些幻觉产生即乱回答，无中生有等等。也可以做一些限制，给定对应角色，指定输出格式，避免敏感词汇，以及边界设置等。

此处为简述，浅谈，一些护栏机制，日志记录，脱敏以及权限等就不在此处过多赘述了。

浅谈AI agent项目

软件开发

人工智能

后端

开发工具

AI项目集成核心要点：模型引入、FunctionCall工具调用、RAG检索增强、MCP协议扩展和提示词工程。通过配置LLM基座、标注工具接口、构建私有知识库、集成外部API以及优化提示词，实现智能对话、业务操作和私有数据查询功能。掌握这些模块即可快速搭建企业级AI应用。

向量数据库

数据库

2026采购季 | AI焕新·智启新局

tencentdb-catalog

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云AI代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

功能1上新10个字符

功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符。

功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符。

功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符

功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符

功能4上新

文章&问答评论现已支持表情

全新交互，全新视觉，新增快捷键、悬浮工具栏、高亮块等功能并同时优化现有功能，全面提升创作效率和体验

社区富文本编辑器全新改版！诚邀体验～ 

精选全网热门MCP server，让你的AI更好用 🚀

💥开发者 MCP广场重磅上线！

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

浅谈AI agent项目

浅谈AI agent项目

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐