

作者:小傅哥 博客:https://bugstack.cn
❝沉淀、分享、成长,让自己和他人都能有所收获!😜 ❞
大家好,我是技术UP主小傅哥。
傻,是不傻? 有些伙伴问,Dify、Coze,市面都有了,怎么公司里还要基于 Spring AI 框架,开发自己的智能体,主要原因是什么呢?🤔

何止 Dify,Java JDK 都有公司自己干一套的!为啥呢?
如果你还纠结这个事,说明你还是个小白,小卡拉米。公司干一套新的,对于企业来说,这东西叫技术资产,人才储备,所有开发的出来东西,既可以申请著作权,又可以申请技术专利。转而,就把这些专利作为企业的注册资金当做投资款抵扣了,也可以用于企业所得税的抵扣。
从公司大目标再往下看,随着 LLM 大模型的发展,以及各类框架的完善,AI 应用场景的智能体开发,会越来越标准化,且越来也有容易被实现。不再需要像最早的一些 Dify、Coze 方案那样笨重。
再者,企业需要沉淀 AI 技术能力(+人才),为公司适应各类 AI 应用场景开发做储备。而直接使用市面的产品,很多时候都没法做到快速迭代新的需求,甚至要在公司发展后期遇到极端问题,甚至还要考虑重新做技术选型以及重建。这个成本就非常大了。
所以,你能理解为啥公司都要做自己的服务平台了吧。而且,公司也非常需要一个像你一样,具备 AI 方面开发知识的研发人员。这也是为什么小傅哥,要带着你做这么多 AI 类的项目。今天分享的这套 AI MCP 网关服务,小傅哥也正在带着大家做。
接下来,小傅哥就带着大家实践下阿里旗下 Higress AI 网关能力的使用。
官网:https://higress.io/源码:https://github.com/alibaba/higress文档:https://higress.cn/ai/quick-start
Higress AI 网关快速集成 LLM API,通过 AI 网关、API 网关及Himarket,解决模型、工具及Agent统一代理问题,并助力企业构建AI中台,加速AI落地。
这套网关服务,可以统一管理你的 LLM API 服务接口,如你访问的 OpenAI、智谱、千问、文心,都可以在Higress AI 网关做一个统一管理。另外,就是 MCP 网关能力,可以把注册的 HTTP 服务、Nacos 服务等,都可以转换为 MCP 接口服务能力,让 AI 客户端使用。
恰好,这个事小傅哥也在带着大家做一套 《AI MCP Gateway 网关服务系统》 如果想在 AI 开发方面做一些储备积累,那么一定要学习这套项目。
本案例会使用 docker 进行部署,如果你不了解 docker 是什么,可以阅读系列教程 https://bugstack.cn/md/road-map/docker-what.html

<dependency>
<groupId>org.springdoc</groupId>
<artifactId>springdoc-openapi-starter-webmvc-ui</artifactId>
<version>2.5.0</version>
</dependency>
<dependency>
<groupId>org.springdoc</groupId>
<artifactId>springdoc-openapi-starter-webmvc-api</artifactId>
<version>2.5.0</version>
</dependency>
@RestController
@CrossOrigin("*")
@RequestMapping("/api/v1/")
@Tag(name = "测试服务", description = "示例接口")
publicclass TestServiceController {
privatestaticfinal Logger logger = LoggerFactory.getLogger(TestServiceController.class);
/**
* <a href="http://localhost:8091/swagger-ui/index.html">API文档;swagger</a><br/>
* <a href="http://127.0.0.1:8091/api/v1/to_upper_case?word=xiaofuge">API测试;http://127.0.0.1:8091/api/v1/to_upper_case?word=xiaofuge</a>
*/
@GetMapping("to_upper_case")
@Operation(summary = "字符串转大写", description = "将传入 word 转换为大写")
public String toUpperCase(@RequestParam String word) {
logger.info("接收信息:{}", word);
return word.toUpperCase();
}
}
@Tool(description = "获取公司雇员信息")
public XxxResponse getCompanyEmployee(XxxRequest01 xxxRequest01, XxxRequest02 xxxRequest02) {
log.info("根据公司和雇员,查询工资和工作工时。{} {}",xxxRequest01.getCompany(), xxxRequest02.getEmployeeName());
// 这部分可以实际调用你需要的接口,比如调用http接口获取个数据或者做一些操作等。
XxxResponse xxxResponse = new XxxResponse();
xxxResponse.setSalary(new Random().longs(10000).toString());
xxxResponse.setDayManHour(String.valueOf(new Random().nextInt(24)));
return xxxResponse;
}
# 命令执行 docker-compose -f docker-compose-environment-aliyun.yml up -d
# docker 代理和使用文档;https://bugstack.cn/md/road-map/docker.html
version: '3.9'
services:
# https://github.com/alibaba/higress
# docker run -d --rm --name higress-ai -v ${PWD}:/data \
# -p 8001:8001 -p 8080:8080 -p 8443:8443 \
# higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
higress-ai:
image: higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
container_name: higress-ai
hostname: higress-ai
ports:
- 8001:8001
- 8080:8080
- 8443:8443
volumes:
- ./higress-ai/data:/data
networks:
- my-network
# Redis
redis:
image: redis:6.2
container_name: redis
restart: always
hostname: redis
privileged: true
ports:
- 16379:6379
volumes:
- ./redis/redis.conf:/usr/local/etc/redis/redis.conf
command: redis-server /usr/local/etc/redis/redis.conf
networks:
- my-network
healthcheck:
test: [ "CMD", "redis-cli", "ping" ]
interval: 10s
timeout: 5s
retries: 3
networks:
my-network:
driver: bridge
docker-compose -f docker-compose-environment-aliyun.yml up -d



把小写的xiaofuge转换为大写



在 AI网关管理下,MCP 管理中,添加一个 MCP 服务。这里的用途是建一个 MCP 网关和后端服务建立起连接。




在添加接口的地方,你会看到一个网关服务的地址。也就是 SSE 接入点,用于配置到 AI 客户端里。访问地址;http://127.0.0.1:8080/mcp-servers/toUpperCase/sse
好了,到这你的 AI MCP 网关就配置成功了,你可以把各类服务端的接口转换为 MCP 协议结构进行使用。

AI 网关管理里,还提供了关于 AI 接口的配置。它可以进行统一管理,适合项目的接入使用。做 AI 类的项目,可以把 AI 请求,统一用这样一套东西管理起来。

13:55:19.581 [main] INFO cn.bugstack.xfg.dev.tech.test.ApiTest -- 测试结果:字符串 "xiaofuge" 转换为大写后是 "XIAOFUGE"。
xiaofuge 转换为大写的 XIAOFUGE目前,小傅哥也正在带着粉丝伙伴学习 AI 项目,《AI MCP 网关》,就是目前在持续更新的一个实战类项目。
该项目是 AI Agent 智能体,关于 MCP 协议对接的通用网关服务项目,以解决各类业务接口便捷转换为 MCP 协议而设计实现。通过这样的配置,可以大大的简化从普通http、rpc接口到 MCP 协议的转换操作。这样的项目,也是每个互联网公司在做 AI Agent 智能体时,必备的基础设施项目。