Spring AI 详细介绍及使用示例解析

图片

一、引言

Spring AI 是 Spring 官方推出的开源框架，旨在为 Java 开发者提供便捷的 AI 能力集成方案，于 2024 年 10 月 18 日正式发布 1.0 版本。它通过标准化接口和模块化设计，降低大模型应用开发门槛，让开发者能够充分利用现有的 Spring 生态系统来构建和部署 AI 应用。

二、Spring AI 的核心定位

（一）生态融合

Spring AI 无缝集成 Spring Boot、Spring Cloud 等组件，借助 Spring Boot 的自动配置功能以及 Spring Cloud 的分布式系统解决方案，使得开发者可以在熟悉的 Spring 开发环境中轻松引入 AI 功能，大大降低了 Java 开发者使用 AI 技术的门槛，无需额外学习复杂的 AI 框架或工具，只需遵循 Spring 的开发规范，即可快速构建出具有智能交互能力的应用系统。

（二）跨模型支持

Spring AI 支持多种主流的 AI 模型提供商，如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama 等，涵盖了语言、图像、语音等各类生成式 AI 模型。其 API 设计允许在不同模型之间轻松切换，无需大量修改代码，极大地提高了开发的灵活性和可维护性。

三、Spring AI 的关键技术概念

（一）AI 模型

AI 模型是 Spring AI 的核心基础，它通过算法处理信息并生成输出，如文本、图像等。其预训练特性使其成为通用开发工具，开发者无需机器学习背景即可使用。

（二）提示工程

Spring AI 提供动态模板，通过占位符填充生成结构化提示，类似于 MVC 视图渲染，可优化模型输出效果。开发者可以根据不同的业务场景和需求，灵活地设计提示模板，以引导模型生成符合预期的高质量输出。

（三）嵌入

嵌入功能可将文本/图像转换为向量表示，用于语义分析等场景，是实现语义搜索、推荐系统等功能的基础。通过将不同类型的文本或图像数据转换为向量形式，可以方便地计算它们之间的相似性，从而为各种智能应用提供支持。

（四）Advisor 拦截器机制

Spring AI 提供可插拔的拦截器链，支持在模型调用前后执行提示词改写、安全过滤、日志记录等操作。这一机制使得开发者能够在不修改核心业务逻辑的情况下，对模型的输入输出进行灵活的定制和优化，增强了系统的可扩展性和安全性。

（五）检索增强生成（RAG）

Spring AI 内置轻量级 ETL 框架，支持从多种数据源提取文档并生成向量，还提供统一的向量存储抽象层，兼容多种向量数据库。通过结合 RAG 技术，可以充分利用企业内部的数据资源，为模型提供更丰富、准确的上下文信息，从而生成更符合业务需求和实际情况的响应内容。

四、Spring AI 的主要功能模块

（一）AI 模型集成模块

  1. 大型语言模型（LLM）支持：支持 OpenAI（如 ChatGPT 和 DALL-E）、Azure OpenAI、DeepSeek、QianWen、Anthropic Claude、Mistral AI、Ollama、Vertex AI Gemini 等多种流行的大型语言模型服务。

  2. 嵌入模型：支持 Vertex AI Embeddings、Amazon Bedrock、PostgresML、Transformers（ONNX）等多种嵌入模型，能够将文本或多模态内容转换为向量表示，为语义搜索、推荐系统等应用提供基础支持。

  3. 图像生成模型：支持 Stability AI 和 OpenAI DALL-E 等图像生成模型。

  4. 模型上下文协议（MCP）支持：提供 MCP 服务器和客户端支持，方便模型之间的通信和协作。

（二）向量数据库支持模块

Spring AI 支持丰富的向量数据库集成选项，包括 SQL 数据库向量支持（如 PGvector、MariaDB Vector Database、Oracle Vector Database）、NoSQL 数据库向量支持（如 MongoDB Atlas Vector Database、Elasticsearch Vector Database、Redis Search and Query、Neo4j Vector Database、Apache Cassandra Vector Database）、专用向量数据库（如 Pinecone、Weaviate、Qdrant、Milvus、Chroma、Typesense）以及云服务向量数据库（如 Azure AI Search、Azure Cosmos DB Vector Store）。这些向量数据库能够高效地存储和检索嵌入向量，为 AI 应用中的语义搜索、知识检索等功能提供有力支持。

（三）文档处理模块

Spring AI 提供了多种文档读取和处理工具，能够从不同格式的文档（如 Markdown、PDF 等）中提取文本并转换为 Spring AI Document 对象。这为后续的知识注入、内容分析等操作奠定了基础，方便开发者将各种文档资料整合到 AI 应用中，使模型能够基于这些文档内容生成更准确、更有价值的响应。

（四）对话记忆存储模块

该模块用于管理和存储聊天对话的历史记录，为模型提供上下文信息，使生成的对话更具连贯性和一致性。通过合理利用对话记忆，模型可以更好地理解用户的需求和意图，从而提供更个性化、更优质的对话服务。

（五）优化求解模块

Spring AI 提供了优化求解功能，可帮助开发者解决各种优化问题，如在资源有限的情况下如何做出最优决策等。这一模块在业务流程优化、生产调度、物流配送等领域具有广泛的应用前景，能够为企业提高运营效率、降低成本提供有力支持。

图片

五、Spring AI 的功能优势

（一）跨 AI 提供商的可移植 API 支持

提供同步 API 和流式 API 选项，还支持特定于模型的功能访问。开发者无需关注不同 AI 服务提供商的底层 API 差异，只需使用统一的接口即可调用各种 AI 模型和服务，大大提高了开发效率和代码的可移植性。

（二）AI 模型输出到 POJO 的映射

能够将 AI 模型的输出自动转换为 Java 对象（POJO），简化了数据处理过程。开发者可以直接在 Java 代码中操作这些对象，无需进行繁琐的数据转换和解析工作，提高了开发的便捷性和代码的可读性。

（三）工具/功能调用

允许模型请求执行客户端工具和功能，从而根据需要访问必要的实时信息。例如，模型可以调用外部 API 获取最新的天气数据、股票行情等，然后将这些信息融入到生成的响应中，为用户提供个性化的服务。

（四）可观察性

提供对 AI 相关操作的洞察，方便开发者监控和调试 AI 应用。通过可观察性功能，开发者可以实时了解模型的运行状态、性能指标、输出结果等信息，及时发现和解决潜在的问题，确保 AI 应用的稳定运行。

（五）用于数据工程的文档注入 ETL 框架

有助于将数据导入 AI 模型，提高数据处理的效率和质量。该框架支持从多种数据源提取数据、进行数据转换和加载，为模型的训练和推理提供了可靠的数据支持。

（六）AI 模型评估

用于帮助评估生成的内容并防止幻觉反应的实用程序。通过模型评估功能，开发者可以对模型的输出进行质量评估和验证，确保其准确性和可靠性，避免模型生成不符合实际或具有误导性的信息。

（七）Spring Boot 自动配置及 Starters

简化了项目的配置和依赖管理，使开发者能够更快速地启动和运行 AI 应用。借助 Spring Boot 的自动配置功能，开发者只需在项目中引入相应的 Starter 依赖，并进行简单的配置，即可完成 AI 模型和服务的集成，大大减少了开发工作量和配置错误的可能性。

（八）ChatClient API

用于与 AI 聊天模型通信的流畅 API，惯用语类似于 WebClient 和 RestClient API。提供了简单易用的编程接口，使得开发者可以轻松地构建各种聊天应用和智能客服系统。

（九）Advisors API

封装重复的生成式 AI 模式，转换发送到和来自语言模型的数据，并提供跨各种模型和用例的可移植性。通过使用 Advisors API，开发者可以快速实现常见的 AI 功能，如提示词优化、输出格式化等，提高了开发效率和代码的复用性。

（十）支持聊天对话记忆和检索增强生成（RAG）

能够记住聊天对话的历史，为生成更连贯和上下文相关的响应提供支持。同时，结合 RAG 技术，可以充分利用企业内部的数据资源，为模型提供更丰富、准确的上下文信息，从而生成更符合业务需求和实际情况的响应内容。

六、Spring AI 的应用场景

（一）智能客服

企业通过 Spring AI 构建智能客服系统，能够快速准确地解答客户问题，提高客户服务质量和效率。例如，梅奥诊所利用 Spring AI 实现了智能医疗咨询客服，为患者提供 24/7 的在线医疗咨询服务。

（二）数据分析

Spring AI 可帮助企业和机构从大量数据中提取有价值的信息，生成分析报告和洞察，辅助决策制定。在金融行业，摩根大通利用 Spring AI 技术对金融市场数据进行分析，为投资决策提供支持。

（三）内容创作

为创作者提供灵感和素材，协助生成文章、故事、文案等各种类型的内容，提高创作效率和质量。例如，新闻媒体机构可以使用 Spring AI 快速生成新闻报道初稿，然后由编辑进行审核和修改，从而提高新闻生产的效率。

（四）教育领域

辅助教师进行课程规划、作业批改、教学资源推荐等，同时为学生提供个性化的学习辅导和知识解答。例如，开发基于 Spring AI 的智能教育平台，根据学生的学习进度和成绩，为其推荐个性化的学习资料和练习题。

（五）医疗保健

除了医学问答，还可用于病历管理、医疗影像分析、医学研究支持等，提高医疗服务的质量和效率。例如，通过 Spring AI 集成医学影像分析模型，辅助医生对医学影像进行诊断和分析，提高诊断的准确性和效率。

图片

七、Spring AI 的使用示例

（一）环境配置

在使用 Spring AI 之前，需要确保开发环境满足一定的要求，如 JDK 17+和 Spring Boot 3.3+等。然后在项目的 pom.xml 文件中添加相应的依赖，例如使用 OpenAI 的依赖配置如下：

<dependency>      <groupId>org.springframework.ai</groupId>

    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>

    <version>1.0.0</version>

</dependency>

还需要在 application.yml 或 application.properties 文件中配置相关的 API 密钥和其他参数，例如：

yaml

spring:

  ai:

    openai:

      api-key: your_openai_api_key

      base-url: https://api.openai.com/v1

      chat:

        options:

          model: gpt-3.5-turbo

（二）聊天交互示例

创建一个 ChatController 类，注入 ChatClient，并使用它来处理聊天请求：

@RestController

public class ChatController {

    private final ChatClient chatClient;

    public ChatController(ChatClient.Builder builder) {

        this.chatClient = builder.build();

    }

    @GetMapping("/chat")

    public String chat(@RequestParam String input) {

        return chatClient.prompt()

                .user(input)

                .call()

                .content();

    }

}

在这个示例中，当用户发送一个聊天请求到/chat 接口时，ChatClient 会将用户的输入发送到配置的 OpenAI 聊天模型，并返回模型生成的响应内容。

（三）图像生成示例

使用 ImagePrompt 和 ImageModel 来生成图像：

ImagePrompt prompt = new ImagePrompt("一只穿西服的柴犬");

ImageResponse response = imageModel.generate(prompt);

Image image = response.getResult().getOutput();

这里创建了一个描述穿西服的柴犬的图像生成请求，并通过 ImageModel 发送到相应的图像生成模型，最后获取生成的图像结果。

（四）文本嵌入示例

利用文本嵌入功能将文本转换为向量表示，以便进行语义分析或其他基于向量的操作：

EmbeddingModel embeddingModel = new OpenAiEmbeddingModel();

List<Double> vector = embeddingModel.embed("Spring AI 功能");

将“Spring AI 功能”这个文本嵌入为一个向量 vector，可以用于后续的相似度计算、语义搜索等场景。

（五）检索增强生成（RAG）示例

结合向量数据库实现知识增强，提高生成内容的准确性和相关性：

// 假设已经有一个向量数据库 client 和相应的向量存储

VectorStore vectorStore = new PineconeVectorStore(apiKey, environment, indexName);

// 创建嵌入模型

EmbeddingModel embeddingModel = new OpenAiEmbeddingModel();

// 生成文本的嵌入向量

List<Double> queryVector = embeddingModel.embed("Spring AI 功能");

// 在向量数据库中搜索相似的向量

List<VectorStore.Result> results = vectorStore.search(queryVector, 5);

// 使用搜索结果来增强生成的内容

StringBuilder context = new StringBuilder();

for (VectorStore.Result result : results) {

    context.append(result.getContent()).append("\n");

}

// 将增强后的上下文与用户输入一起发送给语言模型生成最终的响应

String response = chatClient.prompt()

        .system("你是一个知识渊博的助手，根据下面的上下文回答问题：")

        .context(context.toString())

        .user("请告诉我关于 Spring AI 的功能。")

        .call()

        .content();

在这个示例中，首先将用户的问题“Spring AI 功能”转换为嵌入向量，然后在向量数据库中搜索相关的上下文信息，最后将这些上下文与用户问题一起发送给语言模型，以生成更准确、更有依据的回答。

（六）函数调用示例

允许模型调用外部函数或 API 来获取实时信息，扩展模型的能力：

// 定义一个函数回调接口

public interface WeatherFunction extends ToolCallback {

    String getWeather(String location);

}

// 实现函数回调接口

public class WeatherFunctionImpl implements WeatherFunction {

    @Override

    public String getWeather(String location) {

        // 调用实际的天气 API 获取天气信息

        return weatherApi.getWeather(location);

    }

}

// 在 ChatClient 中注册函数

List<ToolCallback> toolCallbacks = new ArrayList<>();

toolCallbacks.add(new WeatherFunctionImpl());

ChatClient chatClient = ChatClient.builder(chatModel)

        .defaultTools(toolCallbacks)

        .build();

// 在提示中调用函数

String response = chatClient.prompt()

        .user("请告诉我北京的天气。")

        .call()

        .content();

当模型需要获取北京的天气信息时，会调用之前注册的 WeatherFunction 函数回调，从而获取实时的天气数据并将其包含在最终的响应中。

八、Spring AI 的未来展望

Spring AI 作为 Spring 生态系统中的新兴技术，正在逐步改变 Java 开发者与 AI 大模型的交互方式。随着 AI 技术的不断发展和应用场景的不断拓展，Spring AI 将继续进化和完善，为开发者提供更多更强大的功能支持。

未来，Spring AI 将进一步加强与 Spring 生态系统的深度融合，与 Spring Cloud、Spring Data 等其他模块更加紧密地协作，为构建大型分布式 AI 应用提供全面的解决方案。同时，Spring AI 将持续扩大对各类 AI 模型和工具的支持范围，包括更多的开源模型、行业专用模型以及新兴的 AI 技术和框架，使开发者能够根据不同的业务需求灵活选择最合适的 AI 能力。

此外，Spring AI 还将重点关注性能优化和安全性提升，通过改进算法、引入更高效的计算资源管理策略以及增强数据加密和访问控制机制等手段，确保 AI 应用在高并发、大数据量场景下的稳定运行和数据安全。

在开发体验方面，Spring AI 将继续秉承 Spring 框架简洁易用的设计理念，不断完善其 API 设计、文档支持和示例代码，降低开发者的学习成本和开发难度，使更多的开发者能够快速上手并熟练掌握 Spring AI 的应用开发技巧，推动 AI 技术在各个行业的广泛应用和普及。

九、结论

Spring AI 的出现为 Java 开发者打开了一扇通往 AI 应用开发的大门，它凭借其强大的跨模型支持、丰富的功能特性和便捷的开发体验，使得开发者能够更加轻松地将 AI 能力集成到 Spring 应用中，加速业务创新和数字化转型进程。从智能客服到数据分析，从内容创作风教育医疗保健，Spring AI 在众多领域都有着广泛的应用前景，它将助力企业构建更加智能化、个性化和高效的解决方案，提升竞争力和用户体验。

随着 Spring AI 的不断发展和演进，我们有理由相信它将在未来的 AI 开发领域发挥更加重要的作用，成为 Java 开发者在 AI 时代不可或缺的得力工具，推动整个软件行业向更加智能化的方向迈进。