Spring AI系列之RAG（检索增强生成）从原理到实战指南

"这个多少钱"    → [0.1, 0.5, -0.7, ..., 0.25]
"这个什么价格"  → [0.12, 0.4, -0.3, ..., 0.3]  ← 距离近（语义相似）
"给我报个价"    → [0.15, 0.3, -0.2, ..., 0.3]  ← 距离近（语义相似）
"我想要这个"    → [0.8, -0.1, 0.4, ..., -0.1]  ← 距离远（语义不同）

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-openai</artifactId>
</dependency>
<dependency>
    <groupId>io.milvus</groupId>
    <artifactId>milvus-sdk-java</artifactId>
    <version>2.2.10</version>
</dependency>

# OpenAI配置（用于Embedding和Chat）
spring.ai.openai.api-key=your-api-key
spring.ai.openai.embedding.api-key=your-api-key
spring.ai.openai.embedding.base-url=https://api.openai-hk.com

# Milvus配置
milvus.host=localhost
milvus.port=19530

public void createCollection() {
    List<FieldType> fieldTypes = Arrays.asList(
        // 主键ID
        FieldType.newBuilder()
            .withName("id")
            .withDataType(DataType.Int64)
            .withPrimaryKey(true)
            .withAutoID(true)
            .build(),
        // 向量字段（1536维，对应text-embedding-3-small）
        FieldType.newBuilder()
            .withName("feature")
            .withDataType(DataType.FloatVector)
            .withDimension(1536)
            .build(),
        // 原始文本
        FieldType.newBuilder()
            .withName("instruction")
            .withDataType(DataType.VarChar)
            .withMaxLength(65535)
            .build(),
        // 答案内容
        FieldType.newBuilder()
            .withName("output")
            .withDataType(DataType.VarChar)
            .withMaxLength(65535)
            .build()
    );
    
    CreateCollectionParam createParam = CreateCollectionParam.newBuilder()
        .withCollectionName("springai_rag")
        .withFieldTypes(fieldTypes)
        .build();
    client.createCollection(createParam);
    
    // 创建IVF_FLAT索引，加速检索
    CreateIndexParam indexParam = CreateIndexParam.newBuilder()
        .withCollectionName("springai_rag")
        .withFieldName("feature")
        .withIndexType(IndexType.IVF_FLAT)
        .withMetricType(MetricType.L2)
        .build();
    client.createIndex(indexParam);
}

@Autowired
private EmbeddingModel embeddingModel;

public void insertData(List<FaqItem> items) {
    for (FaqItem item : items) {
        // 1. 文本向量化
        float[] embeddings = embeddingModel.embed(item.getInstruction());
        
        // 2. 构建插入参数
        List<InsertParam.Field> fields = new ArrayList<>();
        fields.add(new InsertParam.Field("feature", 
            Collections.singletonList(embeddings)));
        fields.add(new InsertParam.Field("instruction", 
            Collections.singletonList(item.getInstruction())));
        fields.add(new InsertParam.Field("output", 
            Collections.singletonList(item.getOutput())));
        
        // 3. 插入Milvus
        InsertParam insertParam = InsertParam.newBuilder()
            .withCollectionName("springai_rag")
            .withFields(fields)
            .build();
        client.insert(insertParam);
    }
}

@Test
void ragTest() {
    String userQuestion = "预算8000元以内，适合深度学习的笔记本电脑推荐";
    
    // 1. 向量化查询
    float[] queryEmbedding = embeddingModel.embed(userQuestion);
    
    // 2. 向量检索Top-3
    SearchParam searchParam = SearchParam.newBuilder()
        .withCollectionName("springai_rag")
        .withMetricType(MetricType.L2)
        .withTopK(3)
        .withVectors(Collections.singletonList(queryEmbedding))
        .withVectorFieldName("feature")
        .withOutFields(Arrays.asList("instruction", "output"))
        .build();
    
    SearchResults results = client.search(searchParam).getData();
    List<RowRecord> records = new SearchResultsWrapper(results).getRowRecords();
    
    // 3. 构建上下文
    StringBuilder context = new StringBuilder();
    for (RowRecord record : records) {
        context.append("Q: ").append(record.get("instruction")).append("\n");
        context.append("A: ").append(record.get("output")).append("\n\n");
    }
    
    // 4. 构建增强Prompt
    String enhancedPrompt = String.format("""
      # 角色设定
       你是资深数码产品顾问，擅长根据用户需求推荐笔记本电脑。
       请严格基于以下商品库信息回答，不要推荐库中不存在的商品。
       
       # 商品库信息（Top-3匹配结果）：
       %s
       
       # 用户需求：
       %s
       
       # 回答要求：
       1. 先分析用户需求（用途、预算、性能要求）
       2. 从商品库中推荐1-2款最合适的，说明理由
       3. 如果商品库中没有匹配项，请明确告知"暂无符合要求的商品"
       4. 最后可简要补充选购建议（非强制）
        """, context, userQuestion);
    
    // 5. 调用LLM生成
    String answer = chatClient.prompt(enhancedPrompt).call().content();
    System.out.println(answer);
}

// 伪代码示例
List<Document> keywordResults = keywordSearch(query);
List<Document> vectorResults = vectorSearch(query);
List<Document> hybridResults = rerank(merge(keywordResults, vectorResults));

{
  "question": "预算8000元以内，适合深度学习的笔记本电脑推荐",
  "contexts": [
    "机械革命翼龙15 Pro配备RTX4060显卡，支持CUDA加速，售价7499元",
    "联想拯救者Y7000P 2024款搭载i7-14650HX和RTX4060，售价8499元超出预算",
    "轻薄本不适合深度学习，缺乏独立显卡"
  ],
  "answer": "推荐机械革命翼龙15 Pro，配备RTX4060显卡支持CUDA加速，价格7499元符合预算",
  "ground_truths": ["机械革命翼龙15 Pro，RTX4060，7499元"]
}