Spring AI系列之什么是大模型

<dependencies>
    <!-- HTTP客户端 -->
    <dependency>
        <groupId>com.squareup.okhttp3</groupId>
        <artifactId>okhttp</artifactId>
        <version>4.12.0</version>
    </dependency>
    
    <!-- JSON处理 -->
    <dependency>
        <groupId>com.alibaba</groupId>
        <artifactId>fastjson2</artifactId>
        <version>2.0.52</version>
    </dependency>
</dependencies>

import okhttp3.*;
import com.alibaba.fastjson2.JSON;
import com.alibaba.fastjson2.JSONObject;
import java.io.IOException;
import java.util.concurrent.TimeUnit;

public class DeepSeekChatDemo {
    
    // 配置常量
    private static final String API_URL = "https://api.deepseek.com/chat/completions";
    private static final String API_KEY = "sk-你的API密钥"; // 从DeepSeek控制台获取
    
    public static void main(String[] args) {
        try {
            String response = chatWithDeepSeek("你好，介绍一下自己吧");
            System.out.println("模型回复: " + response);
        } catch (IOException e) {
            System.err.println("API调用失败: " + e.getMessage());
        }
    }
    
    /**
     * 与DeepSeek模型进行对话
     * @param userMessage 用户输入
     * @return 模型回复文本
     */
    public static String chatWithDeepSeek(String userMessage) throws IOException {
        // 1. 初始化带超时设置的HTTP客户端
        OkHttpClient client = new OkHttpClient.Builder()
                .connectTimeout(30, TimeUnit.SECONDS)
                .readTimeout(60, TimeUnit.SECONDS)
                .writeTimeout(30, TimeUnit.SECONDS)
                .build();
        
        // 2. 构建请求体（支持复杂对话历史）
        JSONObject requestBody = new JSONObject();
        requestBody.put("model", "deepseek-chat"); // 模型选择
        requestBody.put("messages", new Object[]{
            createMessage("system", "你是一个专业、有帮助的AI助手"),
            createMessage("user", userMessage)
        });
        requestBody.put("max_tokens", 2048); // 生成上限
        requestBody.put("temperature", 0.7); // 创造性平衡（0.0-1.0）
        requestBody.put("top_p", 0.9); // 核采样参数
        
        // 3. 创建请求对象
        Request request = new Request.Builder()
                .url(API_URL)
                .header("Content-Type", "application/json")
                .header("Authorization", "Bearer " + API_KEY)
                .post(RequestBody.create(
                    requestBody.toString(), 
                    MediaType.parse("application/json")
                ))
                .build();
        
        // 4. 执行请求并解析响应
        try (Response response = client.newCall(request).execute()) {
            if (!response.isSuccessful()) {
                throw new IOException("HTTP错误: " + response.code() + " " + response.message());
            }
            
            String responseBody = response.body().string();
            JSONObject jsonResponse = JSON.parseObject(responseBody);
            
            // 提取回复内容
            return jsonResponse
                .getJSONArray("choices")
                .getJSONObject(0)
                .getJSONObject("message")
                .getString("content");
        }
    }
    
    /**
     * 创建消息对象
     */
    private static JSONObject createMessage(String role, String content) {
        JSONObject msg = new JSONObject();
        msg.put("role", role); // system/user/assistant
        msg.put("content", content);
        return msg;
    }
}

# 示例：不同粒度的Token拆分
"我喜欢吃香蕉" → ["我", "喜欢", "吃", "香蕉"] (4 tokens)
"I like eating bananas" → ["I", " like", " eating", " bananas"] (4 tokens)
"ChatGPT" → ["Chat", "GP", "T"] (3 tokens)  # 子词拆分
"2025" → ["2025"] (1 token)

// 示例：GPT-4-turbo的128K限制
系统提示: 500 tokens
对话历史: 10,000 tokens
当前输入: 2,000 tokens
可输出上限: 128K - 12,500 = 约115K tokens

# 使用系统消息而非长对话历史
system = "你是一个Python专家，只回答代码相关问题"  # 一次性说明
user = "如何用列表推导式过滤偶数？"  # 简洁提问
# 避免重复发送相同的system prompt

┌─ 你的核心需求是什么？
│
├─ 通用任务 + 成本敏感 → **DeepSeek-R1** (开源免费)
├─ 超长文档分析 → **Kimi Chat** (400万汉字) / **Claude3-Opus** (200K)
├─ 中文办公场景 → **文心一言** / **通义千问** (生态整合好)
├─ 企业级部署 → **智谱清言** (私有化支持) / **华为盘古** (工业级)
├─ 实时信息获取 → **Gemini 2.0** (搜索集成) / **Grok** (X平台实时)
└─ 创意内容生成 → **GPT-4o** / **Midjourney** (多模态最强)