- 综合排序
- 最热优先
- 最新优先
- 来自专栏王磊的博客
干货：DeepSeek+SpringAI实现流式对话！
，但是大模型的响应速度通常是很慢的，为了避免用户用户能够耐心等待输出的结果，我们通常会使用流式输出一点点将结果输出给用户。 那么问题来了，想要实现流式结果输出，后端和前端要如何配合？ 后端要使用什么技术实现流式输出呢？ ，适合单向实时数据流，我们使用 Spring MVC（基于 Servlet）中的 SseEmitter 对象来实现流式输出。 DOCTYPE html> <html> <head> <title>流式输出示例</title> </head> <body>
流式数据接收演示
在浏览器中访问地址 http://localhost:8080/index.html，即可看到流式输出的内容逐渐显示在页面上。2.2K10编辑于 2025-02-14 - 来自专栏h5
基于uniapp+deepseek+vue3跨平台ai流式对话
基于uniapp+vue3集成deepseek-v3实战跨端流式输出AI对话系统。支持暗黑+亮色模式、代码高亮、本地会话存储等功能。支持编译到小程序+h5+app端。 this.historySession : [{role: 'user', content: editorValue}], model: 'deepseek-chat', // deepseek-chat对话模型 deepseek-reasoner推理模型 stream: true, // 流式输出 max_tokens: 8192, // 限制一次请求中模型生成 completion this.historySession : [{role: 'user', content: editorValue}], model: 'deepseek-chat', // deepseek-chat对话模型 endifelectron35+deepseek桌面端ai模板：https://cloud.tencent.com/developer/article/2514843vue3.5+deepseek网页版ai流式对话
2.8K22编辑于 2025-05-06 - 来自专栏h5
基于Flutter3.32+DeepSeek电脑端AI流式对话程序
flutter3-winseek支持侧边栏收缩/展开、上下文多轮对话、代码高亮、本地存储会话、代码块横向滚动、复制代码功能、图片100%宽度渲染、在线图片预览、网络链接跳转、表格功能。 技术栈技术框架：flutter3.32.0+dart3.8.0对话大模型：deepseek-v3流请求：dio^5.8.0+1窗口管理：window_manager^0.5.0托盘管理：system_tray dio插件来请求deepseek api接口，实现流式对话功能。 token 数(默认使用 4096) 'temperature': 0.4, // 严谨采样 越低越严谨(默认1) });基于uniapp+deepseek+vue3跨平台ai流式对话：https 2518214electron35+deepseek桌面端ai模板：https://cloud.tencent.com/developer/article/2514843vue3.5+deepseek网页版ai流式对话
75931编辑于 2025-06-07 - 来自专栏大前端修炼手册
Android 接入 LLM API 的工程实践：从选型到流式对话
这样才真正做到逐 token 流式输出。 ⚠️ 注意：OkHttpClient 的 readTimeout 默认 10 秒，流式请求会被截断。 ViewModel 层：状态管理不要偷懒 流式输出接进来之后，UI 层怎么消费是个问题。 多轮对话的时候，每次请求都要把完整历史 messages 带上——这意味着对话越长，每次请求的输入 Token 就越多。 对 Android 工程师来说，这意味着 AI 功能不能只是接上 API 就完事，上下文记忆、个性化、连贯的多轮对话，这些工程细节才是真正区分产品体验的地方。 整体架构回顾 把上面的东西串起来，整体分层大概是这样： • UI 层（Composable）：订阅 StateFlow，展示消息列表和流式气泡，处理用户输入 • ViewModel：维护对话状态，管理流式
84710编辑于 2026-04-02 - 来自专栏h5
原创自研Flutter3.41+Dio+WindowManager打造桌面版AI问答系统
基于flutter3.41.5+get+dio+window_manager对接deepseek-chat实战客户端ai流式会话系统。 widget.child, ), ), ], ), ), ], ), ),);flutter3 -ai对话编辑框return Container( width: double.infinity, padding: EdgeInsets.symmetric(vertical: 10.0), child chatStore.historySession : [{'role': 'user', 'content': editorValue}], // deepseek-chat对话模型 deepseek-reasoner 跨端ai应用vite7.2-deepseek流式ai对话|vue3.5+vant4+katex+mermaid智能ai打字会话最新实战Vite7.3+Tauri2.10深度集成DeepSeek桌面端AI
32700编辑于 2026-04-15 HarmonyOS NEXT 实战：基于 ArkTS 与 DeepSeek API 构建流式对话助手
HarmonyOS NEXT 实战：基于 ArkTS 与 DeepSeek API 构建流式对话助手不同于调用现成SDK，本文将手写原生网络层、解析SSE数据流，并利用ArkUI状态管理实现“打字机”效果 网络层核心实现：手写SSE流式解析器HarmonyOS的http模块提供了onDataReceive回调，这是我们实现流式的关键。难点在于分片数据可能截断JSON，必须维护buffer进行粘包处理。 string = ''; // 用于处理不完整的消息块 constructor() { this.httpRequest = http.createHttp(); } /** * 发起流式对话请求 上下文长度超限：DeepSeek上下文高达64K，但若对话轮次过多，需实现滑动窗口。可在发送前计算messages中content总长度，截断最早的user/assistant对话。 适配折叠屏，实现对话+文档双栏预览。
29910编辑于 2026-08-09- 来自专栏h5
flutter3.32对接deepseek桌面端ai流式对话Exe
2025原创跨平台AI系统Flutter3.32+Dart3.8+Getx+Dio接入DeepSeek-v3搭建客户端流式ai对话模板。支持代码高亮、上下文多轮会话、本地存储对话等功能。 项目特色支持侧边栏收缩/展开支持上下文多轮对话、代码高亮、本地存储会话支持代码块横向滚动、复制代码功能支持图片100%宽度渲染、在线图片预览支持网络链接跳转、表格功能采用自定义无边框窗口、托盘图标项目结构目录基于
33910编辑于 2025-06-05 - 来自专栏Spring AI 进阶之路
Spring AI 进阶之路02：集成SSE实现AI对话的流式响应
这种实时反馈的交互体验，正是流式响应的独特魅力，也已成为AI应用的标配。 在AI对话的场景里，我们问完问题后，只需要静静地听AI把答案一个字一个字“说”出来就行了。AI并不需要中途再听我们说什么。所以，更轻量、更简单的SSE，就是我们这个场景下的完美选择。 head><metacharset="UTF-8"><metaname="viewport"content="width=device-width,initial-scale=1.0"><title>SSE流式对话 这个过程中，我们：深入理解了SSE技术：它简单、轻量，特别适合服务器向客户端的单向数据推送场景掌握了SpringAI的流式API：通过stream()方法获取响应流，配合响应式编程实现非阻塞处理实现了完整的流式对话系统 ：从后端的SSE管理、流式处理，到前端的实时渲染，构建了一个完整的解决方案流式响应不仅仅是一个技术特性，更是提升用户体验的关键要素。
1.7K02编辑于 2025-11-25 - 来自专栏Spring系列实战
SpringAI 接入混元大模型:流式对话与历史持久化实战
摘要:本文基于SpringBoot3.x+SpringAI1.0,通过OpenAI兼容接口接入腾讯混元大模型,从零搭建企业智能客服的首个流式对话接口。 包含混元API配置、ChatClient调用、SSE流式响应、CDBMySQL对话历史持久化、CLS日志接入的完整链路,附3个新手踩坑案例。 四、流式对话:SSE接口实现客服场景对首响时间极其敏感。同步调用混元要等整句生成,首响3-5秒;流式调用逐Token返回,首响200ms就能开始输出,用户感知"秒回"。 这是流式对话的完整闭环。 }}}returnreplyText;}五、对话历史持久化:CDBMySQL存储流式对话解决了"快"的问题,但客服场景需要"记"——用户关掉会话再打开,历史对话要还在。
41510编辑于 2026-08-12 鸿蒙原生应用实战：从零搭建 AI 应用，集成 MaaS 流式对话
TL;DR速览核心结论：鸿蒙原生+MaaS，能搭出端云协同的AI应用开发底座：ArkTS写逻辑，ArkUI声明式画界面流式对话：MaaS返回分片，边收边渲染不卡壳我的判断：鸿蒙+AI是国产开发者的明确机会窗口 MaaS集成与流式对话怎么落地流式对话是这个教程的技术重点。什么叫流式？大模型生成答案不是一下子全出来，是一个字一个字往外吐。如果等它全生成完再显示，用户会盯着空白屏幕等好几秒。 流式的做法是，模型吐一点，界面显示一点，体验上就像「对方在打字」。落到鸿蒙里，流程大致是这样。 声明式框架在这里把「流式渲染」的成本降到了最低。流式对话有几个实现细节，踩过的人都知道。 二是断线重连，流式中断后是重发整个请求还是从断点续，得提前定好。三是上下文管理，多轮对话要带历史消息，但历史太长费token，怎么裁剪是个平衡活。这些具体实现，以官方文档为准。
15110编辑于 2026-08-31SSE 长连接复用优化：流式对话并发连接数降低 60%
2026年，流式对话成为大模型交互核心形态，SSE（Server-SentEvents）因轻量、兼容HTTP、易穿透防火墙，成为聚合API流式输出的主流协议。 行业数据显示，未优化SSE架构下，单用户多轮对话独占1条长连接，万级并发需维持万级TCP连接，服务器CPU/内存占用超70%，易触发连接数限制、断流与卡顿。 一、SSE长连接复用核心原理与架构1.1传统SSE架构痛点传统SSE为单会话单连接模式：每轮流式对话建立独立长连接，会话结束后连接关闭或闲置。 :11000060%300ms+6个/域名复用优化SSEN:1（N≤5）4000（降60%）15%≤50ms无（HTTP/2多路复用）二、性能实测数据：连接数、延迟、稳定性2.1测试环境负载：1万并发流式对话 四、总结SSE长连接复用是聚合API流式对话性能优化的核心技术，通过会话绑定、多路复用、连接池管理，将并发连接数降低60%，资源占用下降45%，断流率降至1%以下。
47110编辑于 2026-06-11- 来自专栏福大大架构师每日一题
实时流式工具调用引领智能对话新时代
v0.8.0版本率先打破了这一瓶颈，成功实现了流式响应下的工具调用，即模型生成内容的同时，可以即时触发并执行工具调用。 }, "required": ["location", "format"] } } } ] }' 运行后，模型即时返回天气工具调用请求并等待数据返回，从而实现更智能对话体验 利用流式能力优化前端交互 结合WebSocket、事件流等技术打造实时聊天界面，实现内容增量展示与工具调用同步反馈。 5. 此外，随着模型训练和上下文协议不断优化，结合流式工具调用的智能对话将成为新时代人工智能应用的核心形态，为企业和开发者创造前所未有的价值。 九、总结 Ollama v0.8.0以最尖端的技术变革，实现了“实时流式响应+工具调用”的完美结合，推动智能对话进入一个全新的效率和体验维度。
96510编辑于 2025-06-06 - </template>tauri2-deepseek流式对话 // 使用数组存储chunk内容，提高拼接效率let chunks = []let lastUpdate = 0// 处理流式输出for await (const chunk of completion false}) if (sessionstate.reachBottom) { props.scrollBottom() } }}基于uniapp+deepseek+vue3跨平台ai流式对话 2518214electron35+deepseek桌面端ai模板：https://cloud.tencent.com/developer/article/2514843vue3.5+deepseek网页版ai流式对话来自专栏h5
基于Tauri2+Vue3.5+DeepSeek实战客户端Ai流式对话exe应用
tauri2-vue3-winbot桌面端ai对话支持侧边栏收缩/展开、上下文多轮对话、代码高亮、本地存储会话、图片100%宽度渲染、在线图片预览、网络链接跳转、表格功能。 icon-loading v-else size="18" /> </a-button>
vite7.2-deepseek流式ai对话|vue3.5+vant4+katex+mermaid智能ai打字会话模板
环境变量配置.env自己去申请一个api key，替换掉.env文件里面的key 即可丝滑体验流式对话功能。 vue3+deepseek实现多轮对话/流式输出const completion = await openai.chat.completions.create({ // 单一会话 /* messages finish_reason === 'stop') { // 确保最终内容完整更新 ... }}Okay，以上就是vue3+deepseek实现流式输出ai对话模板的一些知识分享。 bitsdojo_window客户端聊天Exe自研新版Flutter3.32仿微信app聊天|朋友圈模板基于uni-app+vue3实战短视频+聊天+直播app商城基于uniapp+deepseek+vue3跨平台ai流式对话 electron35+deepseek桌面端ai模板vue3.5+deepseek网页版ai流式对话
AI 流式响应实战：从同步等待到实时推送
AI流式响应实战：从同步等待到实时推送在IM系统中集成AI时，流式响应能显著提升性能。本文介绍AQChat如何实现AI流式响应，从同步等待到实时推送。一、为什么需要流式响应？ StringaiResponse=aiService.getAnswer(userMessage);//如果AI响应需要10秒，用户就要等待10秒sendMessage(aiResponse);问题：等待时间长：AI生成可能需要5- <AIResult>consumer);/***多轮对话*/defaultvoidchat(Stringmessage,List<MessageRecord>messages,Consumer<AIResult >consumer){}}关键点：使用Consumer<AIResult>作为回调每个数据块通过回调处理支持多轮对话AIResult设计展开代码语言：JavaAI代码解释publicinterfaceAIResult 10秒1-2秒5-10倍用户体验差好显著提升资源占用高低降低经验总结流式响应能显著提升性能统一接口便于多平台集成异步处理避免阻塞回调函数模式适合流式场景通过以上实现，AQChat实现了类似ChatGPT
大模型无限流式输入推理飙升46%！国产开源加速「全家桶」，打破多轮对话长度限制
最近，全新开源的国产SwiftInfer方案，不仅能让LLM处理无限流式输入，而且还将推理性能提升了46%。 在大型语言模型（LLM）的世界中，处理多轮对话一直是一个挑战。 前不久麻省理工Guangxuan Xiao等人推出的StreamingLLM，能够在不牺牲推理速度和生成效果的前提下，可实现多轮对话总共400万个token的流式输入，22.2倍的推理速度提升。 但StreamingLLM使用原生PyTorch实现，对于多轮对话推理场景落地应用的低成本、低延迟、高吞吐等需求仍有优化空间。 需要注意的是，StreamingLLM不会直接提高模型能访问的上下文窗口，而是能够在支持流式超多轮对话的同时保证模型的生成效果。 大模型无限输入流推理加速46% 原版本的StreamingLLM可以可靠地实现超过400万个token的流式输入，实现了比带重计算的滑动窗口注意力机制高出22.2倍的速度提升。
技术博主配音工具选型：从腾讯云TTS到开源方案，2026年5款工具横评
核心能力：多合成方式：提供基础语音合成、实时语音合成、流式文本语音合成和长文本语音合成四种产品形态。 流式输出：支持流式合成和自然语言情感标签（如[laugh]、[whispers]），支持多说话人生成。 核心能力：声音克隆基于阿里达摩院音频克隆技术，5-10秒本人录音即可生成高还原度专属声线。“捏声音”功能：自定义声线参数（性别、年龄、音调、气质）。 集成文案提取、爆文标题、AI写作模板、短视频脚本模板，支持多角色对话和20种情绪调节。一个会员账号在网页、APP、小程序三端通用，每日免费试用额度。合规要求：声音克隆必须使用本人录制或已获授权的音频。 试用后付费开源免费/0.003元/千字符高保真、私有化有声书、数据隐私项目配朵朵无否无每日免费免费额度日常够用一站式内容生产人工创作流程叮叮配音无否无完全免费0元轻量个人使用新手、应急媒小三配音无否高精度（5-
TTS服务技术选型：8款文字转语音工具的免费额度与API能力对比
）附加能力：AI写作、视频转文字、音频转文字、格式转换、批量导入平台：网页端、App、小程序（数据互通）4.媒小三配音API/SDK：无免费额度：每日试用次数，每月重置音色能力：预置数百款+声音克隆（5- 社区有封装）认证方式：APIKey（xi-api-key）免费额度：每月1万字符（免费版音频带水印，限速3次/分钟）音色能力：预置数十种+声音克隆（≥10分钟录音或即时克隆）控制能力：情感调节、发音细化流式返回 ))技术参数汇总表（开发者视角）工具APISDKSSML自定义词典声音克隆免费额度（月）绑卡要求布丁配音无无否否否无限字数否叮叮配音无无否否否无限字数否配朵朵无无否否否每日赠额否媒小三配音无无否否是（5- （AWSSDK）部分否否100万字符（首年）是开发者选型参考需求场景推荐方案理由纯手动生成，不写代码布丁/叮叮/配朵朵/媒小三无需编程快速API测试，不想绑卡ElevenLabs免绑卡，1万字符/月，流式返回需要多角色对话
配音工具技术选型：从轻量小程序到高保真TTS API的最佳实践
所以在选型时，我不仅看音色和体验，更看重API支持、计费策略、私有化部署选项、多语言兼容性、延迟和流式输出能力。这些是嵌入AIAgent或云原生应用时真正关键的技术要素。 ③媒小三配音：声音克隆与多重内容创作集成平台平台：网页+App+小程序核心功能：声音克隆：5-10秒录音即可高还原复刻专属声音模型，打造个人IP辨识度。 音色数量1300+，含20种情绪表达（冷笑、哽咽、怒吼等），多角色对话自然，阿里达摩院技术加持，中文发音准确性高。 ，数据不出私有环境声音克隆训练数据要求较高5-10秒录音即可克隆，还原度高零样本克隆，10-30秒参考音频延迟约300-500ms流式合成<300ms云端API约500-800ms，本地部署依赖GPU配置实时性支持流式支持 WebSocket流式合成，逐字输入适合LLM交互支持流式输出，首包延迟略高针对开发者的核心选型建议：如果开发智能客服、AI交互类应用：火山引擎TTS的WebSocket流式合成和低于300ms的首包延迟最适合实时场景
从0到1教你快速搭建自己的AI智能客服系统：RAG知识库、AI流式对话、Vue聊天助手接入实战
、RAG知识库、智能客服开源项目、AI客服机器人、Vue3AI聊天组件、AISuspendedBallChat、企业知识库问答如果你想把官网文档、产品手册、售后FAQ、工单处理SOP快速接入到一个「能对话 、能查知识库、能流式输出、能嵌入网页」的AI智能客服系统里，AI-Agent-Node是一个非常适合二次开发的开源脚手架。 后端需要会话、上下文、流式响应和工具调用能力。AI-Agent-Node已经把这些基础能力搭好了。 流式响应格式已经和AISuspendedBallChat兼容，正常情况下你不需要自己处理底层细节。十二、第十步：设计“转人工客服”流程一个可上线的AI智能客服必须有转人工策略。 AI-Agent-Node的优势是：它把智能客服系统背后的Agent编排、RAG检索、工具调用、流式输出、会话管理和前端适配都提前搭好了。
