首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏王磊的博客

    干货:DeepSeek+SpringAI实现流式对话!

    ,但是大模型的响应速度通常是很慢的,为了避免用户用户能够耐心等待输出的结果,我们通常会使用流式输出一点点将结果输出给用户。 那么问题来了,想要实现流式结果输出,后端和前端要如何配合? 后端要使用什么技术实现流式输出呢? ,适合单向实时数据流,我们使用 Spring MVC(基于 Servlet)中的 SseEmitter 对象来实现流式输出。 emitter.completeWithError(e); } }).start(); return emitter; } } 2. DOCTYPE html> <html> <head> <title>流式输出示例</title> </head> <body> <h2>流式数据接收演示</h2>

    2.2K10编辑于 2025-02-14
  • 来自专栏h5

    基于Tauri2+Vue3.5+DeepSeek实战客户端Ai流式对话exe应用

    tauri2-vue3-winbot桌面端ai对话支持侧边栏收缩/展开、上下文多轮对话、代码高亮、本地存储会话、图片100%宽度渲染、在线图片预览、网络链接跳转、表格功能。 tauri2-deepseek采用无边框圆角窗口、自定义导航条设计,自定义托盘图标。 deepseek流式对话const completion = await openai.chat.completions.create({ // 单一会话 messages: [ {role: 'user false}) if (sessionstate.reachBottom) { props.scrollBottom() } }}基于uniapp+deepseek+vue3跨平台ai流式对话 2518214electron35+deepseek桌面端ai模板:https://cloud.tencent.com/developer/article/2514843vue3.5+deepseek网页版ai流式对话

    84120编辑于 2025-06-19
  • 来自专栏h5

    基于uniapp+deepseek+vue3跨平台ai流式对话

    基于uniapp+vue3集成deepseek-v3实战跨端流式输出AI对话系统。支持暗黑+亮色模式、代码高亮、本地会话存储等功能。支持编译到小程序+h5+app端。 编译到h5/小程序/app端效果如下:技术栈开发工具:Hbuilder X 4.57技术框架:Uniapp+Vue3+Pinia2+Vite5.x大模型框架:DeepSeek-V3UI组件库:uni-ui this.historySession : [{role: 'user', content: editorValue}], model: 'deepseek-chat', // deepseek-chat对话模型 this.historySession : [{role: 'user', content: editorValue}], model: 'deepseek-chat', // deepseek-chat对话模型 endifelectron35+deepseek桌面端ai模板:https://cloud.tencent.com/developer/article/2514843vue3.5+deepseek网页版ai流式对话

    2.8K22编辑于 2025-05-06
  • 来自专栏h5

    基于Flutter3.32+DeepSeek电脑端AI流式对话程序

    flutter3-winseek支持侧边栏收缩/展开、上下文多轮对话、代码高亮、本地存储会话、代码块横向滚动、复制代码功能、图片100%宽度渲染、在线图片预览、网络链接跳转、表格功能。 技术栈技术框架:flutter3.32.0+dart3.8.0对话大模型:deepseek-v3流请求:dio^5.8.0+1窗口管理:window_manager^0.5.0托盘管理:system_tray dio插件来请求deepseek api接口,实现流式对话功能。 token 数(默认使用 4096) 'temperature': 0.4, // 严谨采样 越低越严谨(默认1) });基于uniapp+deepseek+vue3跨平台ai流式对话:https 2518214electron35+deepseek桌面端ai模板:https://cloud.tencent.com/developer/article/2514843vue3.5+deepseek网页版ai流式对话

    75931编辑于 2025-06-07
  • 来自专栏大前端修炼手册

    Android 接入 LLM API 的工程实践:从选型到流式对话

    这样才真正做到逐 token 流式输出。 ⚠️ 注意:OkHttpClient 的 readTimeout 默认 10 秒,流式请求会被截断。 ViewModel 层:状态管理不要偷懒 流式输出接进来之后,UI 层怎么消费是个问题。 多轮对话的时候,每次请求都要把完整历史 messages 带上——这意味着对话越长,每次请求的输入 Token 就越多。 对 Android 工程师来说,这意味着 AI 功能不能只是接上 API 就完事,上下文记忆、个性化、连贯的多轮对话,这些工程细节才是真正区分产品体验的地方。 整体架构回顾 把上面的东西串起来,整体分层大概是这样: • UI 层(Composable):订阅 StateFlow,展示消息列表和流式气泡,处理用户输入 • ViewModel:维护对话状态,管理流式

    84810编辑于 2026-04-02
  • 来自专栏h5

    原创自研Flutter3.41+Dio+WindowManager打造桌面版AI问答系统

    基于flutter3.41.5+get+dio+window_manager对接deepseek-chat实战客户端ai流式会话系统。 widget.child, ), ), ], ), ), ], ), ),);flutter3 -ai对话编辑框return Container( width: double.infinity, padding: EdgeInsets.symmetric(vertical: 10.0), child chatStore.historySession : [{'role': 'user', 'content': editorValue}], // deepseek-chat对话模型 deepseek-reasoner 跨端ai应用vite7.2-deepseek流式ai对话|vue3.5+vant4+katex+mermaid智能ai打字会话最新实战Vite7.3+Tauri2.10深度集成DeepSeek桌面端AI

    32700编辑于 2026-04-15
  • HarmonyOS NEXT 实战:基于 ArkTS 与 DeepSeek API 构建流式对话助手

    HarmonyOS NEXT 实战:基于 ArkTS 与 DeepSeek API 构建流式对话助手不同于调用现成SDK,本文将手写原生网络层、解析SSE数据流,并利用ArkUI状态管理实现“打字机”效果 本文将深入鸿蒙的网络底层,利用onDataReceive回调实现实时流式(SSE)输出,并解决ArkUI高频刷新带来的性能瓶颈。2. string = ''; // 用于处理不完整的消息块 constructor() { this.httpRequest = http.createHttp(); } /** * 发起流式对话请求 上下文长度超限:DeepSeek上下文高达64K,但若对话轮次过多,需实现滑动窗口。可在发送前计算messages中content总长度,截断最早的user/assistant对话。 适配折叠屏,实现对话+文档双栏预览。

    29910编辑于 2026-08-09
  • 来自专栏h5

    flutter3.32对接deepseek桌面端ai流式对话Exe

    2025原创跨平台AI系统Flutter3.32+Dart3.8+Getx+Dio接入DeepSeek-v3搭建客户端流式ai对话模板。支持代码高亮、上下文多轮会话、本地存储对话等功能。 项目特色支持侧边栏收缩/展开支持上下文多轮对话、代码高亮、本地存储会话支持代码块横向滚动、复制代码功能支持图片100%宽度渲染、在线图片预览支持网络链接跳转、表格功能采用自定义无边框窗口、托盘图标项目结构目录基于

    33910编辑于 2025-06-05
  • 来自专栏Spring AI 进阶之路

    Spring AI 进阶之路02:集成SSE实现AI对话的流式响应

    在AI对话的场景里,我们问完问题后,只需要静静地听AI把答案一个字一个字“说”出来就行了。AI并不需要中途再听我们说什么。所以,更轻量、更简单的SSE,就是我们这个场景下的完美选择。 2.改造核心聊天服务这是本次迭代的核心部分。我们要将原来的同步聊天方法改造成流式处理,让AI的回复能够实时推送给用户。 head><metacharset="UTF-8"><metaname="viewport"content="width=device-width,initial-scale=1.0"><title>SSE流式对话 这个过程中,我们:深入理解了SSE技术:它简单、轻量,特别适合服务器向客户端的单向数据推送场景掌握了SpringAI的流式API:通过stream()方法获取响应流,配合响应式编程实现非阻塞处理实现了完整的流式对话系统 :从后端的SSE管理、流式处理,到前端的实时渲染,构建了一个完整的解决方案流式响应不仅仅是一个技术特性,更是提升用户体验的关键要素。

    1.7K02编辑于 2025-11-25
  • 来自专栏Spring系列实战

    SpringAI 接入混元大模型:流式对话与历史持久化实战

    包含混元API配置、ChatClient调用、SSE流式响应、CDBMySQL对话历史持久化、CLS日志接入的完整链路,附3个新手踩坑案例。 四、流式对话:SSE接口实现客服场景对首响时间极其敏感。同步调用混元要等整句生成,首响3-5秒;流式调用逐Token返回,首响200ms就能开始输出,用户感知"秒回"。 这是流式对话的完整闭环。 }}}returnreplyText;}五、对话历史持久化:CDBMySQL存储流式对话解决了"快"的问题,但客服场景需要"记"——用户关掉会话再打开,历史对话要还在。 2:SSE流式响应在Nginx反代下被缓冲,打字机效果消失现象:本地开发流式效果正常,部署到生产(Nginx反代)后,前端一次性收到全部内容,没有打字机效果。

    41510编辑于 2026-08-12
  • 鸿蒙原生应用实战:从零搭建 AI 应用,集成 MaaS 流式对话

    TL;DR速览核心结论:鸿蒙原生+MaaS,能搭出端云协同的AI应用开发底座:ArkTS写逻辑,ArkUI声明式画界面流式对话:MaaS返回分片,边收边渲染不卡壳我的判断:鸿蒙+AI是国产开发者的明确机会窗口 MaaS集成与流式对话怎么落地流式对话是这个教程的技术重点。什么叫流式?大模型生成答案不是一下子全出来,是一个字一个字往外吐。如果等它全生成完再显示,用户会盯着空白屏幕等好几秒。 流式的做法是,模型吐一点,界面显示一点,体验上就像「对方在打字」。落到鸿蒙里,流程大致是这样。 声明式框架在这里把「流式渲染」的成本降到了最低。流式对话有几个实现细节,踩过的人都知道。 二是断线重连,流式中断后是重发整个请求还是从断点续,得提前定好。三是上下文管理,多轮对话要带历史消息,但历史太长费token,怎么裁剪是个平衡活。这些具体实现,以官方文档为准。

    15110编辑于 2026-08-31
  • SSE 长连接复用优化:流式对话并发连接数降低 60%

    2026年,流式对话成为大模型交互核心形态,SSE(Server-SentEvents)因轻量、兼容HTTP、易穿透防火墙,成为聚合API流式输出的主流协议。 一、SSE长连接复用核心原理与架构1.1传统SSE架构痛点传统SSE为单会话单连接模式:每轮流式对话建立独立长连接,会话结束后连接关闭或闲置。 多路复用:单TCP连接承载多会话流,通过Session-ID区分数据,基于HTTP/2多路复用能力实现流隔离。连接池管理:动态维护连接池,闲置连接自动复用,超时连接安全回收。 )二、性能实测数据:连接数、延迟、稳定性2.1测试环境负载:1万并发流式对话(每会话5轮交互,单轮平均100token)基线:传统SSE(单会话单连接)对比:复用优化SSE(星宇智算2.0)、WebSocket 四、总结SSE长连接复用是聚合API流式对话性能优化的核心技术,通过会话绑定、多路复用、连接池管理,将并发连接数降低60%,资源占用下降45%,断流率降至1%以下。

    47110编辑于 2026-06-11
  • 来自专栏函数式编程语言及工具

    FunDA(2)- Streaming Data Operation:流式数据操作

    使用强类型主要的目的是当我们把后端数据库SQL批次操作搬到内存里转变成数据流式按行操作时能更方便、准确、高效地选定数据字段。 一般来说完整的流式数据处理流程包括了从数据库中读取数据、根据读取的每行数据状态再对后台数据库进行更新,包括:插入新数据、更新、删除等。 那么在上篇中实现的流式操作基础上再添加一种指令行类型就可以完善整个数据处理流程了,就像下面这个图示: Database => Query -> Collection => Streaming -> DataRow 如果用FunDA的流式操作思路就会很容易解决了,只要用join Query把b.status读出来再用b.id=a.id逐个更新a.status。 Status A = 2, B = 2 ID:3 Status A = 3, B = 3 ID:4 Status A = 4, B = 4 我们看到已经正确更新了TA的status字段值。

    1.8K60发布于 2018-01-05
  • 来自专栏数据库与编程

    通过流式数据集成实现数据价值(2)

    第1篇:通过流式数据集成实现数据价值(1) 本篇为通过流式数据集成实现数据价值的第2篇——流式数据集成。 流式数据集成的集成组件要求任何此类系统都必须能够从这些企业源中的任何一个连续收集实时数据,而与数据源的类型或数据的格式无关。 流式数据集成解决方案需要向外扩展。在跨集群分发处理和内存存储数据时,它们需要利用单台机器上的处理器线程和内存。 流式数据集成既可以为批处理分析和机器学习提供只支持附加的数据存储,也可以为即时洞察提供实时的内存分析。 任何支持流式数据集成的平台都必须提供所有这些功能,以处理多个关键任务和复杂的案例。如果缺少这些属性中的任何一个,就不能说平台是真正的流式数据集成。

    1.6K30编辑于 2022-04-23
  • 来自专栏福大大架构师每日一题

    实时流式工具调用引领智能对话新时代

    实时流式响应支持工具调用 2. 更精准的内存估算与日志调试 这两个维度的功能更新共同提升了系统整体的响应效率和开发调试体验,也为各种复杂场景中的“人机+工具”协作提供了坚实基础。 }, "required": ["location", "format"] } } } ] }' 运行后,模型即时返回天气工具调用请求并等待数据返回,从而实现更智能对话体验 2. 配置长上下文以提升效果 根据应用需求设置上下文最大长度,确保模型能获取更完整信息,优化结果。 3. 函数与工具设计需明确规范 为避免调用歧义,工具的函数定义、参数描述需详尽且符合模型识别标准。 此外,随着模型训练和上下文协议不断优化,结合流式工具调用的智能对话将成为新时代人工智能应用的核心形态,为企业和开发者创造前所未有的价值。 九、总结 Ollama v0.8.0以最尖端的技术变革,实现了“实时流式响应+工具调用”的完美结合,推动智能对话进入一个全新的效率和体验维度。

    96510编辑于 2025-06-06
  • 来自专栏GoLang那点事

    gRPC之流式调用原理http2协议分析

    HTTP2协议分析 什么是HTTP2 HTTP / 2并不是对HTTP协议的重写,相对于HTTP / 1,HTTP / 2的侧重点主要在性能。 HTTP / 2主要有两个规范组成 Hypertext Transfer Protocol version 2 (超文本传输协议版本2) HPACK - HTTP / 2的头压缩 (HPACK是一种头部压缩算法 HTTP / 2支持对请求划分优先级(就是流的优先级) HTTP / 2支持Server Push技术 下面一张图来对比HTTP/1和HTTP/2的请求过程: ? HTTP /2天然的通用性满足各种设备,场景 HTTP /2的性能相对来说也是很好的,除非你需要极致的性能 HTTP /2的安全性非常好,天然支持SSL HTTP /2的鉴权也非常成熟 gRPC基于HTTP /2多语言实现也更容易

    5.3K20发布于 2019-09-03
  • 来自专栏h5

    vite7.2-deepseek流式ai对话|vue3.5+vant4+katex+mermaid智能ai打字会话模板

    环境变量配置.env自己去申请一个api key,替换掉.env文件里面的key 即可丝滑体验流式对话功能。 vue3+deepseek实现多轮对话/流式输出const completion = await openai.chat.completions.create({ // 单一会话 /* messages finish_reason === 'stop') { // 确保最终内容完整更新 ... }}Okay,以上就是vue3+deepseek实现流式输出ai对话模板的一些知识分享。 bitsdojo_window客户端聊天Exe自研新版Flutter3.32仿微信app聊天|朋友圈模板基于uni-app+vue3实战短视频+聊天+直播app商城基于uniapp+deepseek+vue3跨平台ai流式对话 electron35+deepseek桌面端ai模板vue3.5+deepseek网页版ai流式对话

    60120编辑于 2025-12-23
  • 来自专栏KisFlow-Golang流式计算框架

    Golang框架实战-KisFlow流式计算框架(2)-项目构建基础模块-(上)

    KisFlow源代码:https://github.com/aceld/kis-flow2. source config.FMode = string(mode) //FunctionS 和 L 需要必传KisConnector参数,原因是S和L需要通过Connector进行建立流式关系 生成新的字段,将数据流传递给下游S进行存储,或者自己也已直接通过KisConnector进行存储C KisMode = "Calculate"// E 为扩展特征的KisFunction, // 作为流式计算的自定义特征 :"fname"` //必须Params FParam `yaml:"params"` //选填,在当前Flow中Function定制固定配置参数}// KisFlowConfig 用户贯穿整条流式计算上下文环境的对象 : "value2",},}flowFuncParams2 := config.KisFlowFunctionParam{FuncName: "funcName2",Params: config.FParam

    44210编辑于 2024-04-18
  • 来自专栏腾讯技术工程官方号的专栏

    微信C2C渐进式图片流式传输系统简介

    在微信C2C图片服务中,用户体验一直是第一位的,由架构平台部研发的微信C2C后台系统,也一直在用户体验上深入研究,经过多次技术数据的验证,采用渐进式格式,和产品体验的巧妙结合,可以大大的降低用户的体验时延 渐进式编码方式是先全局后局部,先轮廓再细节的编码方法,如图2。 ? ? 渐进式图片编码特性,可以被用来有选择性地控制传输的数据量,提高传输的成功率。 二、流式传输 这是类似流水线的传输过程,边传输边处理,在视频播放中普遍使用。通俗地说,就是数据像流水一样在网络中传输,通信双方在数据传输进行的过程中就即时处理,而不是等全部数据接收完毕再处理。 有别于流式传输的是普通“文件传输”,将整个图片文件当成一个整体,接收方在收到完整的数据后,再进行处理。或者将图片分成几个有限的小分片,每个分片是一个整体,单独进行传输,最后把分片拼接起来组成原图片。 在图片用渐进式编码格式的基础上,配合流式传输的控制方式,再加上动态可调整的文件最小传输长度,是该图片传输系统的“两把刷子”,缺少任何一个因素,效果都大大减弱。 本文转载至 腾讯架构师 微信公众号

    2.3K80发布于 2018-01-30
  • 来自专栏本立2道生

    Win32对话框程序(2)

    接着Win32对话框程序(1)来写 ,解决遗留的问题,即理解函数及其调用关系。 因此肯定有叙述不准确甚至错误的地方,请指正,感谢~  *******************************正文分割************************************ WinMain函数 Win32对话框程序 参数说明:参数1为包含The dialog box template的句柄,可以是NULL;参数2是The dialog box template,使用MAKEINTRESOURCE宏来讲对话框ID(整数 如WM_INITDIALOG等为消息,由操作系统传递给程序,根据MSDN,WM_INITDIALOG消息是在对话框马上要显示前(即对话框内存中已经准备好了,但还没有显示在屏幕上)发给程序的,程序可以在此时执行一些初始化操作 ,通过ID对他们进行标示,如果用户对他们进行了某种操作(比如单击),则在Main_OnCommand函数体内进入相应的case,执行其中的代码,如上,当点击“确定”按钮是会弹出“欢迎”对话框。

    1.7K30发布于 2018-10-11
领券