- 综合排序
- 最热优先
- 最新优先
基于 .NET 的 AI 流式输出实现AgentFramework+SignalR
基于.NET的AI流式输出实现技术栈选择AgentFramework:用于构建AI代理的框架，支持模块化设计和任务编排。 SignalR:实现实时双向通信，支持WebSocket等协议，适合流式数据传输。 ：前端技术：Vue3前端框架IDS4单点登录系统一库多租户解决方案多级缓存机制CAP事件集成SignalR实时通信领域驱动设计AI智能体框架RAGAI检索增强RabbitMQ消息队列项目地址：github 代理实现创建支持流式输出的AI代理：展开代码语言：C#AI代码解释publicclassStreamingAiAgent:IAiAgent{publicIAsyncEnumerable<string>GetStreamingResponse 处理能力和SignalR的实时通信特性，可以构建高效的流式AI响应系统。
15310编辑于 2026-01-21零基础学AI大模型之Stream流式输出实战
AI大模型之ChatModel聊天模型与ChatPromptTemplate实战 12、零基础学AI大模型之LangChain链 零基础学AI大模型之Stream流式输出实战 前情摘要 在之前的LangChain 本文将聚焦LLM的Stream流式输出，从核心原理讲起，通过“故事小助手”“科普助手”两个实战案例，带你掌握从基础调用到LCEL表达式的流式落地，最后分析流式输出的优劣势与实战注意事项。 1. 为什么需要流式输出？先搞懂“一次性输出”的痛点 在学习流式输出前，我们先明确：流式输出不是“让模型生成更快”，而是“让用户感知更快”。 流式输出核心原理：什么是Stream？ 流式输出的优势与限制：实战前必看 流式输出虽能提升体验，但并非适用于所有场景。我们需要客观看待其优劣势，避免盲目使用。
40810编辑于 2025-12-22- 来自专栏h5
基于flutter3+deepseek+dio跨平台ai流式模板
2025实战跨平台ai对话，原创Flutter3.27.1+Dart3.6+Getx+Dio接入DeepSeek搭建流式ai输出模板。 behavior: CustomScrollBehavior().copyWith(scrollbars: false), // GetBuilder响应流式输出 null : const RouteSettings(name: '/login'); }}flutter3解析markdownimport 'package:flutter/material.dart 流式对话：https://cloud.tencent.com/developer/article/2518214electron35+deepseek桌面端ai模板：https://cloud.tencent.com /developer/article/2514843vue3.5+deepseek网页版ai流式对话：https://cloud.tencent.com/developer/article/2508594flutter3.27
77921编辑于 2025-05-26 - 来自专栏码匠的流水账
langchain4j+springboot流式输出
序本文主要研究一下langchain4j+springboot如何实现流式输出步骤pom.xml <dependency> <groupId>dev.langchain4j }); }); }StreamingChatLanguageModel提供了StreamingChatResponseHandler用于处理片段结果，结合Flux可以实现流式输出源码
2.1K10编辑于 2025-02-24 - 来自专栏鱼皮客栈
聊聊SpringAI流式输出的底层实现？
在 Spring AI 中，流式输出（Streaming Output）是一种逐步返回 AI 模型生成结果的技术，允许服务器将响应内容分批次实时传输给客户端，而不是等待全部内容生成完毕后再一次性返回。 技术实现 在 Spring AI 中流式输出的实现有以下两种方式： 通过 ChatModel 实现流式输出。 通过 ChatClient 实现流式输出。 ChatModel 流式输出 Spring AI 中的流式输出实现非常简单，使用 ChatModel 中的 stream 即可实现： @RequestMapping(value = "/streamChat Spring AI 流式输出 说完了前置知识，咱们回到主题：Spring AI 是如何实现流式输出的？ 生产级别使用的 Reactor 基本都是主从 Reactor 模型，它的执行流程如下： 小结 Spring AI 中的流式输出有两种实现，而通过查看这两种流式输出的实现源码可知，Spring AI 中的流式输出是通过
1.3K00编辑于 2025-04-29 - 来自专栏王磊的博客
聊聊SpringAI流式输出的底层实现？
在 Spring AI 中，流式输出（Streaming Output）是一种逐步返回 AI 模型生成结果的技术，允许服务器将响应内容分批次实时传输给客户端，而不是等待全部内容生成完毕后再一次性返回。 技术实现 在 Spring AI 中流式输出的实现有以下两种方式： 通过 ChatModel 实现流式输出。 通过 ChatClient 实现流式输出。 ChatModel 流式输出 Spring AI 中的流式输出实现非常简单，使用 ChatModel 中的 stream 即可实现： @RequestMapping(value = "/streamChat Spring AI 流式输出 说完了前置知识，咱们回到主题：Spring AI 是如何实现流式输出的？ 生产级别使用的 Reactor 基本都是主从 Reactor 模型，它的执行流程如下： 小结 Spring AI 中的流式输出有两种实现，而通过查看这两种流式输出的实现源码可知，Spring AI 中的流式输出是通过
1.1K10编辑于 2025-04-24 - 来自专栏h5
基于Flutter3.32+DeepSeek电脑端AI流式对话程序
调用deepseek流式输出通过dio插件来请求deepseek api接口，实现流式对话功能。 editorValue}], 'model': 'deepseek-chat', // deepseek-chat对话模型 deepseek-reasoner推理模型 'stream': true, // 流式输出 流式对话：https://cloud.tencent.com/developer/article/2518214electron35+deepseek桌面端ai模板：https://cloud.tencent.com /developer/article/2514843vue3.5+deepseek网页版ai流式对话：https://cloud.tencent.com/developer/article/2508594DeepSeek-Vue3 基于vite6+vant4仿deepseek/Kimi流式AI聊天小助手flutter3.27+getx仿抖音app短视频商城：https://cloud.tencent.com/developer/article
46631编辑于 2025-06-07 - 来自专栏实用技术
使用 Python 的 requests 库实现流式输出
使用 Python 的 requests 库实现流式输出import requestsurl = 'https://api.example.com/stream' # 替换为实际的API URLwith
39210编辑于 2025-07-30 - 来自专栏h5
自研新版Flutter3.32仿微信app聊天|朋友圈模板
0.15.0存储组件：get_storage^2.1.1下拉刷新：easy_refresh^3.4.0toast提示：toast^0.3.0网址预览组件：url_launcher^6.3.1项目框架结构flutter3 Alignment.bottomRight, colors: [ Color(0xFF0091EA), Color(0xFF07C160) ], ) ), ))flutter3 case 2: print('扫一扫'); break; case 3: print('收付款'); break; } },)flutter3 } voiceType = 0; }); }, ),)基于uni-app+vue3实战短视频+聊天+直播app商城基于uniapp+deepseek+vue3跨平台ai 流式对话electron35+deepseek桌面端ai模板vue3.5+deepseek网页版ai流式对话flutter3.27+getx仿抖音app短视频商城Electron32桌面端os系统electron31
29320编辑于 2025-07-12 - 来自专栏每月技术成长
大模型流式输出渲染导致的性能问题
Deepseek R1 32b（可惜的是其只提供 3 小时的动态域名，过期后需要重新生成，而绑定自定义域名的方式免不了繁琐的备案机制）发现问题在使用模板生成的网站中进行对话时，熟悉的风扇声又响起了……察觉到只有当流式生成 token 时，浏览器的 cpu 占用才会明显上升，也可以明显发现启用流式传输时，网络流量大大增加了，因此直接查看调用 API 以及负责渲染输出的模块。 其具体代码平平无奇，看不出什么问题，但联想到流式传输时，有大量的 token 陆续到达，而代码里是收到一个 token 就直接进行渲染，这种简单的文字渲染并不会使用到 GPU，短时间多次渲染可能对于 cpu 来说也相当于较大的负载了，毕竟此时渲染大概率是没用上缓存的……总结未经优化直接在每次收到 token 后直接渲染，导致了 cpu 计算负担的增加，因而出现了一进行流式输出，笔者的老旧笔电直接风扇起飞的现象
51100编辑于 2025-04-14 - 来自专栏h5
最新原创flutter3.27+bitsdojo_window客户端聊天Exe
super.key}); @override Widget build(BuildContext context) { return GetMaterialApp( title: 'FLUTTER3 onPointerMove: (e) { setState(() { sliderDraging = true; }); }, ), ),)flutter3 聊天模块自研新版Flutter3.32仿微信app聊天|朋友圈模板基于uni-app+vue3实战短视频+聊天+直播app商城基于uniapp+deepseek+vue3跨平台ai流式对话electron35 +deepseek桌面端ai模板vue3.5+deepseek网页版ai流式对话flutter3.27+getx仿抖音app短视频商城Electron32桌面端os系统electron31+vue3客户端聊天
40520编辑于 2025-07-22 - 来自专栏h5
最新跨平台flutter3.38+dart3.10深度集成短视频+直播+聊天
platform; return platform == TargetPlatform.windows; } return GetMaterialApp( title: 'Flutter3 路由页面 getPages: routePages, // 初始化弹窗key navigatorKey: MyDialog.navigatorKey, ); }}flutter3 ) { super.build(context); return widget.child; } @override bool get wantKeepAlive => true;}flutter3 bitsdojo_window客户端聊天Exe自研新版Flutter3.32仿微信app聊天|朋友圈模板基于uni-app+vue3实战短视频+聊天+直播app商城基于uniapp+deepseek+vue3跨平台ai 流式对话electron35+deepseek桌面端ai模板vue3.5+deepseek网页版ai流式对话
28321编辑于 2025-12-08 - 来自专栏灵墨AI探索室
深入探索Spring AI：源码分析流式回答
在上一章节中，我们深入分析了Spring AI的阻塞式请求与响应机制，并探讨了如何增强其记忆能力。今天，我们将重点讲解流式响应的概念与实现。 毕竟，AI的流式回答功能与其交互体验密切相关，是提升用户满意度的重要组成部分。基本用法基本用法非常简单，只需增加一个 stream 方法即可实现所需功能。 总结在当今的数字时代，流式响应机制不仅提升了系统的性能，还在用户体验上扮演了关键角色。 我们终于全面讲解了Spring AI的基本操作，包括阻塞式回答、流式回答以及记忆增强功能。这些内容为我们深入理解其工作机制奠定了基础。 这将帮助我们更好地理解Spring AI的内部运作原理，并为进一步的优化和定制化提供指导。我是努力的小雨，一名 Java 服务端码农，潜心研究着 AI 技术的奥秘。
1.3K40编辑于 2024-09-30 - 来自专栏陶士涵的菜地
HTTP方式请求并处理GPT聊天补全接口的流式响应输出
python使用HTTP方式，调用OpenAI的聊天补全的流式响应接口，并处理数据 目的是，如果需要对接fastGPT等其他第三方，需要额外增加参数，或者其他开发语言调用时，不能使用官方的类库。
2K10编辑于 2024-01-03 - 来自专栏小孟开发笔记
Uniapp仿ChatGPT Stream流式输出（非Websocket）-uniapp+see接收推送示例
前言# 最近写一个chagpt小程序，流式输出可以使用websocket也可以使用stream来实现，这里就不折腾websocket的了，我发现uniapp实现流式输出的方式挺多的，主要是有些小程序还不兼容 一个EventSource会对http服务开启一个持久化链接，它发送的事件格式是‘text/stream’，开启EventSource事件后，它会一直保持开启状态，直到被要求关闭 后端php，原生实现个流式输出即可 代表本次循环不进行输出 * @param $millisecond int 数据分发间隔，单位：毫秒 * @return string * @other void */ console.log(xhr.responseText) } } xhr.send() } EventSource方式# uniapp中也可以直接使用EventSource来实现流式输出 text); }) 这样就可以在小程序中把Arraybuffer转换为字符串了 还有许多方式，比如调用第三方库来代替TextDecoder，我就不去尝试了 注意： 1.enableChunked: true流式响应开关
6.1K21编辑于 2024-03-26 - 来自专栏Spring AI 进阶之路
Spring AI 进阶之路02：集成SSE实现AI对话的流式响应
这种实时反馈的交互体验，正是流式响应的独特魅力，也已成为AI应用的标配。 在本篇文章中，我们将对项目进行升级改造，通过使用SpringAI的流式API与SSE（Server-SentEvents）技术，让AI响应如“打字机”般自然呈现。 我们要将原来的同步聊天方法改造成流式处理，让AI的回复能够实时推送给用户。 的实时响应，监听finish事件知道响应结束发送聊天请求：通过普通的HTTPPOST请求触发后端的AI聊天实时渲染响应：收到数据块时立即追加到页面上，实现"打字机"效果效果测试现在，让我们启动项目来体验流式响应的魅力 试着问一些问题，你会发现AI的回复不再是漫长等待后的一次性呈现，而是像真人打字一样，一个字一个字地流畅展现。小结通过本文的学习，我们成功地将一个普通的AI聊天应用升级为支持流式响应的版本。
68900编辑于 2025-11-25 Vue3 封装 AI 问答组件实现 AI 流式回答问题
代码教程 Vue3实现AI流式回答问题：组件封装与应用实例 一、AI流式回答技术原理 （一）传统请求与流式响应对比 传统请求：客户端发送请求 → 服务器处理 → 一次性返回完整响应 流式响应：客户端发送请求 ：支持流式输出的AI模型（如OpenAI GPT系列） 通信协议：使用SSE(Server-Sent Events)或WebSocket 前端处理：实时解析和渲染流式数据 二、Vue3组件封装基础 （一 ）组件设计思路 独立封装AI对话功能 支持流式接收和渲染内容 提供自定义样式和交互接口 处理错误和加载状态 （二）核心技术点 使用Vue3的Composition API 处理异步数据流 实现文本逐字渲染动画 使用fetch API发起请求 通过ReadableStream读取流式数据 解析SSE格式数据（data: {...}） 流式问答组件。
1.2K10编辑于 2025-09-03- 来自专栏小孟开发笔记
使用SSE技术调用OPENAI接口并实现流式输出，用PHP语言实现
作为AI语言模型服务提供商，OpenAI 提供了一系列的 API 接口，其中大部分需要通过 HTTP 请求访问。对于大量数据的请求，传统的同步请求会导致网络响应变慢，无法满足实时数据处理和分析的需求。 因此，为了优化这些接口的调用效率，我们可以利用 SSE(Server Sent Events) 技术来实现流式输出，保证数据能够实时到达客户端，提高数据处理效率。 在 PHP 语言中，我们可以借助 GuzzleHttp Library 以及 ReactPHP Library 等工具库，通过 SSE 技术来实现 OpenAI 的 API 接口的调用和流式输出。 注意到在这里我们设置了对响应流的事件监听，以便解析响应结果并实现流式输出。 最后，我们输出了当前这个响应数据结果。 通过上述的代码实现，我们就可以轻松地将 OpenAI 的 API 接口进行 SSE 调用，实现流式输出，并有效提高数据处理效率。
3.4K10编辑于 2024-03-26 AI 流式响应实战：从同步等待到实时推送
AI流式响应实战：从同步等待到实时推送在IM系统中集成AI时，流式响应能显著提升性能。本文介绍AQChat如何实现AI流式响应，从同步等待到实时推送。一、为什么需要流式响应？ 1-2秒10秒好回调函数模式的设计统一接口设计定义统一的AI服务接口：展开代码语言：JavaAI代码解释publicinterfaceIAiService{/***流式调用AI服务*@paramuserMsg 代码解释//流式消息通知messageStreamMsgNotify{stringroomId=1;//房间IDstringmsgId=2;//消息IDUseruser=3;//AI助手信息int32streamType 平台集成的统一接口设计问题：不同AI平台的API不同阿里百炼：使用Flowable<GenerationResult>GiteeAI：使用MessageHandler<String>其他平台：可能有不同的流式接口解决方案 WebSocket实时推送提升响应速度七、总结关键点流式响应：使用回调函数模式，实时推送每个数据块统一接口：IAiservice统一不同AI平台的接口WebSocket推送：通过STREAM_MSG_NOTIFY
18810编辑于 2026-01-11- 来自专栏开源技术小栈
高性能PHP框架webman服务端实现流式输出有哪些解决方案？
流式输出优点 实时性：Stream流式输出能够实时地处理数据，减少了数据处理的延迟，使得数据处理的结果更加及时。 高效性：由于数据是分散存储的，因此可以并行处理数据，提高了数据处理效率。 可扩展性：Stream流式输出具有良好的可扩展性，当数据量增加时，可以通过增加节点来扩展系统的处理能力。 灵活性：Stream流式输出可以灵活地处理各种类型的数据，包括结构化数据、半结构化数据和非结构化数据。 流式输出应用场景 实时数据分析：通过Stream流式输出，可以对海量数据进行实时分析，从而得到实时的分析结果。例如，在金融领域中，可以对股票交易数据进行实时分析，得到实时的股票走势预测。 流式输出实现解决方案 webman SSE SSE也就是Server-sent Events，是一种服务端推送技术。
79110编辑于 2024-11-21
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号