- 综合排序
- 最热优先
- 最新优先
- 来自专栏Python进阶之路
开源教育对话大模型 EduChat
EduChat 是华东师范大学计算机科学与技术学院的 EduNLP 团队开发的开源教育对话大模型。 该项目主要研究以预训练大模型为基底的教育对话大模型相关技术，融合多样化的教育垂直领域数据，辅以指令微调、价值观对齐等方法，提供教育场景下自动出题、作业批改、情感支持、课程辅导、高考咨询等丰富功能，服务于广大老师 在未来，开发者们将持续投入对基础模型的研究，并持续推出更为强大的 EduChat 版本，以丰富全球教育大模型生态，加速全球教育信息化进程。 模型回复可能存在偏见，有可能生成危险性言论。 在某些场景中，比如推理、代码、多轮对话等方面，模型的能力仍有待提高。 ---- ️ 参考链接： EduChat - 探索了针对教育垂直领域的对话大模型相关项目研发 EduChat 模型 - 在 educhat-base-002-7b 基础上，使用构建的教育领域多技能数据微调后得到
1.9K30编辑于 2023-07-10 - 来自专栏数据派THU
中文对话大模型BELLE全面开源！
来源：高能AI本文约1000字，建议阅读5分钟模型调优仅使用由ChatGPT生成的数据，为中文指令提供更好的支持。 中文对话大模型开源社区迎来了一名浓眉大眼的新成员！ 但是这样的技术不应该只被掌握在一家公司手中，因此BELLE项目应运而生了，他们的初衷是为了促进中文对话大模型开源社区的发展。为此，他们在三个方面做了初步的尝试，并已经开源了他们的研究成果。 模型：大模型的训练往往具有较高的成本，而一个具备初步的能力的对话模型，将大大降低使用和科研的门槛。为此，他们基于Bloom和LLAMA，训练了出具效果的对话模型，并完全开放了这些模型的参数。 轻量化：为了便于模型的部署和试用，BELLE团队同时开源了对话模型的量化版本。包括8bit, 4bit, 其中4bit版本模型checkpoint大小仅为6.9G，运行仅需8.4G显存。 总结 可以说BELLE的出现，大大促进了中文开源对话模型的发展，基于他们开源的数据和模型，更多的人可以尝试这些模型，更多的研究工作可以更快捷的展开。
98220编辑于 2023-04-05 - 来自专栏软件测试学习
基于LangChain的大模型对话简单demo
LangChain Python 提供了一个庞大的生态系统，拥有 1000 多个集成，涵盖聊天与嵌入模型、工具与工具包、文档加载器、向量存储等。 docs.langchain.com/oss/python/integrations/providers/overview 现在看一下怎么通过python脚本使用langchain-deepseek连接deepseek模型进行对话 运行方式 deepseek-chat：走「非思考模式」——像常规大模型一样“秒回”，适合日常对话、创意写作、客服问答。 的Chat models LangChain 支持通过统一的接口，从任意支持的模型提供商进行初始化聊天模型。 ： 总结 看完上面的内容的话，基本上就可以写一个简单的基于langchain的大模型基础对话的简单脚本了，关注我，后面会不定期更新其他内容。
55510编辑于 2025-11-12 - 来自专栏机器学习与统计学
命令行中与大模型对话
大家好，我是老章推荐一个有意思的可以在命令行与大模型对话的Python库 虽然各种code CLI工具很多，但是也不是什么问题都要去找Claude Code、Gemini CLI、Qwen Code这些烧钱的大家伙 LLM LLM 是一款功能强大的命令行工具和 Python 库，可与 OpenAI、Anthropic 的 Claude、Google 的 Gemini、Meta 的 Llama 等众多大语言模型进行交互 ，支持通过远程 API 及在本地安装运行模型。 chat 与模型进行持续对话 collections 查看和管理嵌入集合 embed 对文本进行嵌入并存储或返回结果 embed-models 管理可用的嵌入模型 embed-multi 一次性为多个字符串存储嵌入...
59910编辑于 2025-07-26 - 来自专栏代码编写世界
连接语言大模型（LLM）服务进行对话
引言 最近开始接触AI大模型方向的工作，第一个实例就尝试一下连接大模型进行对话的实现。 2. 这也是为啥现在大模型平台都可以选择接入不同的大模型来实现AI应用。 就是大模型的提示词，通过更改提示词，可以与大模型对话来得到自己想要的结果。 2.2 LangChain 除了使用openai模块，使用LangChain是个更好的选择。 当然，如果有的大模型提供batch接口，LangChain就会直接调用它。 2.3 其他 在阿里的百炼平台上还提供了“多轮对话”和“流式输出”的使用方式。这两种方式是构建AI Chat应用必须的。 “多轮对话”就是需要让大模型记住之前的对话内容，也就是上下文，以便得到更好的输出；“流式输出”则是让大模型的回答逐步渐进的输出，一个字一个字的呈现，以便让AI Chat应用的交互性更好。
37810编辑于 2025-07-21 - 来自专栏机器学习AI算法工程
【开源】度小满中文金融对话大模型
金融一直是轩辕大模型重点关注的领域和主要应用目标，因此我们首先在金融场景评测了XuanYuan-6B模型。 除金融外，我们也注重轩辕大模型的通用能力，因此我们也在多个主流评测集上进行了模型评测，观察轩辕大模型在知识、逻辑、代码等通用能力上的表现。评测结果如下表所示。 人工评测 除在各榜单进行评测外，我们进一步对XuanYuan-6B-Chat模型进行了人工评估，来公正客观地评估chat模型在对话场景中的真实能力。 主要特点： “以小搏大”的对话能力：在知识理解、创造、分析和对话能力上，可与千亿级别的模型相媲美 金融领域专家：在预训练和微调阶段均融入大量金融数据，大幅提升金融领域专业能力。 在模型训练中，团队在模型预训练阶段动态调整不同语种与领域知识的比例，融入了大量的专业金融语料，并在指令微调中灵活运用之前提出的Self-QA和混合训练方法，显著提升了模型在对话中的性能表现。
73210编辑于 2024-04-18 - 来自专栏王磊的博客
面试官：如何实现大模型连续对话？
所有的大模型本身是不进行信息存储的，也不提供连续对话功能，所以想要实现连续对话功能需要开发者自己写代码才能实现。那怎么才能实现大模型的连续对话功能呢？ 大模型连续对话功能不同的框架实现也是不同的，以行业使用最多的 Java AI 框架 Spring AI 和 Spring AI Alibaba 为例，给大家演示一下它们连续对话是如何实现的。 PS：我们只有先讲对话存储起来，才能实现连续对话功能，所以我们需要借助数据库存储来连续对话。 conversationId; private String role; private String context; private Date createdAt; } 5. MessageChatMemoryAdvisor advisor = new MessageChatMemoryAdvisor(chatMemory, sessionId, 10); // 保留最近5条历史
58310编辑于 2025-07-19 大语言模型为何难以模仿人类对话
测试了多种模型研究人员测试的大语言模型包括ChatGPT-4、Claude Sonnet 3.5、Vicuna和Wayfarer。首先，他们独立比较了人类之间的电话对话记录与大语言模型模拟的对话。 此外，它们还可以用来组织对话。大语言模型在使用这些词方面仍然很糟糕。"大语言模型以不同的方式使用这些小词，而且经常不正确，"比埃蒂说。这有助于暴露它们的非人类身份。但还有更多问题。 这种介绍，以及向对话新阶段的转换，大语言模型也难以模仿，"比埃蒂说。对话的结尾也是如此。我们通常不会在信息传达给对方后就突然结束对话。 相反，我们经常用"好吧，那么"、"好的"、"回头聊"或"再见"等短语来结束对话。大语言模型也未能完全掌握这一部分。未来会更好吗？ 大语言模型的改进很可能能够缩小人类对话与人工对话之间的差距，但关键的差异可能会持续存在，"比埃蒂总结道。就目前而言，大语言模型仍然不够像人类，无法欺骗我们。至少不是每次都能成功。
17410编辑于 2025-12-24- 来自专栏Java技术进阶
书生·浦语大模型图文对话Demo搭建
前言 本节我们先来搭建几个Demo来感受一下书生浦语大模型 InternLM-Chat-7B 智能对话 Demo 我们将使用 InternStudio 中的 A100(1/4) 机器和 InternLM-Chat -7B 模型部署一个智能对话 Demo 环境准备 在 InternStudio 平台中选择 A100(1/4) 的配置，如下图所示镜像选择 Cuda11.7-conda，如下图所示： 接下来打开刚刚租用服务器的进入开发机 messages.append((input_text, response)) print(f"robot >>> {response}") 然后在终端运行以下命令，即可体验 InternLM-Chat-7B 模型的对话能力 ，如下图所示： 在加载完模型之后，就可以与 InternLM-Chat-7B 进行对话了，如下图所示： Lagent 智能体工具调用 Demo 我们将使用 InternStudio 中的 A100 Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。
47810编辑于 2024-02-28 - 来自专栏#推荐系统及推荐算法
什么是大模型多轮对话式推荐？如何维护对话上下文？
本文将带你了解：大模型如何做多轮对话式推荐？对话上下文是怎么维护的？以及这背后的技术原理和工程实践。 二、什么是大模型多轮对话式推荐大模型多轮对话式推荐，是指利用大语言模型的理解和生成能力，通过与用户进行多轮自然语言对话，逐步收集和澄清用户偏好，最终给出个性化推荐结果的系统。 三、大模型对话式推荐如何工作3.1为什么大模型适合做这件事大模型具备三个关键能力，让它成为对话式推荐的理想选择：1.语义理解能力能听懂用户的口语化、主观化表达。 当用户在第5轮说"不要那种"，大模型知道"那种"指的是第2轮提到的款式。3.个性化生成能力回复不是模板化的，而是根据当前对话状态自然生成。不同用户、不同对话阶段，得到的回复都不一样。 用户：5000左右助手：请给出推荐...适用场景：对话轮数不多（3-5轮）、对成本不敏感的场景，如客服咨询。优点：简单直接，模型能看到完整对话流程。
15910编辑于 2026-04-11 对话腾讯汤道生：AI不止于大模型
这个群专门针对大模型技术变革，用于分享和讨论最新前沿并跟进业务进展。很多人说，对大模型，腾讯“不着急”。对此，汤道生表达了不同看法：“着急啊。我们在群里经常讨论，不能说不着急。” 但大模型只是AI大赛道中的一部分，人工智能领域的很多其他技术路线也很值得关注，要搭建一套有用的智能系统，大模型也可能只是其中一个模块。不是只有做大模型的玩家才是做AI。 汤道生：我们的AI布局大致分四层：基础设施、模型管理工具与引擎框架、大模型与模型商店、应用场景。 比如在CSIG的企业应用中，腾讯会议就用大模型来生成会议纪要，腾讯乐享就用大模型构建熟悉企业文档库的智能助手，Coding研发平台用大模型来生成代码。《潜望》：关于AI，你目前思考最多的问题是什么？ 还有一点，你如果投大模型企业，你投的可能是——随便说——给它投5亿美金吧。假设它1年消耗3亿算力，假设是0毛利与成本分5年摊销，对于云厂商的资本支出可能是5倍。
72210编辑于 2024-07-035种大模型Agent模式
大模型中的5种AI Agent模式在大模型中，AI Agent（人工智能代理）模式是一种重要的应用方式，可以从以下几个方面来理解：1. 在大模型的背景下，AI Agent 是基于大规模预训练模型（如 GPT 等）构建的智能代理，能够利用模型的语言理解和生成能力来完成复杂的任务。 智能性：它基于大模型的强大语言理解能力，能够理解自然语言指令，并生成自然语言响应。这种智能性使其能够处理复杂的语言任务，如对话、写作、翻译等。 工作原理感知与理解：AI Agent 首先通过输入（如用户指令、环境数据等）感知外部信息，然后利用大模型的语言理解能力解析这些信息，确定任务目标。 下面介绍5种常见的AI Agent模式：1.
4.1K10编辑于 2025-05-07- 来自专栏AI理论与前沿
AI大模型应用开发实战-Agent应用对话情感优化
5. 你会保存每一次的聊天记录，以便在后续的对话中使用。 6. 你只使用繁体中文来作答，否则你将受到惩罚。 5. 如果用户输入的内容比较兴奋，只返回"upbeat",不要有其他内容，否则将受到惩罚。 6. ，from_template() 更适合单一指令或查询模式化情感class Master: def __init__(self): # 初始化ChatOpenAI模型 5. 你会保存每一次的聊天记录，以便在后续的对话中使用。 6. 你只使用繁体中文来作答，否则你将受到惩罚。 5. 如果用户输入的内容比较兴奋，只返回"upbeat",不要有其他内容，否则将受到惩罚。 6.
1.1K00编辑于 2024-08-07 - 来自专栏机器之心
如何向大模型注入知识？达摩院通义对话模型SPACE系列探索
达摩院对话大模型 SPACE-1/2/3 在 11 个国际对话数据集取得 SOTA。 预训练对话模型 近些年来，预训练模型引爆了 NLP 的技术变革，比如 BERT[1]、GPT[2]、T5[3] 等。 例如，针对话理解，常见模型有 PolyAI 的 ConvRT [5]，Salesforce 的 TOD-BERT[6]和亚马逊的 ConvBERT[7]，针对对话生成，常见模型有微软的 DialoGPT 进一步详细分析如下图所示，Success 是对话完成率指标，BLEU 是对话生成指标，对话策略对于这两个指标有重要影响，注入对话策略知识后的大模型，在这两个这两个指标上带来了显著提升。 图 25 SPACE-3 模型结果 5.
2.1K20编辑于 2022-10-11 - 来自专栏机器之心
ChatGPT国产化：ChatYuan元语对话大模型升级
国产自研功能对话大模型元语 ChatYuan 于 2022 年 12 月发布测试版本后，引起社会各界人士的广泛讨论，并且收到了用户的大量反馈和宝贵建议。 --ChatYuan 和 ChatGPT 首次对话 --（建议全屏观看） 版本升级内容 【支持多次编辑】 第一次输入后，可以进一步提出要求，修正生成内容，快速更新所需内容。 欢迎各位朋友积极参与内测，国产通用大模型已成为势在必行的必备能力，欢迎大家一起共建和督促。 【欢迎有识之士】 元语智能团队欢迎所有对大模型有热情、有信仰的朋友加入。 可以通过元语智能公众号，后台留言【加入】联系元语团队，或发送邮件至 connect@yuanyu.ai 元语智能团队其他技术和产品介绍，可以阅读「首个中文版ChatGPT来了：大模型的中国元“Yuan”
83520编辑于 2023-02-23 引入了AI大模型开发客服对话质量评估助手
一、项目背景：传统客服对话质检的4大核心痛点我们公司客服团队有50+人，每天要处理上千条用户对话（覆盖文字、语音、在线聊天等渠道），传统的对话质量评估完全依赖人工质检，痛点突出到客服主管多次申请优化：评估效率极低 ，通过JBoltAI的多格式解析SDK，统一处理为标准化文本格式，用于模型训练和历史质量复盘；对话数据关联归档：按“客服ID+对话日期+问题类型”对对话记录进行分类归档，自动关联后续的评估结果和整改记录 标准化评估维度构建：结合行业标准和公司客服管理要求，构建“态度友好度、问题解决率、话术规范性、响应及时性、合规性”5大核心维度，每个维度下设具体评估指标（如态度友好度包含“是否使用问候语、是否耐心解答、 ）、合格（60-89分）、不合格（60分以下）”三个等级；同时标记扣分点（如“未使用规范结束语，扣5分”“用户不满未及时安抚，扣10分”），让评估结果清晰可追溯；个性化整改建议生成：利用JBoltAI的 我们优化了情感分析的特征提取规则，结合对话上下文判断情绪，同时增加人工校准环节，将误判案例反馈给模型进行迭代优化；系统性能瓶颈：全量评估时，大量对话同时解析和评分导致系统响应缓慢。
28510编辑于 2026-01-13- 来自专栏HUMAN3.0
当你在跟大模型聊天，其实是在跟什么对话？
“又进步了”，而是有点发怵：原来我每天用的大模型，可能并不是我以为的“高级自动补全”。 这件事一旦想清楚，你对“怎么用大模型”“该信它到什么程度”会完全换一套心智模型。 核心观点：大模型不是在背答案，而是在长出“解题结构” 很多人（包括我之前）对大模型的默认理解是： 输入一段话 模型按概率吐出下一个词 所以它本质是“文本预测器” 这句话没错，但不完整。 现状也别神话：我们可能刚把“显微镜”造出来 现在的可解释性工具，只能在部分任务、部分模块上看得清楚；研究对象更多还是中等规模模型。想完全看懂最顶级大模型内部运作，还差很远。 把大模型当“系统”，而不是当“神谕” 如果用一句话收束这篇：你和大模型对话，本质是在和一套内部会长出结构、会迎合、也会自我包装的系统对话。 所以你要做的不是“更会问”，而是“更会验”。
9710编辑于 2026-02-27 - 来自专栏啄木鸟软件测试
大模型测试：性能优化的5大实战策略
引言 随着ChatGLM、Qwen、DeepSeek及Llama系列大语言模型在金融、政务、医疗等关键场景加速落地，模型测试已远超传统‘功能是否正确’的范畴——性能成为决定能否上线的核心瓶颈。 这些并非个例，而是大模型测试进入深水区的典型信号：性能不是附加项，而是可信AI的第一道防线。 一、明确性能基线：拒绝‘拍脑袋’指标 大模型性能测试首要误区是套用小模型标准。 二、分层注入式压测：从单卡到集群的穿透验证 传统压力测试常止步于API层，而大模型性能瓶颈常藏于框架底层。 推荐采用‘四层注入法’： 1）API层：模拟真实用户请求分布（如80%短提示+15%中长提示+5%对抗性长上下文），避免均匀负载失真； 2）Engine层：直连vLLM/Triton推理引擎，注入不同 结语 大模型性能测试的本质，是构建‘可测量、可归因、可演进’的效能反馈闭环。
19010编辑于 2026-03-31 - 来自专栏深度学习自然语言处理
武侠小说视角：大模型对话系统的内功与外功
但是在 M-Cue 的情况下所有的大模型都能很好的跟随指令，这种情况下由于 D4 的对话上下文是最长的，导致其效果是三个数据集中最差的。 英文大模型：在 O-Cue 的情况下 Alpaca 也出现了类似 ChatGLM 的问题，即不能很好的跟随指令，此外英文大模型在较长的对话输入等场景下也表现不佳。 注：以上实验结果均基于 2023 年 5 月左右的模型表现。 以上均是方法层面的直接对比，我们额外进行了模型层面的对比。将 ChatGPT 作为锚点，我们评估了现有模型的相对表现。 Unsupervised SAFARI：给定一些 demostrations，我们直接使用 prompt 来要求大模型输出我们需要的内容，比如第一步要求大模型直接输出 source 序列，第二步根据对话上下文和中间辅助文档生成对应的回复 写在最后 本文探讨了一种以内外的视角去看待大模型时代下的对话系统，我们也关注内外合并，并做了简单的初步探索，欢迎大家关注我们的下一篇文章。
76210编辑于 2023-12-04 【大模型微调】一文掌握5种大模型微调的方法
（Prompt Tuning）在内的5种主流方法。 此过程旨在让模型适应具体的任务要求或学会遵循人类的指令风格，其产出物是精通某一领域的专家模型，例如专攻法律咨询、医疗问答或遵循人类指令的对话助手，从而完成从“通才”到“专才”的关键转变。 我们所讨论的5种微调方法，本质上都是对这个基础架构中自注意力机制与前馈神经网络等核心组件的参数进行优化的不同策略。 5、提示调整-轻量级的参数优化提示调整（Prompt Tuning）是一种“润物细无声”的微调，不改变模型自身，而是通过优化输入提示词的嵌入表示来引导模型输出。 》：汇集金融、医疗、汽车、法律、保险等众多领域大模型先锋案例《开箱即用微调数据集精选》：涵盖指令微调、对话、专业领域问答与代码生成等多个实战场景这份价值399元的精华资料，现在免费分享给前100位读者。
3.5K40编辑于 2025-10-23
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号