- 综合排序
- 最热优先
- 最新优先
- 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 ，这对于获取数据作为模型推理的一部分进行推理的应用程序非常重要，例如检索增强生成或RAG。 1️⃣根据与字符串查询的相似性返回文档： # 接受一个文本字符串作为输入，并返回与该文本最相似的向量 results = vector_store.similarity_search( "大模型的发展和繁荣既是当前 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
53521编辑于 2024-12-04 大模型应用开发实战
模型下载 目前国内外的通用大模型可以用密密麻麻来形容，gitee上面已经收录了1万多个了：https://ai.gitee.com/models 。 Net有WebAPI + IIS，java有spring boot+tomcat，大模型有FastAPI+Uvicorn：FastAPI 用于构建应用的业务逻辑，Uvicorn 是运行这些应用的服务器。 不得不吐槽下，大模型也搞前后端分离这套！. 怎么着也得个应用程序APP之类，再不济也得有个Web吧！好吧，安排！为了搞大模型的人能安心研究模型，不用花精力在界面上。 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.2K36编辑于 2024-09-01- 来自专栏xiaosen
大模型应用框架-LangChain
LangChain自身并不开发LLMs，它的核心理念是为各种LLMs实现通用的接口，把LLMs相关的组件“链接”在一起，简化LLMs应用的开发难度，方便开发者快速地开发复杂的LLMs应用。 LLMs: 大语言模型接收文本字符作为输入，返回的也是文本字符. 聊天模型: 基于LLMs, 不同的是它接收聊天消(一种特定格式的数据)作为输入，返回的也是聊天消息. 2.1.1 LLMs (大语言模型) LLMs使用场景最多，常用大模型的下载库：https://huggingface.co/models： 接下来我们以「文心一言」模型为例, 使用该类模型的组件： 第一步 第二步：借助百度智能云–千帆大模型平台：申请API Key 以及Secret Key 想请见附件手册 第三部：代码实现 import os from langchain.llms import 因为大模型虽然非常强大，但是也具备一定的局限性，比如不能回答实时信息、处理数学逻辑问题仍然非常的初级等等。因此，可以借助第三方工具来辅助大模型的应用。
1K10编辑于 2024-06-04 - 来自专栏深度学习与python
LangChain：简化大模型应用
作者 | Guy Nesher 译者 | 平川 策划 | Tina LangChain 框架提供了常见用例的抽象，简化了大型语言模型（LLM）（如 OpenAI GPT4 或 Google PaLM）的应用。 通常，比较复杂的应用程序会使用多个组件来生成所需的结果。 我们将用 SimpleSequentialChain 做个演示，它会按顺序运行多个提示。 今日好文推荐 爱奇艺VR公司业务停滞，员工或被欠薪；阿里云开源通义千问 70 亿参数模型，免费可商用；华为正式发布鸿蒙 4，接入大模型｜Q资讯 年薪超 600 万，比技术总监还高：电影行业 AI 产品经理的崛起 大模型竞争突然升级！亚马逊 CEO 亲自监督、组建新的核心技术团队，集中优势资源打造“最具野心”的大语言模型
42230编辑于 2023-09-08 - 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
背景 LangChain 是一个用于开发由大型语言模型（Large Language Model，LLM）驱动的应用程序的框架。 旨在简化使用大型语言模型的应用程序。 Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 v=9qq6HTr7Ocw 小结： 各模块采用松耦合设计，可通过标准化接口组合使用 实际应用中通常以链为核心组织工作流（如检索QA链=数据增强+模型I/O+记忆） 回调系统提供贯穿所有模块的可观测性能力 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强
60910编辑于 2025-08-04 - 来自专栏澜舟科技 NLP
大模型落地实践：同花顺大模型技术应用及优化
文内从业务角度介绍了大模型技术在同花顺业务上的应用以及未来探索的方向。众所周知，大模型参数量大，通用能力强，综合性能好。 这个问句量和用户量在问答系统中应该算非常大的。图片问财对话系统在大模型的应用上有几个难点。首先，它偏重金融业务知识，并且对于时效性要求很高。 这里特别说明一下“时效性”的问题。 确实在我们的业务模型里，规则占比非常大，也是因为涉及用户财产问题，技术上会比较保守。下面具体介绍问答系统里大模型应用的经验和取得的成果。 大模型的参数增加会带来效果的提升，但是在实际应用的经济角度考虑，宁可损失一些效果，尽量减少对资源的占用，所以我们投入了很大的精力做“模型轻量化”工作。 总结大模型技术在同花顺业务中的应用基本都有比较好的通用性，并且带来了比较好的性能提升，我们也希望在医疗、法律、教育等领域的子公司业务中推广，同时和澜舟科技以及学术界的老师们合作，把大模型用得更好，谢谢大家
2.9K20编辑于 2022-08-11 基于大语言模型的应用
在AI领域，大语言模型已成为备受瞩目的焦点，尤其在自然语言处理（NLP）领域，其应用愈发广泛。BLM作为一种多任务语言建模方法，旨在构建一个具备多功能的强大模型。 NLP中的文本生成任务通常需要使用大规模预训练模型进行训练，例如 BERT、GPT-2等。在预训练阶段，这些模型将使用大量语料库对其进行训练。 悦数图数据库凭借其前沿的图技术，为大语言模型注入了万亿级的丰富上下文，显著提升了模型的回答准确度，为企业级应用提供了强大的支持。 通过引入悦数图数据库，企业能够以更低的费用成本和更短的时间成本，实现大模型落地应用。这不仅优化了企业的运营效率，还提高了决策的准确性，为企业在激烈的市场竞争中赢得了宝贵的时间和资源。 未来，随着技术的不断进步和应用的深入拓展，悦数图数据库将继续为大语言模型领域注入新的活力，推动企业级应用走向更加智能、有效的新时代。
39110编辑于 2024-04-30- 来自专栏AI技术应用
AI教育大模型及其应用
人工智能在教育领域的应用日益深入，涌现出许多AI教育大模型，它们致力于提升教学效率、优化学习体验、推动教育公平。 以下是一些国内外知名的AI教育大模型及其应用：国内AI教育大模型：科大讯飞星火语伴： 基于科大讯飞星火认知大模型，主要应用于语言学习领域。 好未来MathGPT： 好未来（学而思）自研的数学学习大模型，专注于数学学科的学习。网易有道子曰教育大模型： 国内首个教育大模型，已率先推出六大应用，并在词典笔等学习硬件上实现全科辅导。 天工大模型（昆仑万维）： 国内首个对标ChatGPT的双千亿级大语言模型，也是AI搜索引擎和对话式AI助手。EmoGPT（华东师范大学）： 自研大模型，主要应用于心理疏导。 国外AI教育大模型：Khanmigo（可汗学院）： 基于ChatGPT-4，应用于多学科学习，为学生提供个性化问答和深度思考支持。
80410编辑于 2025-06-19 - 来自专栏喔家ArchiSelf
大模型应用的能力分级
对大模型应用的能力分级就像给学生打分一样，能让我们更清楚它的本事有多大。能力分级能帮我们设定目标，知道AI现在能干什么，未来还要学什么。 大模型的应用主要有两种常见模式：RAG 和 Agent。选哪种 RAG 架构，得看具体要解决什么问题，确保它适合任务需求。 关于RAG 的更多资料，可以参考《大模型系列——解读RAG》、《RAG的10篇论文-2024Q1》、《Chunking：基于大模型RAG系统中的文档分块》、《解读GraphRAG》和《在大模型RAG系统中应用知识图谱 》、《基于大模型（LLM）的Agent 应用开发》和《当你问代理机制的时候？ 小结 将大模型应用的能力进行分级，不仅有助于推动技术发展，还能更好地匹配实际应用场景，同时也让公众更容易理解其价值。
1.7K20编辑于 2025-03-31 - 来自专栏AI
AI语音大模型的应用
AI语音大模型的应用已渗透到日常生活、行业服务及社会发展的多个领域，凭借“自然交互、智能理解、多场景适配”的核心优势，重构了人机交互方式并推动效率革新。以下从典型场景出发，梳理其核心应用价值。 这类应用显著提升了弱势群体的数字生活参与度。2. 公共服务政府与公共机构利用语音大模型优化服务体验：政务热线通过语音交互快速解答政策咨询（如“异地就医如何备案？”） 四、技术融合趋势：从单一功能到生态协同当前，AI语音大模型正与视觉（图像识别）、触觉（传感器数据）等多模态技术融合，进一步拓展应用边界。 未来，随着声纹识别（身份验证）、情感计算（情绪感知）等技术的成熟，语音大模型将更懂“人”的需求，成为连接物理世界与数字世界的核心入口。 总结AI语音大模型的应用本质是通过“自然语言交互”降低技术使用门槛，同时以强大的智能理解能力解决实际问题。
54811编辑于 2025-09-29 - 来自专栏muller的测试分享
大语言模型应用框架介绍
大语言模型应用框架针对上述限制，直接调用大语言模型似乎并不是最佳选择，因此出现了基于大语言模型的应用框架，旨在解决这些问题。 大语言模型的应用框架通常指的是使用已有的大模型进行各种自然语言处理任务时所采用的软件架构或工具集，这些应用框架提供了一种便捷的方式，使得开发者能够利用大语言模型的强大能力解决特定的问题。 开放文档 丰富的示例代码和教程可能存在不完善或难以理解的情况社区活跃 活跃的社区支持和交流社区活跃度较低 更新维护频率持续的更新和改进 更新维护频率不稳定 目前有多种大语言模型的应用框架 包括 LangChain 的设计理念，兼具易用性（LCEL）与很强的拓展性，都成为学习大语言模型应用框架的首选如何学习大语言模型应用框架学习大语言模型应用框架应当循序渐进，所以本课程主要分为 5 个模块 总结了解什么是大语言模型应用框架。了解大语言模型应用框架的应用场景。了解常见的大语言模型应用框架。了解大语言模型的学习路线。
48510编辑于 2024-09-04 - 来自专栏AIGC新知
应用洞察 | 从大模型数据，看大模型的前瞻应用场景在哪里？
对比海外AI独角兽Anthropic旗下claude和国内字节旗下的豆包大模型使用数据，可以找出相关规律。 从上面这张图，可以看到，不同语言的人，对AI应用的方面也大相径庭。 豆包家族模型 继大语言模型之后，字节将视觉理解模型价格降低，视觉理解模型也迎来“厘时代”。 更低的价格，仍有合理的毛利，对于用户来说，不仅仅实惠，而且更加好用，真正的普惠于民。 C端，豆包模型表现特别优异，模型token使用量暴增。 截至12月中旬，豆包通用模型的日均tokens使用量已超过4万亿，较七个月前首次发布时增长了33倍之多。 这些数据，力证豆包大模型能力之强。 B端，豆包已经与国内汽车、手机、PC终端厂商进行合作，已经覆盖了3亿设备，这些智能终端的大模型调用量半年时间增长100倍！！
57910编辑于 2024-12-24 - 来自专栏后台技术汇
大模型应用之：MCP最佳实践
同样，在 MCP 之前，开发人员必须为每种 AI 应用程序和数据源的组合创建自定义集成。 开发案例 案例1：开源天气MCP，让大模型学会自己搜索最新天气预告 本质就是套壳了一个天气网站API（参考：天气网站），然后作为一个外置能力，提供给大模型调用。 file_system_mcp_server：https://github.com/modelcontextprotocol/servers/tree/main/src/filesystem） 总结 1、大模型是怎么自动完成复杂任务 大模型集成各类工具，结合自身思考和推理，一边拆解任务，一边按需调用工具。 2、大模型如何集成工具？ MCP（模型上下文协议，Model Context Protocol），是一种开源协议，大模型可以通过它和各类数据库、文件系统、开发工具、Web 和浏览器自动化进行协作。
96721编辑于 2025-07-24 - 来自专栏喔家ArchiSelf
双手沾泥，大模型应用并不神秘
面向大模型的应用开发也是一样的，理解大模型的基本原理，实际动手实践，在具体应用中对大模型进行微调，同样是一个循环迭代的过程。 双手沾泥，探索大模型应用的世界，将为我们揭示更多的乐趣。 1. 3.尝试应用 开发基于大模型的应用，核心是将大模型与其提供的API结合起来，需要注意的是，应用要与模型解耦，绑定会带来紧耦合，不利于系统扩展。 《大模型应用开发极简入门》一书中给了一些不错的练手项目，都可以动手尝试。 4. 大模型应用框架的使用 站在巨人的肩膀上， 从零构建一个成熟且复杂的大模型应用并不是一件轻松的事。 小结 当然，通过一本书实现大模型应用开发入门是可能的， 但和传统软件开发一样，如果要掌握大模型应用的开发技能， 实践仍然是不二的法门。 双手沾泥，大模型应用并不神秘。选择一个熟悉的任务，让我们开始构建相应的大模型应用吧。
44210编辑于 2024-03-22 - 来自专栏喔家ArchiSelf
大模型应用框架之Semantic Kernel
通过这样做，可以创建将两个世界的优点结合在一起的人工智能应用程序。 在Kevin Scott的演讲《AI Copilot的时代》中，他展示了微软如何用模型和插件为其Copilot系统提供能量。 Semantic Kernel提供了一组连接器便于添加存储和模型，能够在你的应用程序中添加一个模拟的“大脑”。 通过这种方式，插件就像人工智能应用程序的“身体”。 基于连接器和插件的可扩展性，可以使用它在几乎任何模型的基础上协调OpenAI和Microsoft的AI插件。 虽然是Semantic Kernel 官方文档给出的应用场景， 但实际上这些也是大模型AI应用的一般用途： 聊天和会话创建：用户可以创建一个会话代理，该代理使用从可信文档（如公司内部文档或技术支持文档 在交流和指导大模型AI的行为方面仍然发挥着至关重要的作用。
2.8K10编辑于 2023-11-20 - 来自专栏喔家ArchiSelf
大模型应用于数字人
大模型会改变整个软件行业， 其中具有代表性的产品之一是数字人， 那么，什么是数字人呢？数字人涉及了哪些关键技术呢？大模型对数字人的发展带来哪些影响呢？ 1. 什么数字人？ 大模型包含了数字人形象、动作、表情、口型、声音等要素，每个用户可以结合个人数据对数字人进行训练。 大模型对 2D 数字人的提效显著。AI 的生成能力天然适配 2D 数字人。 更重要的是， 大模型在很大程度上解决了数字人的自然语言理解能力，多模态大模型是数字人真正的灵魂。 另外，数字人缺少情感Al 算法的应用，没有办法通过判断人说话的情感来转变回复进而改变情感倾向，实现更人性化的交互，基于多模态的大模型或许可以部分解决这一问题。 小结 数字人是未来人工智能大模型最重要的应用入口。通过大模型的赋能，数字人的产品发展首先要提升自主创新能力，有赖于数字资产的确权、自有技术运营、IP的持续迭代与进化。
1.5K10编辑于 2023-11-07 - 来自专栏大模型
大模型应用开发基础-Prompt工程
大模型应用开发基础-Prompt工程1. 什么是Prompt？Prompt（提示词）是用户输入给AI模型的指令或问题，用于引导模型生成特定输出。 示例对比： 模糊Prompt："写一篇关于人工智能的文章" 精准Prompt："以科普风格写一篇800字文章，介绍AI在医疗影像诊断中的应用，包含3个实际案例" 2. Prompt工程的定义Prompt工程（Prompt Engineering）是通过优化输入指令的结构、措辞和上下文，使大语言模型（LLM）输出更准确、可靠且符合需求的技术。 大语言模型（如GPT-4、Claude、Gemini）本质是“概率生成器”，它们会根据输入提示猜测用户意图。 最终剩余：4个 不过2023年后发布的主流大模型（GPT-4 Turbo、Claude 3、Gemini 1.5）已原生集成思维链推理能力。
76110编辑于 2025-06-23 - 来自专栏后台技术汇
大模型应用之：SSE流式响应
一、背景 当使用ChatGPT时，模型的回复不是一次性生成整个回答的，而是逐字逐句地生成。 这是因为语言模型需要在每个时间步骤预测下一个最合适的单词或字符。 event-stream的MIME类型和事件流格式 2014年：随HTML5成为W3C推荐标准，SSE获得主流浏览器支持（除IE外），确立了其在Web实时通信中的地位 生态爆发期（2022年后） 随着ChatGPT等大模型应用兴起 ，SSE因流式输出特性成为大模型交互的首选协议，支持逐词返回的“打字机效果”，推动技术进一步普及 二、ChatGPT 流式输出原理 我们看一下ChatGPT的completion API的官方文档 演示案例 它在 Web 开发中具有广泛的应用，可用于构建聊天应用、实时监控系统等，并为开发人员带来便利和灵活性。但在需要双向通信、跨域支持或更复杂的实时应用中，WebSocket 技术可能更为适用。 /base-url的配置化方法，因为出于数据安全因素，大模型服务商并不采用云服务接入方法。
1K10编辑于 2025-07-27 - 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 背景 在深入探讨为什么需要一个用于构建基于语言模型的应用程序的框架之前，我们需要弄清楚语言模型是什么，并了解使用语言模型时可能遇到的一些典型复杂性。 2.1. 现在，我们可以将检索到的相关内容作为上下文，添加到我们打算发送给模型的提示中。 6. LangChain 的复杂应用 到目前为止，我们已经了解了如何使用单个组件来创建一个基于语言模型的应用程序。 链还可以组合多个链来构建更复杂的应用程序，这些应用程序可能需要与多个语言模型交互。 这些库未来将快速发展，它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣！
2.3K12编辑于 2025-03-29 - 来自专栏人工智能
大语言模型的模型蒸馏：概念、方法与应用
在人工智能领域，大语言模型（LLM）的出现带来了革命性的变革，例如 GPT 系列、BERT、T5 等模型展示了卓越的自然语言处理（NLP）能力。 为了解决这个问题，研究人员提出了 模型蒸馏（Model Distillation） 技术，该方法通过压缩和优化大模型，使其在保持高性能的同时降低计算资源的需求。 这种方法不仅提升了模型的实际应用价值，还为人工智能的发展提供了更具可行性的路径。 通过上述方法，学生模型能够在减少参数量的同时，尽可能保留教师模型的推理能力。真实世界的应用场景模型蒸馏 在多个 AI 领域中发挥着重要作用，以下是几个典型的应用场景：1. 通过这一技术，研究人员能够压缩庞大的 大语言模型，并将其高效部署到实际应用场景中，从而进一步推动人工智能的发展。
3.8K40编辑于 2025-02-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号