- 综合排序
- 最热优先
- 最新优先
- 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 通过LangChain，开发者可以更专注于业务逻辑的实现，而不必过多关注底层模型的复杂性。 ： chat = ChatZhipuAI( model="GLM-4-Plus", temperature=0.5, ) 使用消息对象与模型聊天： messages = [ AIMessage ，这对于获取数据作为模型推理的一部分进行推理的应用程序非常重要，例如检索增强生成或RAG。 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
67921编辑于 2024-12-04 大模型应用开发实战
至此一个大模型顺利下载完毕，它的结构如下图所示，别问我里面是啥，我也看不懂： （图4） 模型使用 以上算是完成了全部的准备工作，作为一个有效率的打工人，马上迫不及待地想看效果了。 至此最简单的模型应用开发完毕。 提供API支持 上面最简单的Hello world写完了，接下来就要为各种客户端提供接口服务了。. Net有WebAPI + IIS，java有spring boot+tomcat，大模型有FastAPI+Uvicorn：FastAPI 用于构建应用的业务逻辑，Uvicorn 是运行这些应用的服务器。 怎么着也得个应用程序APP之类，再不济也得有个Web吧！好吧，安排！为了搞大模型的人能安心研究模型，不用花精力在界面上。 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.4K36编辑于 2026-05-08- 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
背景 LangChain 是一个用于开发由大型语言模型（Large Language Model，LLM）驱动的应用程序的框架。 旨在简化使用大型语言模型的应用程序。 Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 v=9qq6HTr7Ocw 小结： 各模块采用松耦合设计，可通过标准化接口组合使用 实际应用中通常以链为核心组织工作流（如检索QA链=数据增强+模型I/O+记忆） 回调系统提供贯穿所有模块的可观测性能力 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强
95410编辑于 2025-08-04 1大模型应用开发基础
1、大模型应用开发基础 AGI（Artificial General Intelligence）中文译为「通用人工智能」。是具备超越人类智能的 AI。 AGI 时代，AI 无处不在，形成新的社会分层： AI 产品使用者，使用别人开发的 AI 产品 AI 产品制造者，设计和开发 AI 产品 基础模型相关，训练基础大模型，或为大模型提供基础设施（算力等） AI 技术正逐步应用于艺术创作。 「AI」之后出现「技」的概率大于其它字。这些字之间的概率关系，就是大模型训练时学到的。 划重点：使用大模型，首先要建立对象感。你是什么角色？Ta 是什么角色？ 大模型应用产品架构 Agent 模式还太超前，Copilot 是当前主流。 实现 Copilot 的主流架构是多 Agent 工作流 模仿人做事，将业务拆成工作流（workflow、SOP、pipeline） 每个 Agent 负责一个工作流节点 大模型应用技术架构 大模型应用技术特点
9710编辑于 2026-06-16- 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 简介 在本教程中，我们将详细探讨 LangChain[1]，一个用于开发基于语言模型[2]的应用程序的框架。我们将首先了解语言模型的基础概念，这些知识将对本教程有所帮助。 为了简化这些任务，我们需要一个像 LangChain 这样的框架作为 LLM 技术栈的一部分： 使用 LangChain 构建 LLM 技术栈 该框架还帮助开发需要链式调用多个语言模型的应用程序，并能够回忆起过去与语言模型过去交互的信息 此外，我们讨论了将 LangChain 作为技术栈的一部分对开发此类应用程序的重要价值。 这使得我们能够探索 LangChain 的 Java 版本 —— LangChain4j 的一些核心组件 。 这些库未来将快速发展，它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣！
3K12编辑于 2025-03-29 - 来自专栏大模型
大模型应用开发基础-Prompt工程
大模型应用开发基础-Prompt工程1. 什么是Prompt？Prompt（提示词）是用户输入给AI模型的指令或问题，用于引导模型生成特定输出。 Prompt工程的定义Prompt工程（Prompt Engineering）是通过优化输入指令的结构、措辞和上下文，使大语言模型（LLM）输出更准确、可靠且符合需求的技术。 大语言模型（如GPT-4、Claude、Gemini）本质是“概率生成器”，它们会根据输入提示猜测用户意图。 吃掉的数量：12 × 1/3 = 4 2. 剩余数量：12 - 4 = 8 3. 分给朋友：8 ÷ 2 = 4 4. 最终剩余：4个 不过2023年后发布的主流大模型（GPT-4 Turbo、Claude 3、Gemini 1.5）已原生集成思维链推理能力。
1.1K10编辑于 2025-06-23 - 来自专栏nginx
SpringAI vs LangChain4j：Java生态大模型应用开发终极对决
《SpringAI vs LangChain4j：Java生态大模型应用开发终极对决》 引言：Java在AI时代的重新定位 尽管Python主导了AI研究领域，但2024年JetBrains开发者调查报告显示 ，在企业级AI应用部署中，Java仍占据38%的市场份额。 两大Java生态框架的崛起尤为引人注目： SpringAI：依托Spring生态的完整企业级解决方案 LangChain4j：移植自Python生态的灵活开发框架 本文将从15个维度进行深度对比，并附可直接用于生产的代码示例 350 410 -12% 流式响应 2100 2400 +5% 第六章：选型决策指南 6.1 技术选型矩阵 需求场景 推荐框架 关键因素 传统Spring改造 SpringAI 无缝集成 快速原型开发 LangChain4j 灵活度高 复杂Agent系统 LangChain4j 模块化设计 高安全要求 SpringAI 企业级安全 6.2 混合架构建议 附录：开发者快速入门 SpringAI启动：
1.7K11编辑于 2025-11-16 - 来自专栏喔家ArchiSelf
基于大模型（LLM）的Agent 应用开发
目前，业界一般认为基于大模型的应用集中在两个方向上：RAG 和 Agent，无论哪一种应用，设计、实现和优化能够充分利用大模型(LLM)潜力的应用都需要大量的努力和专业知识。 这种流程的潜在设计空间可能是巨大而复杂的，《如何构建基于大模型的App》一文给出了一种探索中的大模型应用开发基础框架，基本可以适用于RAG 和Agent。 但是，对于面向Agent的大模型应用开发，有没有其独特之处呢？有没有聚焦于Agent的大模型应用开发框架呢？ 那么，什么又是Agent 呢？ 1. 2.2 大模型领域中的Multi-Agent 具体而言， 在基于大模型的应用领域中，当复杂任务被分解成更简单的子任务时，LLM已经被证明了拥有解决复杂任务的能力。 在了解了Agent 和 Multi-Agent 的基本概念以及常见系统之后，如何开发一个基于大模型的Agent应用呢？
8.1K34编辑于 2023-10-23 Hollis【实战课程】大模型应用开发实战
大模型应用开发实战摘要大语言模型（LLM）正在重塑软件开发的方式。从智能客服到代码助手，从数据分析到内容创作，大模型应用已经渗透到各行各业。 本文将从实战角度出发，系统性地介绍大模型应用开发的核心技术、工具框架和最佳实践，帮助开发者快速上手并构建真实可用的大模型应用。 一、大模型应用开发全景1.1 什么是大模型应用开发大模型应用开发，是指基于大语言模型（如 GPT、Claude、文心一言等）构建面向具体场景的软件应用。 与传统软件开发不同，大模型应用的核心是"如何让模型理解需求、调用工具、生成有价值的内容"。大模型应用开发的典型特征包括：以 Prompt 为核心：应用的行为很大程度上由提示词（Prompt）决定。 、大模型 API 接入与基础使用2.1 主流大模型 API当前可接入的主流大模型 API 包括：国外模型：OpenAI GPT-4 / GPT-4o / GPT-4o-miniAnthropic Claude
20510编辑于 2026-07-01- 来自专栏AIGC大模型应用
为什么要学习大模型应用开发？
AI虽有应用场景，好像跟普通人无关？ 如智能驾驶，人脸识别，跟普通人关系不大，我们都是被动使用。但现在大模型跟我们每人都有关，强大的提升工作效率工具。 3 大模型的应用需求 公司内部问题解决、产品解答、智能聊天和游戏NPC等方面的应用需求。大模型可提高效率、流畅度和人机交互体验。随需求增加，相关工程师需求也会提升。 就好像你开发应用一样，你现在去开发操作系统，你除非说国产替代，正常来讲，微软和苹果已把操作系统完全占领，你不可能再打开空间。再往上，可能微信QQ之类的，你再开发一个类似的，也不可能打败它。 所以用高效微调训练一个6B模型及launch基于long ten结合一个稍微小一点的语言模型6B的进行一些应用的开发 强化学习，在ChatGPT训练时用到 不像有的人讲ChatGPT，直接把NLP一大套底层知识搬给你 但建议你有能力，感觉数学还可，还是把公式啃完，当然了大部分应用开发工程师不需要。
63900编辑于 2025-05-26 大模型应用开发提示工程书籍推荐
《AI原生应用开发：提示工程原理与实战》是一本由人民邮电出版社权威出版，专门针对正在探索如何利用大模型做应用场景落地的人群，如研发工程师、产品经理、技术经理等。 它站应用落地视角让你理解大模型是什么，能干什么，如何落地。 第1章：提示工程概述 深入探讨AI原生应用的挑战与机遇，揭示大语言模型与实际应用间的鸿沟，强调提示工程在弥合这一差距中的关键作用。 第4章：内容创作提示 提供系统化的内容创作提示方法，解决大语言模型在创意、文风等方面的挑战，分享实用的创作技巧与长文本创作策略。 第6章：提示安全设计 探讨提示安全设计在AI原生应用开发中的重要性及其挑战，揭示大语言模型面临的安全问题，并提出应对策略。 本书内容详实，结构清晰，不仅适合大模型应用开发者、产品经理等群体阅读，也适合对AI原生应用开发感兴趣的读者参考。
97810编辑于 2025-07-09- 来自专栏AIGC大模型应用
AI大模型应用开发实战(05)-AI时代应用开发破局！
怎么想、怎么做，全在乎自己「不断实践中寻找适合自己的大道」 后端应用级开发者该如何拥抱 AI GC？就是在这样的一个大的浪潮下，我们的传统的应用级开发者。 再往下就是 2 行业垂直大模型 在基座模型基础上灌入一些行业垂直数据，基本上可理解为它是在基座模型的基础上做微调。 这个是从一个大的行业趋势，可以看到说应用级开发者，该如何去拥抱我们这个大模型。 再往上就是大模型开发。 包含对大模型的了解，在大模型之上是我们的应用组件，那么应用组件上面是我们的应用框架。
2.2K00编辑于 2024-08-11 - 来自专栏AI理论与前沿
AI大模型应用开发实战-Agent应用对话情感优化
4. ”伤情最是晚凉天，憔悴斯人不堪怜。” 以下是你算命的过程： 1. 当初次和用户对话的时候，你会先问用户的姓名和出生年月日，以便以后使用。 2. "{input}" ), MessagesPlaceholder(variable_name="agent_scratchpad"), ],)重启应用 4. 如果用户输入的内容包含辱骂或者不礼貌词句，只返回"angry",不要有其他内容，否则将受到惩罚。 5. 更适合模拟真实对话，from_template() 更适合单一指令或查询模式化情感class Master: def __init__(self): # 初始化ChatOpenAI模型 4. 如果用户输入的内容包含辱骂或者不礼貌词句，只返回"angry",不要有其他内容，否则将受到惩罚。 5.
1.4K00编辑于 2024-08-07 - 来自专栏DotNet NB && CloudNative
大模型应用开发基础 : 语言模型的关键思路跃迁
我们常常说大语言模型（LLM），那么语言到底是什么？ 语言是信息的载体，承载着沟通的信息，无论是中文，英文，亦或是甲骨文，没有语言，人与人就无法沟通。 语言模型是什么？ （3）基于统计：在基于规则的研究热潮之后即1970~1990，科学家们发现基于统计的方法来解决NLP问题更好用，他们将统计方法应用于解决语音识别的问题。 （4）深度学习：在1990年至今的几十年里，在确定了以基于统计的基本方法背景下，通过深度学习技术和大数据技术的发展下，数据驱动NLP就成为了主流。 而即使我们花费了大量力气来编写这些规则，像刚刚这句话也最多就能套用在另一句跟其很相似的如“爱迪生喜欢博客园”这种格式的句子而已，换句话说，它在于我们应用于其他的各种各样的语言格式的时候，它并不好用！ (P表示Probability即可能性) 例如，当人类开口说出第一个词是“你”，由于大模型已经统计过人类有史以来所有的句子了，它就发现只要人类开口第一个字出现的是“你”这个字的概率大概是万分之一，根据条件概率公式
39300编辑于 2024-11-27 - 来自专栏全栈测试技术
LangSmith：大模型应用开发的得力助手
LangSmith：大模型应用开发的得力助手大语言模型（LLM）快速发展，构建高效、可靠的 LLM 应用成为开发者核心需求；但开发过程中，缺乏对应用内部运行的洞察，导致调试和优化难度显著增加；LangSmith 针对这一痛点，为 LLM 应用开发全流程提供支持。 ，调试难度大；LangSmith 通过挂钩 LangChain 应用执行流程，自动捕获每步操作，将信息转化为有序、可视化的数据流，帮助开发者清晰掌握执行细节。 4. ，及时发现性能瓶颈与异常（如 Token 消耗异常增加，可能是无效请求或模型调用问题），采取调整措施保障应用稳定运行。
80220编辑于 2025-09-18 TL-JAVA+AI大模型智能应用开发
在人工智能技术席卷全球的当下，企业级大模型应用正成为数字化转型的核心驱动力。然而，传统Java开发者往往面临技术断层：既需要突破AI算法的复杂门槛，又要解决大模型与现有业务系统的融合难题。 工程化工具链重构开发范式TL课程独创的“三明治架构”彻底改变AI开发模式：底层采用Spring AI框架封装大模型调用接口，中间层通过LangChain4J实现知识库检索增强生成（RAG），顶层提供可视化流程编排工具 Java开发转型后，主导设计的“智能供应链系统”帮助企业降低库存成本2.1亿元，获评“中国AI应用创新奖”。 四、未来展望：智能系统的无限可能随着大模型技术进入“工程化落地”深水区，TL课程正探索三大前沿方向：自适应学习系统：开发能够根据业务反馈自动优化模型参数的智能引擎隐私增强计算：研究同态加密、差分隐私等技术 ，保障企业数据安全具身智能集成：探索大模型与机器人、物联网设备的深度融合在AI重塑产业格局的今天，TL课程证明：Java开发者不仅不会被时代淘汰，反而能凭借工程化优势成为智能系统构建的核心力量。
65110编辑于 2025-11-21TL-JAVA+AI大模型智能应用开发
在人工智能的浪潮之巅，大语言模型（LLM）以其惊人的能力，正以前所未有的深度和广度重塑着各行各业。 起点：不止于“Hello, World”的模型调用对于许多开发者而言，与AI大模型的初次邂逅往往始于一个简单的API调用。 核心：RAG——让大模型“接上地气”单纯依赖大模型预训练知识的应用是脆弱的。为了让AI能够理解企业私有的、动态更新的知识，检索增强生成（RAG）架构应运而生。 开发者可以轻松地在Java应用中集成向量数据库，实现文档向量的存储与高效相似性检索。 结语：Java，AI时代的可靠基石从最初的一个简单API调用，到一个承载着核心业务、具备高可用性和可扩展性的企业级AI服务，Java以其无与伦比的生态成熟度、稳定性和企业级特性，为AI大模型的全链路开发铺就了一条坚实的道路
47810编辑于 2025-11-24- 来自专栏张善友的专栏
基于大模型的人工智能应用开发
我们看到大模型应用开发过程中的两条轴线---垂直轴代表传入大模型的信息的复杂度，水平轴代表对大模型能力的要求。这两条轴线表明了模型优化需要考虑的两个方向---大模型需要知道的上下文信息和采取的行动。 大模型知道的上下文越多，它基于特定应用场景做出的判断的能力越强；而对大模型的行动能力要求越高，就需要对大模型进行微调，或者通过Agent赋予大模型更多的智能。 Agent是人工智能应用开发中最为亮眼的部分，属于成熟度极低、潜在价值极高的领域，同时也位于上下文要求高、对模型行动力要求也搞得象限。 Agent 需要大模型具有最强的推理能力，所以，至今为止也只有OpenAI公司的GPT-3.5/4 系列模型和Anthropic公司的Claude 3模型能够符合“Agent 大脑” 的要求。
43510编辑于 2024-06-03 - 来自专栏老欧说安卓
15天学会AI应用开发（一）搭建AI大模型应用开发环境
AI大模型时代来了，程序员们纷纷入坑AI应用开发，可是苦于AI教程良莠不齐，往往花费了大量时间精力和金钱，却仍然过其门而不入。 一、学习AI应用开发的四大困难 在入坑AI应用开发之时，孤立无援的开发者面对着下列四个拦路虎： 1、个人电脑跑不动AI大模型应用。 AI应用只是个外壳，核心的推理功能需要调用大模型，但在线大模型的Token消耗很快，初学者无法承受快速上涨的账单。 4、AI课程大纲用到很多专业词汇。 AI应用在加载离线大模型时用到了 Ollama ，它的安装包比较大，有1.8G左右，AI应用的智能体开发必须安装Ollama。 本教程的AI应用代码全部采用离线大模型，开发者只需根据说明提前把大模型文件下载到本地，后续就能直接调用电脑上的离线大模型，不用付费完全零Token，可有效降低初学者的学习成本。
17010编辑于 2026-05-14 〔从零搭建〕大模型应用开发平台部署指南
文章内容主要为以下五部分: 一、在线演示环境 二、功能简介 三、源码编译部署安装 四、访问大模型应用开发平台页面 五、核心部署 AllData数据中台线上正式环境：http://43.138.156.44 :5173/ui_moat/ 请联系市场总监获取账号密码 一、大模型应用开发平台基于开源项目BISHENG建设 AllData数据中台商业版集成BISHENG开源项目为大模型应用平台，BISHENG 三、大模型应用开发平台功能特点： 企业级高可用架构 高并发与分布式部署 安全合规与权限控制 高精度文档解析与检索 灵活的模型管理与优化 低代码开发与快速落地 技术生态与扩展型 部署步骤： 一、环境准备 AI应用，无缝集成多模型与数据源，实现高效开发 3、构建-自定义工作流 支持拖拽式编排复杂逻辑，灵活集成多模型与工具，实现个性化AI应用开发 4、大模型工作流开发-智慧医疗分诊场景 可智能识别用户意图并自动路由至对应处理模块 ，支持企业快速构建与部署大模型驱动的智能应用 8、创建工作流-大模型竞技场 9、工作流拖拉拽开发 可以可视化拖拽形式，灵活组合模型、工具与数据流，助力快速构建高效智能业务处理流程 10、流程编排
1.1K10编辑于 2025-09-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号