- 综合排序
- 最热优先
- 最新优先
- 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 通过LangChain，开发者可以更专注于业务逻辑的实现，而不必过多关注底层模型的复杂性。 prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 ，这对于获取数据作为模型推理的一部分进行推理的应用程序非常重要，例如检索增强生成或RAG。 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
56921编辑于 2024-12-04 大模型应用开发实战
至此最简单的模型应用开发完毕。 提供API支持 上面最简单的Hello world写完了，接下来就要为各种客户端提供接口服务了。. Net有WebAPI + IIS，java有spring boot+tomcat，大模型有FastAPI+Uvicorn：FastAPI 用于构建应用的业务逻辑，Uvicorn 是运行这些应用的服务器。 net java 有httprequest，js有jquery、axios，大模型也有个出名的库langchain，官方的解释它提供了“链”的概念，允许开发者将多个语言模型调用、API请求、数据处理等操作链接起来 怎么着也得个应用程序APP之类，再不济也得有个Web吧！好吧，安排！为了搞大模型的人能安心研究模型，不用花精力在界面上。 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.2K36编辑于 2024-09-01- 来自专栏大模型
大模型应用开发基础-Prompt工程
大模型应用开发基础-Prompt工程1. 什么是Prompt？Prompt（提示词）是用户输入给AI模型的指令或问题，用于引导模型生成特定输出。 示例对比： 模糊Prompt："写一篇关于人工智能的文章" 精准Prompt："以科普风格写一篇800字文章，介绍AI在医疗影像诊断中的应用，包含3个实际案例" 2. Prompt工程的定义Prompt工程（Prompt Engineering）是通过优化输入指令的结构、措辞和上下文，使大语言模型（LLM）输出更准确、可靠且符合需求的技术。 大语言模型（如GPT-4、Claude、Gemini）本质是“概率生成器”，它们会根据输入提示猜测用户意图。 最终剩余：4个 不过2023年后发布的主流大模型（GPT-4 Turbo、Claude 3、Gemini 1.5）已原生集成思维链推理能力。
88110编辑于 2025-06-23 - 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 简介 在本教程中，我们将详细探讨 LangChain[1]，一个用于开发基于语言模型[2]的应用程序的框架。我们将首先了解语言模型的基础概念，这些知识将对本教程有所帮助。 为了简化这些任务，我们需要一个像 LangChain 这样的框架作为 LLM 技术栈的一部分： 使用 LangChain 构建 LLM 技术栈 该框架还帮助开发需要链式调用多个语言模型的应用程序，并能够回忆起过去与语言模型过去交互的信息 链（Chains） 通常，一个应用程序需要按特定顺序调用多个组件。在 LangChain 中，这被称为链（Chain）。链简化了开发更复杂应用程序的过程，并使调试、维护和改进更加容易。 这些库未来将快速发展，它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣！
2.6K12编辑于 2025-03-29 大模型应用开发提示工程书籍推荐
《AI原生应用开发：提示工程原理与实战》是一本由人民邮电出版社权威出版，专门针对正在探索如何利用大模型做应用场景落地的人群，如研发工程师、产品经理、技术经理等。 它站应用落地视角让你理解大模型是什么，能干什么，如何落地。 第1章：提示工程概述 深入探讨AI原生应用的挑战与机遇，揭示大语言模型与实际应用间的鸿沟，强调提示工程在弥合这一差距中的关键作用。 第6章：提示安全设计 探讨提示安全设计在AI原生应用开发中的重要性及其挑战，揭示大语言模型面临的安全问题，并提出应对策略。 探讨大语言模型在智能体中的应用，分析其感知、决策与行动机制。 第10章 展望未来 为AI原生应用的未来发展提供全面视角，探讨落地路径、效果评估与工程化挑战，提出务实建议，助力AI原生应用成功落地。 本书内容详实，结构清晰，不仅适合大模型应用开发者、产品经理等群体阅读，也适合对AI原生应用开发感兴趣的读者参考。
73810编辑于 2025-07-09- 来自专栏喔家ArchiSelf
基于大模型（LLM）的Agent 应用开发
目前，业界一般认为基于大模型的应用集中在两个方向上：RAG 和 Agent，无论哪一种应用，设计、实现和优化能够充分利用大模型(LLM)潜力的应用都需要大量的努力和专业知识。 这种流程的潜在设计空间可能是巨大而复杂的，《如何构建基于大模型的App》一文给出了一种探索中的大模型应用开发基础框架，基本可以适用于RAG 和Agent。 但是，对于面向Agent的大模型应用开发，有没有其独特之处呢？有没有聚焦于Agent的大模型应用开发框架呢？ 那么，什么又是Agent 呢？ 1. 2.2 大模型领域中的Multi-Agent 具体而言， 在基于大模型的应用领域中，当复杂任务被分解成更简单的子任务时，LLM已经被证明了拥有解决复杂任务的能力。 在了解了Agent 和 Multi-Agent 的基本概念以及常见系统之后，如何开发一个基于大模型的Agent应用呢？
7.8K33编辑于 2023-10-23 - 来自专栏AIGC大模型应用
为什么要学习大模型应用开发？
AI虽有应用场景，好像跟普通人无关？ 如智能驾驶，人脸识别，跟普通人关系不大，我们都是被动使用。但现在大模型跟我们每人都有关，强大的提升工作效率工具。 3 大模型的应用需求 公司内部问题解决、产品解答、智能聊天和游戏NPC等方面的应用需求。大模型可提高效率、流畅度和人机交互体验。随需求增加，相关工程师需求也会提升。 就好像你开发应用一样，你现在去开发操作系统，你除非说国产替代，正常来讲，微软和苹果已把操作系统完全占领，你不可能再打开空间。再往上，可能微信QQ之类的，你再开发一个类似的，也不可能打败它。 所以用高效微调训练一个6B模型及launch基于long ten结合一个稍微小一点的语言模型6B的进行一些应用的开发 强化学习，在ChatGPT训练时用到 不像有的人讲ChatGPT，直接把NLP一大套底层知识搬给你 但建议你有能力，感觉数学还可，还是把公式啃完，当然了大部分应用开发工程师不需要。
51500编辑于 2025-05-26 - 来自专栏AIGC大模型应用
AI大模型应用开发实战(05)-AI时代应用开发破局！
怎么想、怎么做，全在乎自己「不断实践中寻找适合自己的大道」 后端应用级开发者该如何拥抱 AI GC？就是在这样的一个大的浪潮下，我们的传统的应用级开发者。 再往下就是 2 行业垂直大模型 在基座模型基础上灌入一些行业垂直数据，基本上可理解为它是在基座模型的基础上做微调。 这个是从一个大的行业趋势，可以看到说应用级开发者，该如何去拥抱我们这个大模型。 再往上就是大模型开发。 包含对大模型的了解，在大模型之上是我们的应用组件，那么应用组件上面是我们的应用框架。
1.6K00编辑于 2024-08-11 - 来自专栏DotNet NB && CloudNative
大模型应用开发基础 : 语言模型的关键思路跃迁
我们常常说大语言模型（LLM），那么语言到底是什么？ 语言是信息的载体，承载着沟通的信息，无论是中文，英文，亦或是甲骨文，没有语言，人与人就无法沟通。 语言模型是什么？ （3）基于统计：在基于规则的研究热潮之后即1970~1990，科学家们发现基于统计的方法来解决NLP问题更好用，他们将统计方法应用于解决语音识别的问题。 而即使我们花费了大量力气来编写这些规则，像刚刚这句话也最多就能套用在另一句跟其很相似的如“爱迪生喜欢博客园”这种格式的句子而已，换句话说，它在于我们应用于其他的各种各样的语言格式的时候，它并不好用！ 基于统计的语言模型 正是因为基于规则的方法并不好用，人们才开始逐渐发现基于统计的语言模型才是正道。 所谓基于统计的语言模型，就是为自然语言上下文相关的这种特性建立数学模型。 (P表示Probability即可能性) 例如，当人类开口说出第一个词是“你”，由于大模型已经统计过人类有史以来所有的句子了，它就发现只要人类开口第一个字出现的是“你”这个字的概率大概是万分之一，根据条件概率公式
32500编辑于 2024-11-27 - 来自专栏AI理论与前沿
AI大模型应用开发实战-Agent应用对话情感优化
"{input}" ), MessagesPlaceholder(variable_name="agent_scratchpad"), ],)重启应用 更适合模拟真实对话，from_template() 更适合单一指令或查询模式化情感class Master: def __init__(self): # 初始化ChatOpenAI模型
1.1K00编辑于 2024-08-07 TL-JAVA+AI大模型智能应用开发
在人工智能技术席卷全球的当下，企业级大模型应用正成为数字化转型的核心驱动力。然而，传统Java开发者往往面临技术断层：既需要突破AI算法的复杂门槛，又要解决大模型与现有业务系统的融合难题。 工程化工具链重构开发范式TL课程独创的“三明治架构”彻底改变AI开发模式：底层采用Spring AI框架封装大模型调用接口，中间层通过LangChain4J实现知识库检索增强生成（RAG），顶层提供可视化流程编排工具 Java开发转型后，主导设计的“智能供应链系统”帮助企业降低库存成本2.1亿元，获评“中国AI应用创新奖”。 四、未来展望：智能系统的无限可能随着大模型技术进入“工程化落地”深水区，TL课程正探索三大前沿方向：自适应学习系统：开发能够根据业务反馈自动优化模型参数的智能引擎隐私增强计算：研究同态加密、差分隐私等技术 ，保障企业数据安全具身智能集成：探索大模型与机器人、物联网设备的深度融合在AI重塑产业格局的今天，TL课程证明：Java开发者不仅不会被时代淘汰，反而能凭借工程化优势成为智能系统构建的核心力量。
50010编辑于 2025-11-21TL-JAVA+AI大模型智能应用开发
在人工智能的浪潮之巅，大语言模型（LLM）以其惊人的能力，正以前所未有的深度和广度重塑着各行各业。 起点：不止于“Hello, World”的模型调用对于许多开发者而言，与AI大模型的初次邂逅往往始于一个简单的API调用。 核心：RAG——让大模型“接上地气”单纯依赖大模型预训练知识的应用是脆弱的。为了让AI能够理解企业私有的、动态更新的知识，检索增强生成（RAG）架构应运而生。 开发者可以轻松地在Java应用中集成向量数据库，实现文档向量的存储与高效相似性检索。 结语：Java，AI时代的可靠基石从最初的一个简单API调用，到一个承载着核心业务、具备高可用性和可扩展性的企业级AI服务，Java以其无与伦比的生态成熟度、稳定性和企业级特性，为AI大模型的全链路开发铺就了一条坚实的道路
34610编辑于 2025-11-24- 来自专栏全栈测试技术
LangSmith：大模型应用开发的得力助手
LangSmith：大模型应用开发的得力助手大语言模型（LLM）快速发展，构建高效、可靠的 LLM 应用成为开发者核心需求；但开发过程中，缺乏对应用内部运行的洞察，导致调试和优化难度显著增加；LangSmith 针对这一痛点，为 LLM 应用开发全流程提供支持。 LLM 应用开发的困境LLM 应用开发中，常见场景是：编写完 Chains、发送 Prompts、获取输出后，对背后执行逻辑缺乏了解；当应用表现异常（如回答不准确、响应慢、出现错误）时，无法精准定位问题 ，调试难度大；LangSmith 通过挂钩 LangChain 应用执行流程，自动捕获每步操作，将信息转化为有序、可视化的数据流，帮助开发者清晰掌握执行细节。 ，及时发现性能瓶颈与异常（如 Token 消耗异常增加，可能是无效请求或模型调用问题），采取调整措施保障应用稳定运行。
51420编辑于 2025-09-18 - 来自专栏张善友的专栏
基于大模型的人工智能应用开发
我们看到大模型应用开发过程中的两条轴线---垂直轴代表传入大模型的信息的复杂度，水平轴代表对大模型能力的要求。这两条轴线表明了模型优化需要考虑的两个方向---大模型需要知道的上下文信息和采取的行动。 大模型知道的上下文越多，它基于特定应用场景做出的判断的能力越强；而对大模型的行动能力要求越高，就需要对大模型进行微调，或者通过Agent赋予大模型更多的智能。 Agent是人工智能应用开发中最为亮眼的部分，属于成熟度极低、潜在价值极高的领域，同时也位于上下文要求高、对模型行动力要求也搞得象限。 Agent 需要大模型具有最强的推理能力，所以，至今为止也只有OpenAI公司的GPT-3.5/4 系列模型和Anthropic公司的Claude 3模型能够符合“Agent 大脑” 的要求。
39010编辑于 2024-06-03 - 来自专栏AIGC大模型应用
AI大模型应用开发实战(04)-AI产业拆解
2.2 中游-AIGC大模型层和工具层大模型层分为：通用模型：如OpenAI、腾讯混元行业模型，根据具体行业或业务进行微调或二次训练。 工具层包括AI Agent，其中包括像AutoGPT这样的工具及模型平台和模型服务等2.3 下游应用层包括：内容消费：在各种平台上生成内容，如抖音、快手等创作工具：提供基于AI的工具，如MID Generate 应用开发者的位置可能更多在中游和下游，发挥着重要作用。3 名词解释当然，可以按以下类别对这些概念进行细分解释：3.1 模型与架构LLM (大型语言模型)：具有大量参数，能处理复杂语言任务的模型。 stable diffusion：一种用于生成图像的扩散模型。DALL·E：OpenAI开发的生成图像的模型。RAG (检索增强生成)：结合检索和生成的模型。 openAI：开发和研究人工智能的机构。Azure：微软的云计算服务平台。Heygan：一种AI生成模型（可能是特定应用的名称）。Copilot：编程助手工具，帮助开发者编写代码。
1.5K01编辑于 2024-08-09 - 来自专栏.NET 全栈开发专栏
端侧大模型实战指南：微调、部署、应用开发
本指南以Windows系统、Qwen2.5-0.5B 模型为例，展示如何在本地完成模型的微调、部署和应用开发。2. 准备清单在开始之前，请确保准备好以下工具和资源。 开发 Web 应用基于 Streamlit 开发一个简单的 Web 应用，用于与模型交互。 总结通过本指南，你已经学会了如何在本地设备上完成端侧大模型的微调、部署和应用开发。以下是关键步骤的回顾：准备环境：安装 Ollama、MiniConda 和 Qwen2.5-0.5B 模型。 微调模型：处理数据并运行训练脚本。部署模型：使用 Ollama 部署微调后的模型。开发应用：基于 Streamlit 构建 Web 应用。 本部署实践学习自datawhale开源社区，希望这篇指南也能帮助你快速上手端侧大模型的开发！如果有任何问题，欢迎在评论区交流。
1.6K21编辑于 2025-08-05 - 来自专栏人工智能领域
探索Dify：开启大语言模型应用开发新时代
摘要：在AI技术迅速发展的背景下，Dify作为一款开源的大语言模型应用开发平台，为开发者提供了便捷高效的解决方案。 Dify支持多种主流大语言模型，如GPT、Mistral、Llama3等，并通过低代码/无代码开发方式，降低了开发门槛。 大语言模型作为 AI 领域的重要突破，更是成为了众多开发者关注的焦点。它能够理解和生成自然语言，为智能客服、内容创作、智能问答等应用场景提供了强大的支持。 然而，开发基于大语言模型的应用并非易事。 从模型的选择、训练，到应用的部署、优化，每一个环节都需要耗费大量的时间和精力。这时候，Dify 这一强大的大语言模型应用开发平台应运而生，为开发者们提供了便捷高效的解决方案。 相信 Dify 会给你带来全新的开发体验，助力你在 AI 应用开发的道路上取得更多的成果。 （二）关键字解说 Dify：一款开源的大语言模型应用开发平台，旨在简化 AI 应用的开发过程。
2.3K10编辑于 2025-05-24 - 来自专栏AIGC大模型应用
AI大模型应用开发实战(02)-国内外LLM的多模型，强应用
包括GPT-2、GPT-3、GLM-130B和以Facebook代表的开源的ollma，还有后来GPT-4及中东的科研机构开发的这个FanCL及最新GPT4，包括多模态模型。 更多 LLM 官网，访问编程严选网-导航：2 国外与国内大模型发布时间看，海外比我们早，能叫得上的或用的比较多的都是2023年才开始发布。3 参数与模型能力先看国外的，第一个GPT-2大概15亿参数。 随后就是Meta公司即Facebook，其模型大概1750亿，底模英文。3.2 底模是啥？大模型预训练时，有个预训练过程，需大量语料，若大量用英文材料，底模即英文，在其基础做英文问题回答，效果较好。 各有特点，但国内有两大特点：时间稍晚，基本到2023年发布中文支持相对的都比海外的这些模型好很多商用角度，开源模型不太理想，llama不支持商用，但GLM都可商用，包括百川、FanCL都可商用。 4 大模型的生态百模大战，千模大战多模型大战，就是由OpenAI引爆。Hugging Face，抱脸，相当于AI界GitHub。很多开源模型可以找到：可见整个LLM发展生态繁荣。
70210编辑于 2024-08-08 〔从零搭建〕大模型应用开发平台部署指南
文章内容主要为以下五部分: 一、在线演示环境 二、功能简介 三、源码编译部署安装 四、访问大模型应用开发平台页面 五、核心部署 AllData数据中台线上正式环境：http://43.138.156.44 :5173/ui_moat/ 请联系市场总监获取账号密码 一、大模型应用开发平台基于开源项目BISHENG建设 AllData数据中台商业版集成BISHENG开源项目为大模型应用平台，BISHENG 三、大模型应用开发平台功能特点： 企业级高可用架构 高并发与分布式部署 安全合规与权限控制 高精度文档解析与检索 灵活的模型管理与优化 低代码开发与快速落地 技术生态与扩展型 部署步骤： 一、环境准备 AI应用，无缝集成多模型与数据源，实现高效开发 3、构建-自定义工作流 支持拖拽式编排复杂逻辑，灵活集成多模型与工具，实现个性化AI应用开发 4、大模型工作流开发-智慧医疗分诊场景 可智能识别用户意图并自动路由至对应处理模块 ，支持企业快速构建与部署大模型驱动的智能应用 8、创建工作流-大模型竞技场 9、工作流拖拉拽开发 可以可视化拖拽形式，灵活组合模型、工具与数据流，助力快速构建高效智能业务处理流程 10、流程编排
84310编辑于 2025-09-15- 来自专栏DotNet NB && CloudNative
大模型应用开发基础 : 再探提示词工程
为了引导大模型给出更好的答案，提示词工程必不可少，本篇我们再探提示词，看看几个必须知道的技巧。 （少）样本提示 对于一些较为通用的任务，我们不需要给大模型过多的提示信息，就可以完成一个任务。 有了这些例子，当你再问大模型的时候，它就会进行推理并得出正确的结论。 事实上，这个例子中的内容更像是我们在应用开发中的编写方式，即一堆if-else的规则集。 我们也可以看到，只要我们能编写好的样本提示，就可以实现应用开发中的规则效果。 有时候，即使我们给出了少量的样本提示，也会在一些场景中力不从心，这就需要更强一点的提示工程技巧了，比如下面的思维链技术。 思维链提示 大模型属于典型的嘴比脑子快，很多答案都是未经思考就会蹦出来。而为了让大模型能够更准确的回答我们的问题，我们需要让它慢一点，思维链就是这样的一种提示技术。 小结 本文快速温习了提示词工程的几个常见技巧，样本提示、思维链提示 与 ReAct框架，它们可以应用在不同的任务场景中。应用提示词工程，可以帮助引导大模型给出更准确的答案。
33910编辑于 2024-12-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号