- 综合排序
- 最热优先
- 最新优先
- 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
背景 LangChain 是一个用于开发由大型语言模型（Large Language Model，LLM）驱动的应用程序的框架。 旨在简化使用大型语言模型的应用程序。 Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强 小结： - 研发&测试环境：为了方便部署和测试，使用云服务 - 大客户生产环境：安全审核严格，大多数采用自建大模型的方式 总结 LangChain 是什么？
1.1K10编辑于 2025-08-04 大模型应用开发实战
至此一个大模型顺利下载完毕，它的结构如下图所示，别问我里面是啥，我也看不懂： （图4） 模型使用 以上算是完成了全部的准备工作，作为一个有效率的打工人，马上迫不及待地想看效果了。 不得不吐槽下，大模型也搞前后端分离这套！. net java 有httprequest，js有jquery、axios，大模型也有个出名的库langchain，官方的解释它提供了“链”的概念，允许开发者将多个语言模型调用、API请求、数据处理等操作链接起来 为了搞大模型的人能安心研究模型，不用花精力在界面上。市场上就出现了2个常用的大模型web界面框架Gradio和Streamlit，不用去研究哪个更好，顺手就行！ 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.6K37编辑于 2026-05-08- 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 通过LangChain，开发者可以更专注于业务逻辑的实现，而不必过多关注底层模型的复杂性。 ： chat = ChatZhipuAI( model="GLM-4-Plus", temperature=0.5, ) 使用消息对象与模型聊天： messages = [ AIMessage prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
75931编辑于 2024-12-04 - 来自专栏大模型成长之路
【大模型学习 | MINIGPT-4原理】
MINIGPT-4: ENHANCING VISION-LANGUAGE UNDERSTANDING WITH ADVANCED LARGE LANGUAGE MODELS在GPT4未开源的情况下，作者认为其表现优越是因为采用了最为先进的 LLM模型，因此，作者在BLIP2的基础上，将LLM模型替换为了Vicuna，同样也是通过一个线性映射层将图像表征映射为LLM的输入。 开源代码：https://minigpt-4.github.io/一、预训练方法预训练方法几乎和BLIP2模型一致，可以参考：【大模型学习 | BLIP2原理】-腾讯云开发者社区-腾讯云1.1 Q-Former ； MINI-GPT4表现比BLIP2要强上许多？ ① MiniGPT-4 使用的是 Vicuna（基于 LLaMA 的开源 ChatGPT 对话模型），具有更强的自然语言表达和指令理解能力；而BLIP-2 使用的 LLM 主要是 Flan-T5 或 OPT
87710编辑于 2025-07-02 - 来自专栏nginx
SpringAI vs LangChain4j：Java生态大模型应用开发终极对决
《SpringAI vs LangChain4j：Java生态大模型应用开发终极对决》 引言：Java在AI时代的重新定位 尽管Python主导了AI研究领域，但2024年JetBrains开发者调查报告显示 两大Java生态框架的崛起尤为引人注目： SpringAI：依托Spring生态的完整企业级解决方案 LangChain4j：移植自Python生态的灵活开发框架 本文将从15个维度进行深度对比，并附可直接用于生产的代码示例 350 410 -12% 流式响应 2100 2400 +5% 第六章：选型决策指南 6.1 技术选型矩阵 需求场景 推荐框架 关键因素 传统Spring改造 SpringAI 无缝集成 快速原型开发 LangChain4j 灵活度高 复杂Agent系统 LangChain4j 模块化设计 高安全要求 SpringAI 企业级安全 6.2 混合架构建议 附录：开发者快速入门 SpringAI启动： /mvnw spring-boot:run LangChain4j示例： // 添加依赖 implementation 'dev.langchain4j:langchain4j-open-ai:0.25.0
1.9K11编辑于 2025-11-16 - 来自专栏胡琦
聆思大模型AI开发套件集成Coze调用GPT-4
❝上一篇《大模型赋能开发板被这家公司玩明白了》 我们已经详细介绍了聆思大模型 AI 开发套件以及聆思大模型平台，并实操了基于LLM_control二次开发拓展了天气查询、中英互译的能力。 今天我们再来看看聆思大模型 AI 开发套件如何通过Coze Bot 使用 GPT-4 。 整体思路 聆思大模型AI开发套件集成Coze整体思路 首先，介绍几个关键点： Coze 国际版支持 GPT-4 能力，可以将 Bot 部署到 Discord; 借助 coze-discord-proxy 代理 Discord 对话Coze-Bot，实现API形式请求GPT4对话模型/微调模型; 利用 LSPlatform 应用编排中的 http-request 去调用 API 以及联接开发板。 （我们暂时没能编排实现接入coze-discord-proxy的流式返回） 聆思大模型AI开发套件接入 Coze API 如同上一篇文章中的拓展开发，我们只需要将闲聊逻辑从调用内置星火认知大模型改为调用
1.4K10编辑于 2025-05-20 - 来自专栏好好学java的技术栈
Java 8 开发的 4 大技巧
这会导致… 使用现有的函数式接口 随着开发人员越来越熟悉Java 8代码，我们就能知道当使用如Supplier和 Consumer的接口时，会发生什么，以及创建一个本地的ErrorMessageCreator 4.Stream Stream API是Java 8另一个大特点，并且我认为我们还真的不知道这对我们的编码方式会产生多大的改变。下面是我发现的一些有用的东西 排队点操作符 我个人更喜欢排队我的流操作。 特别是，遍历原始类型的小型数组几乎肯定会用，以获得更好的性能循环，很可能（至少对于Java开发人员是新的流）更具可读性。 ?
95510发布于 2019-12-05 1大模型应用开发基础
1、大模型应用开发基础 AGI（Artificial General Intelligence）中文译为「通用人工智能」。是具备超越人类智能的 AI。 AGI 时代，AI 无处不在，形成新的社会分层： AI 产品使用者，使用别人开发的 AI 产品 AI 产品制造者，设计和开发 AI 产品 基础模型相关，训练基础大模型，或为大模型提供基础设施（算力等） 大模型 AI 能干什么？ 大模型，全称「大语言模型」，英文「Large Language Model」，缩写「LLM」。 本课第一个专业向要求：分清对话产品和大模型。 划重点： 大模型就是一个函数，给输入，生成输出 任何可以用语言描述的问题，都可以输入文本给大模型，就能生成问题的结果文本 进而，任意数据，都可以输入给大模型，生成任意数据 大模型是怎样工作的？ 可以改改试试 }, ] # 调用 GPT-4o-mini 模型 chat_completion = client.chat.completions.create( model="gpt
17210编辑于 2026-06-16- 来自专栏AI技术应用
AI教育大模型的开发
代码能力（部分模型）： 理解和生成代码，这在编程教育中尤为重要。AI教育大模型接入的流程接入AI教育大模型通常涉及以下步骤：1.需求分析与场景定义：明确目标： 你希望大模型解决教育中的哪些具体问题？ 用户群体： 大模型将服务于谁？（学生、教师、家长、教研人员）核心功能： 确定大模型将扮演的角色和提供的核心功能。 通过将大模型与一个外部知识库（如课程资料、教材、习题库等）结合，让模型在生成回答前先检索相关信息，从而提高回答的准确性和专业性，解决大模型的“幻觉”问题。 4.开发与集成：后端开发： 搭建后端服务，负责处理用户请求、调用大模型API、管理数据、实现业务逻辑。前端开发： 开发用户界面，与后端服务进行交互，展示大模型输出。 技术复杂性： 接入和优化大模型需要较高的AI技术能力。接入AI教育大模型是教育产品迈向智能化的重要一步，它能带来前所未有的个性化和效率提升。
1.2K10编辑于 2025-06-18 - 来自专栏算法一只狗
LLama4 原生多模态大模型
Meta最新发布了原生多模态大模型 Llama 4，一经亮相即登上LMSYS大模型排行榜第二名，仅次于Google的Gemini-2.5-pro，分差仅为22分，实力可见一斑。 Llama 4 Behemoth（超大杯）： 参数规模：活跃参数2880亿，总参数量接近2万亿。 架构特点：MoE架构，包含16个专家模型。 开发状态：目前仍在训练阶段，未公开发布。 当前行业趋势多偏向小而高效的模型，Llama 4如此庞大的规模实属少见。 总结与展望Llama 4的发布，意味着Meta正式进入原生多模态大模型竞争核心领域。 相比Gemini系列、GPT-4o、Claude 3、DeepSeek等主流模型，Llama 4以务实高效的技术路线，突出计算成本、推理效率与多模态能力的平衡。
1.1K00编辑于 2025-05-01 - 来自专栏项目文章
【大模型开发教学智能体】：你的专属大模型教学助手
通过这一平台，开发者能够利用文心大模型，针对自己的行业和应用场景，选择适合的开发方式，打造具有时代特征的产品。 例如咱们的大模型开发教学智能体设定如下： 角色与目标 作为一个大模型相关的专家，你的主要任务是解答用户的代码问题，教授机器学习的基础知识，以及解释大模型算法。 在解释大模型算法时，需要清晰地阐述算法的原理、应用以及优缺点，以便用户能够全面了解。 若用户的问题超出你的知识范围或无法清晰解答，应诚实告知用户，并尝试提供相关的学习资源或建议。 零代码智能体开发体验让我深刻感受到其带来的便利和高效，它不仅降低了技术门槛，还极大提升了开发速度，让开发者能够更专注于业务逻辑的创新和实现。 这种开发模式预示着人工智能应用开发的未来趋势，预示着它将为更多开发者带来无限的便利和机遇，推动智能技术在各行各业的广泛应用和创新。
1.1K10编辑于 2024-06-07 微软密谋超级AI大模型！LangChain带你轻松玩转大模型开发
3和OpenAI的GPT-4等知名大模型相匹敌。 在这一背景下，为了帮助开发者更方便、灵活地构建基于大语言模型的应用，一批大型模型应用开发框架应运而生，LangChain这个大语言模型时代下的“新星”也应运而生，它不仅让AI应用的开发变得易如反掌，更是从单一的开发框架演变为一个包含开发 在这样一个技术飞速进步的时代，了解并掌握LangChain无疑是每一个AI开发者的必修课。 《LangChain技术解密：构建大模型应用的全景指南》一书便可以带你领略大语言模型的应用开发世界！ 这使得开发人员不仅能够运用那些已极为成熟的资源去构建应用，同时能够借助那些集成的工具，迅速洞悉并尝试大语言模型的最新技术。 目前，LangChain已成为进行大语言模型应用开发必须掌握的框架之一。 随着时间的推移，LangChain已不再仅仅是一个大语言模型开发框架，而是演化为一个包含开发、调试、部署乃至应用商店的一站式完整生态圈。
70510编辑于 2024-05-28- 来自专栏啄木鸟软件测试
多模态大模型技术原理与实战(4)
多模态大模型核心技术 1多模态的困难 困难 数据集标志困难 人工标注生成 COCO Visual Genome ... OpenAl的DALL-E2和GPT4 谷歌大脑的 lmaen和Stable Diffusion 百度的文心一言 文本生成图像 基于GAN的文本生成图像方法 AlignDRAW:第一个现代文本生成图像模型 图像解码器 把隐信息还原成图像 4语音多模态技术 文本生成语音 以前技术：拼接法和参数法 基于非深度学习的文本生成语音技术 隐马尔可夫模型 (HMM) 文本信息提取模块 声学特征提取模块 可调整的低秩适配(Adaptive Low-Rank Adaptation，AdaLoRA)技术和量化压缩远程注意力(Quantized Long-Range Attention，QLoRA)技术 8 GPT-4多模型核心技术介绍 Transformer：编码器-解码器框架 编码器：衍生出了自编码大模型，如BERT、RoBERT和ALBERT 解码器：衍生出了自回归大模型,如GPT-1和GPT-2 整体衍生出：T5和GLM
64310编辑于 2024-09-10 - 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain 简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
87610编辑于 2023-09-06 - 来自专栏大模型
大模型应用开发基础-Prompt工程
大模型应用开发基础-Prompt工程1. 什么是Prompt？Prompt（提示词）是用户输入给AI模型的指令或问题，用于引导模型生成特定输出。 Prompt工程的定义Prompt工程（Prompt Engineering）是通过优化输入指令的结构、措辞和上下文，使大语言模型（LLM）输出更准确、可靠且符合需求的技术。 大语言模型（如GPT-4、Claude、Gemini）本质是“概率生成器”，它们会根据输入提示猜测用户意图。 吃掉的数量：12 × 1/3 = 4 2. 剩余数量：12 - 4 = 8 3. 分给朋友：8 ÷ 2 = 4 4. 最终剩余：4个 不过2023年后发布的主流大模型（GPT-4 Turbo、Claude 3、Gemini 1.5）已原生集成思维链推理能力。
1.2K10编辑于 2025-06-23 - 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。langchain的主要特点有两个，第一点就是组件化。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
1.1K20编辑于 2023-06-28 - 来自专栏算法channel
大模型开发工程师 roadmap
大模型开发工程师应该是接下来几年最火的方向之一，今天逛github发现一个很好的学习导图，是一个专业的大模型开发工程师的学习路线图： 我翻译了一下，供英文不是很好的同学参考： 运行LLMs： LLM engineering） 结构化输出（Structuring outputs） 构建向量存储： 摄入文档（Ingesting documents） 分割文档（Splitting documents） 嵌入模型
1.1K10编辑于 2024-04-11 - 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 简介 在本教程中，我们将详细探讨 LangChain[1]，一个用于开发基于语言模型[2]的应用程序的框架。我们将首先了解语言模型的基础概念，这些知识将对本教程有所帮助。 不过，社区开发了 Java 版本 LangChain，称为 LangChain4j[15] ，支持 Java 8 或更高版本，并兼容 Spring Boot 2 和 3。 此外，我们讨论了将 LangChain 作为技术栈的一部分对开发此类应用程序的重要价值。 这使得我们能够探索 LangChain 的 Java 版本 —— LangChain4j 的一些核心组件 。 这些库未来将快速发展，它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣！
3.3K12编辑于 2025-03-29 在Jetson上玩转大模型Day15：NanoLLM开发平台(4)：视觉分析助手
我们前面应用NanoLLM开发平台，已经很轻松地创造出语音对话助手、多模态识别等应用，本篇文章要更进一步调用NanoLLM的视频相关API，搭配合适的大语言模型，来对视频档或摄像头获取的内容进行动态分析功能 这里我们将模型换成同样支持多模态的Efficient-Large-Model/VILA1.5-3b，并且前后使用3个API来进行测试，大家可以相互比较一下，并且后续自行调整出最适合应用场景的内容。 如果我们要对视频进行分析的话，这里的底层会用到项目作者早期的jetson-utils里的videoSource与videoOutput两组库，输入视频支持H264/H265编码的MP4/MKV/AVI/ \ --video-output /data/sample_output.mp4 \ --prompt 'What changes occurred in the video?' 输入的/data/sample_720p.mp4是一段在公路上拍摄的车流与行人视频，识别厚度视频存放在/data/sample_output.mp4。
67410编辑于 2024-11-26- 来自专栏GPUS开发者
在Jetson上玩转大模型Day15：NanoLLM开发平台(4)：视觉分析助手
如果我们要对视频进行分析的话，这里的底层会用到项目作者早期的jetson-utils里的videoSource与videoOutput两组库，输入视频支持H264/H265编码的MP4/MKV/AVI/ Efficient-Large-Model/VILA1.5-3b \ --max-images 8 \ --max-new-tokens 48 \ --video-input /data/sample_720p.mp4 \ --video-output /data/sample_output.mp4 \ --prompt 'What changes occurred in the video?' 输入的/data/sample_720p.mp4是一段在公路上拍摄的车流与行人视频，识别厚度视频存放在/data/sample_output.mp4。
38010编辑于 2024-11-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号