- 综合排序
- 最热优先
- 最新优先
【第二部分：大模型应用开发基础】5. 开发 Agent 前需要掌握哪些大模型基础
很多 Agent 运行不稳定，并不是框架选错了，而是开发者仍把大模型当成普通 REST API：输入相同参数，就应该得到确定结果。 更准确的理解是：大模型是一个受上下文、消息结构、生成参数和输出约束共同影响的概率型计算组件。开发 Agent 不需要先学习模型训练、注意力机制或损失函数，但必须掌握它的输入边界、输出契约和调用方式。 因此常见流程是： 关键词或向量检索 → 召回 Top 30～100 → Rerank 精排 → 选择 Top 5～10 → 交给生成模型 Rerank 会结合当前问题重新判断候选内容的相关性，并给出新的顺序 ——检索、参数、模型路由与工程校验大模型负责理解、推理和生成；应用系统负责上下文组织、权限控制、工具执行、结果校验和异常处理。 这也是从“调用一次大模型 API”走向“开发一个可运行 Agent”的真正起点。上一篇回顾：【第一部分：认识 Agentic AI】4.
21510编辑于 2026-07-29- 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 通过LangChain，开发者可以更专注于业务逻辑的实现，而不必过多关注底层模型的复杂性。 prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 1️⃣根据与字符串查询的相似性返回文档： # 接受一个文本字符串作为输入，并返回与该文本最相似的向量 results = vector_store.similarity_search( "大模型的发展和繁荣既是当前 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
75931编辑于 2024-12-04 大模型应用开发实战
视频我剪辑过，在我的电脑上，实际运行时间5分钟左右。至此最简单的模型应用开发完毕。 提供API支持 上面最简单的Hello world写完了，接下来就要为各种客户端提供接口服务了。. （图5） 我们用postman等客户端工具测试一下： （图6） 编写客户端 服务端有了，当然要做个漂亮的客户端，总不能一直用postman。不得不吐槽下，大模型也搞前后端分离这套！. net java 有httprequest，js有jquery、axios，大模型也有个出名的库langchain，官方的解释它提供了“链”的概念，允许开发者将多个语言模型调用、API请求、数据处理等操作链接起来 为了搞大模型的人能安心研究模型，不用花精力在界面上。市场上就出现了2个常用的大模型web界面框架Gradio和Streamlit，不用去研究哪个更好，顺手就行！ 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.6K37编辑于 2026-05-08AI开发者泪目！5大技巧驯服大语言模型，部署效率狂飙
AI 开发者泪目！5 大技巧驯服大语言模型，部署效率狂飙嘿，AI 开发者们！ 别担心，今天就给大家带来 5 个超厉害的技巧，让你成功驯服大语言模型，部署效率直接狂飙，眼泪都要笑出来啦！一、为啥驯服大语言模型这么重要？1. 提升竞争力在当今竞争激烈的 AI 领域，能够高效地部署和应用大语言模型，就相当于拥有了一把锋利的宝剑。企业可以利用大语言模型优化业务流程，提高客户满意度，从而在市场中脱颖而出。 对于开发者个人来说，掌握驯服大语言模型的技巧，能让你在求职和项目中更具优势，成为团队中的 “香饽饽”。二、技巧一：精心准备数据，为模型筑牢根基1. 掌握了这 5 大技巧，AI 开发者们就能成功驯服大语言模型，让部署效率一路狂飙。在这个充满挑战和机遇的 AI 时代，让我们利用这些技巧，打造出更强大、更智能的应用，开启属于我们的 AI 传奇之旅吧！
52310编辑于 2025-05-155种大模型Agent模式
大模型中的5种AI Agent模式在大模型中，AI Agent（人工智能代理）模式是一种重要的应用方式，可以从以下几个方面来理解：1. 在大模型的背景下，AI Agent 是基于大规模预训练模型（如 GPT 等）构建的智能代理，能够利用模型的语言理解和生成能力来完成复杂的任务。 智能性：它基于大模型的强大语言理解能力，能够理解自然语言指令，并生成自然语言响应。这种智能性使其能够处理复杂的语言任务，如对话、写作、翻译等。 工作原理感知与理解：AI Agent 首先通过输入（如用户指令、环境数据等）感知外部信息，然后利用大模型的语言理解能力解析这些信息，确定任务目标。 下面介绍5种常见的AI Agent模式：1.
5.7K10编辑于 2025-05-07- 来自专栏各类技术文章~
Web 开发的 5 大 IDE 🤩
因此，有必要使用用户友好且出色的 UX/UI IDE来升级我们 在本博客中，我们将讨论市场上最需要Web 开发的5大IDE 1. VS Code：立即下载 2.Atom [vq311ctpx6p1mnuti4oq.png] Atom 是一个开源项目，也是Github推出的最好的 Web 开发 IDE 之一。 Atom：立即下载 3.Sublime Text [djn5fpsv0e3j4q3cueva.png] Sublime 文本是由Jon Skinner构建的。 Sublime Text 4：立即下载 4.Pycharm [jjf1bwbvf61hsesu5q1m.png] Pycharm 是 jetbrains 推出的用于 Python、Web 开发、数据科学的现代 Pycharm：立即下载 5.
3.2K10发布于 2021-09-12 - 来自专栏啄木鸟软件测试
大模型测试：性能优化的5大实战策略
引言 随着ChatGLM、Qwen、DeepSeek及Llama系列大语言模型在金融、政务、医疗等关键场景加速落地，模型测试已远超传统‘功能是否正确’的范畴——性能成为决定能否上线的核心瓶颈。 这些并非个例，而是大模型测试进入深水区的典型信号：性能不是附加项，而是可信AI的第一道防线。 一、明确性能基线：拒绝‘拍脑袋’指标 大模型性能测试首要误区是套用小模型标准。 二、分层注入式压测：从单卡到集群的穿透验证 传统压力测试常止步于API层，而大模型性能瓶颈常藏于框架底层。 推荐采用‘四层注入法’： 1）API层：模拟真实用户请求分布（如80%短提示+15%中长提示+5%对抗性长上下文），避免均匀负载失真； 2）Engine层：直连vLLM/Triton推理引擎，注入不同 结语 大模型性能测试的本质，是构建‘可测量、可归因、可演进’的效能反馈闭环。
55810编辑于 2026-03-31 1大模型应用开发基础
1、大模型应用开发基础 AGI（Artificial General Intelligence）中文译为「通用人工智能」。是具备超越人类智能的 AI。 AGI 时代，AI 无处不在，形成新的社会分层： AI 产品使用者，使用别人开发的 AI 产品 AI 产品制造者，设计和开发 AI 产品 基础模型相关，训练基础大模型，或为大模型提供基础设施（算力等） 大模型 AI 能干什么？ 大模型，全称「大语言模型」，英文「Large Language Model」，缩写「LLM」。 本课第一个专业向要求：分清对话产品和大模型。 划重点： 大模型就是一个函数，给输入，生成输出 任何可以用语言描述的问题，都可以输入文本给大模型，就能生成问题的结果文本 进而，任意数据，都可以输入给大模型，生成任意数据 大模型是怎样工作的？ OpenAI 的代码 RWKV PENG Bo 可并行训练，推理性能极佳，适合在端侧使用 官网、RWKV 5 训练代码 Mamba CMU & Princeton 性能更佳，尤其适合长文本生成 GitHub
17210编辑于 2026-06-16- 来自专栏AI技术应用
AI教育大模型的开发
代码能力（部分模型）： 理解和生成代码，这在编程教育中尤为重要。AI教育大模型接入的流程接入AI教育大模型通常涉及以下步骤：1.需求分析与场景定义：明确目标： 你希望大模型解决教育中的哪些具体问题？ 用户群体： 大模型将服务于谁？（学生、教师、家长、教研人员）核心功能： 确定大模型将扮演的角色和提供的核心功能。 通过将大模型与一个外部知识库（如课程资料、教材、习题库等）结合，让模型在生成回答前先检索相关信息，从而提高回答的准确性和专业性，解决大模型的“幻觉”问题。 4.开发与集成：后端开发： 搭建后端服务，负责处理用户请求、调用大模型API、管理数据、实现业务逻辑。前端开发： 开发用户界面，与后端服务进行交互，展示大模型输出。 数据流设计： 设计清晰的数据流，确保用户数据、模型输入输出、学习记录等信息的顺畅传输和存储。5.测试与优化：功能测试： 验证大模型集成后的各项功能是否符合预期。
1.2K10编辑于 2025-06-18 【大模型微调】一文掌握5种大模型微调的方法
（Prompt Tuning）在内的5种主流方法。 我们所讨论的5种微调方法，本质上都是对这个基础架构中自注意力机制与前馈神经网络等核心组件的参数进行优化的不同策略。 5、提示调整-轻量级的参数优化提示调整（Prompt Tuning）是一种“润物细无声”的微调，不改变模型自身，而是通过优化输入提示词的嵌入表示来引导模型输出。 从技术演进的角度看，QLoRA是针对LoRA在显存消耗方面的缺陷改进而来，它通过引入4位量化、双重量化及分页优化器等方式，使得微调超大模型所需的显存大幅降低，解决了资源有限的开发者难以触碰大模型的根本问题 参数效率将进一步提升，自动化工作流将更加完善，我们期待与开发者共同推动大模型技术在更多场景的落地应用，让每个人都能轻松享受大模型定制带来的技术红利。PS.如何学习AI大模型？
5.1K40编辑于 2025-10-23- 来自专栏项目文章
【大模型开发教学智能体】：你的专属大模型教学助手
通过这一平台，开发者能够利用文心大模型，针对自己的行业和应用场景，选择适合的开发方式，打造具有时代特征的产品。 例如咱们的大模型开发教学智能体设定如下： 角色与目标 作为一个大模型相关的专家，你的主要任务是解答用户的代码问题，教授机器学习的基础知识，以及解释大模型算法。 在解释大模型算法时，需要清晰地阐述算法的原理、应用以及优缺点，以便用户能够全面了解。 若用户的问题超出你的知识范围或无法清晰解答，应诚实告知用户，并尝试提供相关的学习资源或建议。 零代码智能体开发体验让我深刻感受到其带来的便利和高效，它不仅降低了技术门槛，还极大提升了开发速度，让开发者能够更专注于业务逻辑的创新和实现。 这种开发模式预示着人工智能应用开发的未来趋势，预示着它将为更多开发者带来无限的便利和机遇，推动智能技术在各行各业的广泛应用和创新。
1.1K10编辑于 2024-06-07 微软密谋超级AI大模型！LangChain带你轻松玩转大模型开发
在这一背景下，为了帮助开发者更方便、灵活地构建基于大语言模型的应用，一批大型模型应用开发框架应运而生，LangChain这个大语言模型时代下的“新星”也应运而生，它不仅让AI应用的开发变得易如反掌，更是从单一的开发框架演变为一个包含开发 在这样一个技术飞速进步的时代，了解并掌握LangChain无疑是每一个AI开发者的必修课。 《LangChain技术解密：构建大模型应用的全景指南》一书便可以带你领略大语言模型的应用开发世界！ 这使得开发人员不仅能够运用那些已极为成熟的资源去构建应用，同时能够借助那些集成的工具，迅速洞悉并尝试大语言模型的最新技术。 目前，LangChain已成为进行大语言模型应用开发必须掌握的框架之一。 随着时间的推移，LangChain已不再仅仅是一个大语言模型开发框架，而是演化为一个包含开发、调试、部署乃至应用商店的一站式完整生态圈。 正值大语言模型开发以潮涌之势席卷而来之际，越来越多的开发人员对于怎样利用LangChain迅速构建AI应用产生了浓厚的兴趣。 在这样的背景下，本书应运而生。
70510编辑于 2024-05-28- 来自专栏张俊红
5 大常用机器学习模型类型总结
本文介绍了 5 大常用机器学习模型类型：集合学习算法，解释型算法，聚类算法，降维算法，相似性算法，并简要介绍了每种类型中最广泛使用的算法模型。我们希望本文可以做到以下三点： 1、应用性。 所以我们希望通过给出模型的一般类别，让你更好地了解这些模型应当如何应用。 2、相关性。 因此，与其创建模型来预测响应变量的值，不如创建解释性模型来帮助我们理解模型中变量之间的关系。 如果你不能解释一个模型是如何工作的，那么这个模型就很难取信于人，自然也就不会被人们应用。 参考链接： https://towardsdatascience.com/all-machine-learning-algorithms-you-should-know-in-2022-db5b4ccdf32f
3.8K20编辑于 2022-03-29 - 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain 简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
87710编辑于 2023-09-06 - 来自专栏大模型
大模型应用开发基础-Prompt工程
大模型应用开发基础-Prompt工程1. 什么是Prompt？Prompt（提示词）是用户输入给AI模型的指令或问题，用于引导模型生成特定输出。 Prompt工程的定义Prompt工程（Prompt Engineering）是通过优化输入指令的结构、措辞和上下文，使大语言模型（LLM）输出更准确、可靠且符合需求的技术。 大语言模型（如GPT-4、Claude、Gemini）本质是“概率生成器”，它们会根据输入提示猜测用户意图。 案例对比❌ 自然语言请求： “列出中国GDP排名前5的城市。” → 可能返回一段文字描述。 最终剩余：4个 不过2023年后发布的主流大模型（GPT-4 Turbo、Claude 3、Gemini 1.5）已原生集成思维链推理能力。
1.2K10编辑于 2025-06-23 - 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 简介 在本教程中，我们将详细探讨 LangChain[1]，一个用于开发基于语言模型[2]的应用程序的框架。我们将首先了解语言模型的基础概念，这些知识将对本教程有所帮助。 大型语言模型通常通过在大量未标记数据上进行预训练，使用自监督学习[4]和弱监督学习[5]技术。 链简化了开发更复杂应用程序的过程，并使调试、维护和改进更加容易。 链还可以组合多个链来构建更复杂的应用程序，这些应用程序可能需要与多个语言模型交互。 这些库未来将快速发展，它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣！
3.3K12编辑于 2025-03-29 - 来自专栏算法channel
大模型开发工程师 roadmap
大模型开发工程师应该是接下来几年最火的方向之一，今天逛github发现一个很好的学习导图，是一个专业的大模型开发工程师的学习路线图： 我翻译了一下，供英文不是很好的同学参考： 运行LLMs： LLM engineering） 结构化输出（Structuring outputs） 构建向量存储： 摄入文档（Ingesting documents） 分割文档（Splitting documents） 嵌入模型
1.1K10编辑于 2024-04-11 - 来自专栏有三AI
【模型解读】历数GAN的5大基本结构
如全卷积的DCGAN模型[1]，输入就是1*100的向量，然后经过一个全连接层学习，reshape到4*4*1024的张量，再经过4个上采样的反卷积网络，生成64*64的图。 5.1 级联结构[5] 早期以DCGAN为代表的网络生成的图片分辨率太低，质量不够好，都不超过100×100，在32×32或者64×64左右。 在图像分割中进行上采样时也采用学习小倍率的放大而不是大倍率的方法，如利用两个2倍上采样替换一个4倍的上采样，不仅可以增强网络的表达能力，还降低了学习难度。 5.2 并行与循环结构[6] GAN有一大应用就是风格化，实现两个域之间的风格互换，以CycleGAN[6]为典型代表。它包含了多个生成器和多个判别器。Cycle的典型结构如下： ? ? Triple Generative Adversarial Nets[J]. neural information processing systems, 2017: 4088-4098. [5] Denton
1.5K10发布于 2019-07-26 - 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。langchain的主要特点有两个，第一点就是组件化。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
1.1K20编辑于 2023-06-28 AI大模型智能体开发：把大模型变成“会干活”的技术逻辑
大模型就像个满腹经纶的学者，能说会道却迈不出书房；而AI智能体，就是给这位学者装上“行动能力”的技术方案——不用重构底层模型，核心是通过三层技术设计，让大模型从“只会回答”变成“自主做事”。 今天用大白话拆解智能体开发的核心技术，普通人也能看懂落地逻辑。首先要明确：智能体开发的技术核心是“闭环能力”，而非创造新模型。 大模型听不懂“模糊需求”，得通过技术手段把用户目标拆成可执行的步骤。这不是简单列清单，而是用“结构化Prompt+任务拆解算法”，给大模型定好行动规则。 其实AI智能体开发，本质是“技术落地的工程思维”。不用纠结大模型的底层原理，核心是把“用户需求”通过任务规划、工具对接、反馈闭环三大技术环节，转化为大模型能执行的行动。 开发的关键永远是：让复杂技术服务于实际需求，让大模型真正走出“书房”，成为能落地干活的实用工具。
60010编辑于 2025-11-24
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号