- 综合排序
- 最热优先
- 最新优先
- 来自专栏喔家ArchiSelf
10个构建Agent的大模型应用框架
在此，我们将重点介绍10个具有代表性的Agent应用构建框架，并对其他常见的框架进行简要概述，以期为大家提供一个相对全面的视角，了解这一领域的现状和潜在趋势。 1. * 关于Autogen的更多内容，可以参考《基于大模型（LLM）的Agent 应用开发》一文。 5. 10. Haystack Haystack 是由 deepset 开发的一个开源框架，专门帮助企业构建生产级的 大模型应用、RAG（检索增强生成）流水线以及复杂的搜索应用。 大模型应用的10个架构挑战 浅析面向场景的大模型应用框架选择 解读小模型——SLM 大模型应用系列：从Ranking到Reranking 大模型应用系列：Query 变换的示例浅析 初探大模型压缩 解读大模型应用的可观测性 大模型应用的10种架构模式 LLM运行框架对比：ollama与vllm浅析
12.5K30编辑于 2025-03-24 - 来自专栏前行的CVer
大模型Agent
PanelGPT💡: 💁🏼🎤 (👾💬) (🤖💭) (🤯🗯) 受到“三个臭皮匠，赛过诸葛亮”启发，设计one-shot的例子，让多个LLM同时给出答案，然后再用一个LLM打分，做决定。他们使用的prompt：3 experts are discussing the question with a panel discussion, trying to solve it step by step, and make sure the result is correct and avoid penalty:，这个prompt的效果要优于Let's think step by step:。
35710编辑于 2024-05-15 - 来自专栏XINDOO的专栏
Agent设计模式——第 10 章：模型上下文协议 (MCP)
这本质上就是模型上下文协议（MCP）的功能。 Agent 可能分析市场数据、执行交易、生成个性化财务建议或自动化监管报告，同时保持安全和标准化通信 简而言之，模型上下文协议（MCP）使 Agent 能从数据库、API 和 Web 资源访问实时信息。 ，它使用 Gemini 语言模型。 这种标准化方法促进了可互操作和可重用组件生态系统，显著简化复杂 Agent 工作流开发 经验法则：在构建需要与各种不断发展的外部工具、数据源和 API 交互的复杂可扩展或企业级 Agent 系统时，使用模型上下文协议 3 HD、Lyria）集成 MCP 使 LLM 和 Agent 能与现实世界系统交互，访问动态信息，并执行超越文本生成的操作 结论 模型上下文协议（MCP）是开放标准，促进大型语言模型（LLM）与外部系统间通信
2.6K10编辑于 2025-10-27 - 来自专栏服务端技术杂谈
AI Agent：模型->工具->结果->模型
Reddit上有人说，AI Agent就是：模型->工具->结果->模型。 从程序员角度来说，就是拼接参数json，调用LLM，处理返回值json。 Agent不只是聊天机器人，还需要工具，所以要先告诉Agent，你有哪些API/工具，这些工具可以做什么。 不需要用什么复杂的框架，基本上只需要串联： 用户输入目标Prompt->将提示词传递给LLM->模型决定下一步->需要工具（API调用、爬取网页、操作API）执行->将结果反馈给模型进行下一步->直到任务完成 即：模型 → 工具 → 结果 → 模型 关于记忆，先用短期记忆，比如最近几条上下文消息。 如果需要跨会话记忆，可以从持久存储获取，比如向量数据库。
16810编辑于 2026-03-11 5种大模型Agent模式
大模型中的5种AI Agent模式在大模型中，AI Agent（人工智能代理）模式是一种重要的应用方式，可以从以下几个方面来理解：1. 在大模型的背景下，AI Agent 是基于大规模预训练模型（如 GPT 等）构建的智能代理，能够利用模型的语言理解和生成能力来完成复杂的任务。 智能性：它基于大模型的强大语言理解能力，能够理解自然语言指令，并生成自然语言响应。这种智能性使其能够处理复杂的语言任务，如对话、写作、翻译等。 工作原理感知与理解：AI Agent 首先通过输入（如用户指令、环境数据等）感知外部信息，然后利用大模型的语言理解能力解析这些信息，确定任务目标。 技术负责人（Tech lead agent）、开发运维（DevOps agent）、工程师（SDE agent）：各司其职，协作完成任务。
4.9K10编辑于 2025-05-07- 来自专栏玩转Lighthouse
玩转Hermes Agent｜云上Hermes Agent配置大模型指南
一篇文章搞懂并教你快速搭建属于自己的HermesAgent>>HermesAgent一键部署指南快捷配置（推荐）Lighthouse控制台现已支持快捷配置模型，进入应用管理页签即可快速配置主流大模型手动配置步骤一 ）获取APIKey：https://openrouter.ai/keysOpenRouter是一个模型聚合平台，通过一个APIKey即可访问200+个来自不同提供商的模型。 进阶配置配置备用模型（Fallback）当主模型遇到限流或故障时，HermesAgent可以自动切换到备用模型。 配置智能路由简单问题用便宜模型，复杂任务用主力模型，节省API开销。 Q：本地模型工具调用不生效怎么办？
3.2K65编辑于 2026-04-26 - 来自专栏DeepHub IMBA
AI Agent技术栈：10个构建生产级Agent的核心概念
本文就总结了构建AI系统时真正绕不开的10个基础概念 1、MCP：通用插件系统 假设你需要Agent读取Gmail、更新Notion、查询数据库。 推理循环才是Agent真正解题的方式。 Agent先想该做什么，然后执行，再观察结果，接着重新评估：刚才的做法管用吗？下一步试什么？如此往复，直到任务完成。 比如你让Agent查竞争对手的定价。 有了长期记忆，Agent会让人觉得"它记得我"，而不是每次都像跟陌生人打交道。 来看一个场景：用户说过"我习惯把会开在上午10点之前"。这条偏好被写入长期记忆，关联到用户ID。 三次重试都失败后，Agent告诉用户——"邮件服务暂时挂了，草稿已保存，10分钟后自动重发。"出了什么问题、接下来怎么办，交代得清清楚楚。 10、运行时编排：管理执行环境 Agent不是跑一次就结束的脚本。它是一个长期运行的系统，要响应事件、并行处理任务、扛住重启、还得在资源限制内运转。 运行时编排就是这套基础设施。
72410编辑于 2026-02-27 - 来自专栏自然语言处理
大模型 Agent 就是文字艺术吗？
最近在技术圈里有一个很有趣的争论：大模型 Agent 是不是就是各种 Prompt 的堆叠？ 像 Manus 这样看起来很智能的 Agent，本质上是不是就是用巧妙的 Prompt 约束大模型生成更好的输出？换句话说，这是不是一门文字艺术？ 这个问题引发了业内专家的激烈讨论，观点分化明显。 但关键是：Prompt 是 Agent 系统中大模型和其他各个组件的润滑油，而不是全部。 结论：既是也不是 回到最初的问题：大模型 Agent 是不是文字艺术？ 答案是：既是也不是。 从某种意义上说，所有与 LLM 的交互最终都要通过文字（Prompt）来实现，这确实是一门语言艺术。 你觉得大模型 Agent 是文字艺术吗？欢迎在评论区分享你的观点。
27201编辑于 2025-05-24 - 来自专栏Reck Zhang
Java 10 - 内存模型
内存模型 主存储器与工作存储器 主存储器 方法区(Method Area) 方法区用于存储类的信息, 常量, 静态变量, 即时编译器编译后的代码. 栈(Java Virtual Machine Stacks) 代表着Java方法执行的内存模型, 每个方法执行时都会创建一个栈帧来存储方法的变量表, 操作数栈, 动态链接方法, 返回值, 返回地址等信息
41920发布于 2021-08-11 鸡翅-大模型与Agent开发实战
鸡翅·大模型与Agent开发实战：从入门到企业级落地的腾讯云全路径2026年，AI Agent已不再是实验室里的概念验证，而是企业降本增效、重塑业务流程的核心引擎。 本文基于鸡翅大模型与Agent开发实战体系，结合腾讯云全栈AI工具链，为你拆解从零构建智能体的完整链路。 一、Agent的本质：给大模型装上"手脚"与"大脑"如果说大模型是"大脑"，那Agent就是"大脑+手脚+记忆系统"的完整智能闭环。传统大模型擅长生成文本回答，但缺乏自主执行能力。 并发成本脉冲式并发导致极高闲置成本资源利用率>80%，单分钟600,000实例吞吐极值，P99延迟稳定1秒内量化指标： 冷启动时间 <100ms（传统容器需秒级/分钟级）⚡ 单分钟 60万次 沙箱创建，QPS峰值突破10,000 四、开发实战：从零搭建你的第一个Agent4.1 选基座模型国内开发者优先选择DeepSeek-V3.2，其多步工具调用能力可媲美海外顶级模型，成本降低80%。
21210编辑于 2026-06-09- 来自专栏Python与算法之美
10，模型的优化
搜索超参数空间以优化超参数需要明确以下方面： 估计器 超参数空间 交叉验证方案 打分函数 搜寻或采样方法（网格搜索法或随机搜索法） 优化模型的常见方法包括 网格搜索法，随机搜索法，模型特定交叉验证， 三， 模型特定交叉验证 一些特定的模型，sklearn构建了一些内部含有交叉验证优化机制的估计器。 它们主要是在linear_model模块。 四， 信息准则优化 模型选择主要由两个思路。 解释性框架：好的模型应该是最能解释现有数据的模型。可以用似然函数来度量模型对数据集描述能力。 预测性框架：好的模型应该是最能预测结果的模型。 通常模型参数越多越复杂，越容易出现过拟合。 所以，模型选择问题在模型复杂度与模型对数据集描述能力（即似然函数）之间寻求最佳平衡。 AIC(赤池信息准则)和BIC(贝叶斯信息准则)对模型的选择提供了一种判据。 AIC信息准则选择AIC最大的模型。 BIC信息准则选择BIC最大的模型。
83721发布于 2020-07-17 - 来自专栏技术汇总专栏
面向 LLM Agent 的组织模型设计：多 Agent 协同的新范式
面向LLMAgent的组织模型设计：多Agent协同的新范式一、引言：为什么多Agent系统需要“组织模型”随着人工智能系统从“单智能体”向“群体智能”演进，多Agent系统（Multi-AgentSystem 为了解决这些问题，组织模型（OrganizationalModel）被引入多Agent系统设计中，用于规范Agent的结构、职责与协作方式。 二、多Agent组织模型的核心要素一个完整的MAS组织模型通常包含以下三个关键维度：角色分配（RoleAssignment）权限管理（Authority&PermissionControl）任务协同策略 未来的Agent系统，不只是“更聪明”，而是“更有组织”。多Agent系统的复杂性本质上源于“多主体协作”本身，而组织模型正是将这种复杂性工程化、可控化的核心手段。 可以说，组织模型决定了多Agent系统是否具备规模化扩展与长期演进的能力，是多Agent从“概念验证”走向“工程落地”的关键基础设施。
58210编辑于 2026-01-12 - 来自专栏喔家ArchiSelf
基于大模型（LLM）的Agent 应用开发
目前，业界一般认为基于大模型的应用集中在两个方向上：RAG 和 Agent，无论哪一种应用，设计、实现和优化能够充分利用大模型(LLM)潜力的应用都需要大量的努力和专业知识。 这种流程的潜在设计空间可能是巨大而复杂的，《如何构建基于大模型的App》一文给出了一种探索中的大模型应用开发基础框架，基本可以适用于RAG 和Agent。 但是，对于面向Agent的大模型应用开发，有没有其独特之处呢？有没有聚焦于Agent的大模型应用开发框架呢？ 那么，什么又是Agent 呢？ 1. agent program 是 agent function 的真子集 1.2 大模型领域中的Agent 在大模型领域，大模型替代了传统agent 中的规则引擎以及知识库，Agent提供了并寻求推理 小结 Agent 是与大模型主动交互的一种重要程序形式，而Multi-Agent则是多个Agent利用大模型完成复杂任务的系统机制。
8.1K33编辑于 2023-10-23 - 来自专栏服务端技术杂谈
Agent的瓶颈从来不是模型智力
现阶段Agent的瓶颈从来不是模型智力，失败的原因大多来自于不被模型理解的上下文，如模式/规约/问题设定等。 如今，这一层被harness包裹起来。 这些基础设施，不在于让模型更聪明，而是让模型接受到正确/可控的上下文，避免被噪音/杂音淹没。 所以很多人说，同样的模型，用了不同的harness之后，效果可能差10倍。 通用 agent 的通用性在于 harness，如文件管理/上下文读取与加载/安全校验与审计，而专有领域 agent 的上限来源于各种 skill，这些 skill 中包含了逻辑判断/业务流程/领域知识 确定性的工具层，有助于消除模型的幻觉，可以确保 agent 可控，判断力交给模型，执行力交给工具。 为了确保 Agent 在专有业务领域下跑的更好更快，应该避免给模型讲大道理或堆砌所有的 SOP，更好的方式是提炼与沉淀业务流程，固化为 skill。
12510编辑于 2026-06-02 - 来自专栏全栈程序员必看
Django（10）ORM模型介绍
所以我们采用ORM模型 ORM模型介绍 orm全称Object Relational Mapping，中文叫做对象关系映射，通过ORM我们可以通过类的方式去操作数据库，而不用再写原生的SQL语句。 通过把表映射成类，把行作实例，把字段作为属性，ORM在执行对象操作的时候最终还是会把对应的操作转换为数据库原生语句 ORM的优点 易用性：使用ORM做数据库的开发可以有效的减少重复SQL语句的概率，写出来的模型也更加直观 ORM的实现过程 （1）配置目标数据库，在setting.py中设置配置属性 （2）构建虚拟对象数据库，在App的model.py文件中以类的形式定义模型 （3）通过模型在目标数据库中创建对象的数据表 （4）在视图函数中使用模型来实现目标数据库的读写操作 发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/166174.html原文链接：https://javaforall.cn
43620编辑于 2022-09-20 - 来自专栏AI 应用架构
Agent评测为什么比传统测试难 10 倍
让我们用一张图来对比两种系统的评测逻辑差异：Agent评测的四大核心挑战可以归纳为：第一，非确定性输出。同一个Prompt、同一个输入，跑10次可能得到10个不同的结果。 3个月后模型更新了，用"同一份"评测Agent提示词重跑，结果变成了83分。是被测Agent退步了，还是评测Agent的底层模型变了？缓解方案：锁定模型版本。 维护一批"黄金参考输出"——固定10条数据和它们在某个时间点的评测结果。每次新跑批前，先用这10条跑一遍，检查评测Agent是否发生了漂移。 基于6个Agent的实战数据：阶段传统方式Harness+CC加速比评测方案设计1-2天10-30分钟~10x评测集构建2-3天半天（含人工标注）~5x评测脚本/Agent开发2-3天1-2小时~10x 跑批执行同同1x结果分析+报告半天-1天10-20分钟~5x单Agent全流程约1.5周约1-2天~5x加速比最显著的两个环节是方案设计和评测逻辑开发，都达到了约10倍。
33479编辑于 2026-06-09 - 来自专栏FreeBuf
从Windows 10 SSH-Agent中提取SSH私钥
背景 在这个周末我安装了Windows 10 Spring Update，最令我期待的就是它的内置OpenSSH工具，这意味着Windows管理员不再需要使用Putty和PPK格式的密钥了。 在Windows 10中使用OpenSSH 测试要做的第一件事就是使用OpenSSH生成几个密钥对并将它们添加到ssh-agent中。 然后确保新的ssh-agent服务正在运行，并使用ssh-add将私钥对添加到正在运行的agent中： ? 运行ssh-add.exe -L显示当前由SSH agent管理的密钥。 最后，在将公钥添加到Ubuntu box之后，我验证了我可以从Windows 10进入SSH，而不需要解密我的私钥（因为ssh-agent正在为我处理）： ? 监控SSH Agent 为了了解SSH代理是如何存储和读取我的私钥，我开始静态检查ssh-agent.exe。
3.9K30发布于 2018-07-30 - 来自专栏AgenticAI
给LLM Agent应用插上视觉模型的翅膀：封装ONNX加载的头部姿态评估模型作为Agent的工具
如果将视觉模型按照LLM工具调用方式嵌入到大语言模型应用中，给大语言模型插上视觉模型必定能让你的LLM应用更为有趣。 在深入探讨ONNX如何赋能LLM Agent以视觉理解能力之前，如果您渴望更全面地理解这一领域的核心理论与实践，以下这部著作将是您不可或缺的伴侣： 话不多说，我们先看看看论文全称：6D Rotation the yaw of head"] Roll: Annotated[float, "the roll of head"] 然后通过autogen的register_function将函数注册到Agent 至此，我们已共同见证了ONNX如何为LLM Agent巧妙融入头部姿态评估模型，开启了多模态交互的新篇章。 在我们探索之旅的尾声，若您意犹未尽，渴望亲自操刀，将理论付诸实践，那么黄佳老师这本《大模型应用开发：动手做AI Agent》将是您理想的选择。 关注点赞不迷路哦！
82700编辑于 2025-03-18 - 来自专栏架构驿站
Deep Agent 是如何让大模型更“聪明” ？
它为大模型配备了“规划大脑”“分身助手”“文件记忆”和“详细指令”，让 AI 不再只是回答问题，而是能像一个真正的项目执行者那样——先想全局，再分解任务，最后一步步落地完成。 本文将带你深入解析 Deep Agent 的工作原理，并看看它是如何让大模型变得更聪明、更能干的。 —01 — 什么是 Deep Agent ？ 如果说，我们熟知的大语言模型（LLM）是一位学识渊博、对答如流的“金牌咨询师”，那么传统的 AI Agent，就是我们为这位咨询师配备的第一个“助理”。 , allowed_tools=[] # 它不需要外部工具，它的工具就是大模型本身的写作能力 ) # 将所有子智能体组合成一个团队 sub_agent_team = [researcher, 基于 Deep Agent 的特性，其神奇之处在于：只需要定义好函数的签名和文档字符串（docstring），大模型就能自动理解这个工具的用途和参数，并在需要时调用它。
2.8K10编辑于 2025-08-11 - 来自专栏TGLTommyAI前沿技术论文
Agent框架如何选？10大框架选型的底层逻辑
本报告对 10 个主流 Agent 开发框架进行系统性技术调研，从架构设计、核心功能、生态成熟度、生产部署能力等维度展开深度分析，旨在帮助工程师和技术决策者在实际项目中做出精准的框架选型。 1.2 全景概述 这 10 个框架覆盖了 Agent 开发的全部范式：LangGraph 以图状态机为核心提供底层控制力；CrewAI 用角色驱动的高层抽象加速多 Agent 协作落地；LlamaIndex ：Agent 框架技术背景 2.1 什么是 Agent 开发框架 Agent 开发框架是为构建基于大语言模型（LLM）的自主代理系统而设计的软件工具包。 框架融合趋势：2025 年 10 月 Microsoft 宣布合并 AutoGen 与 Semantic Kernel，2026 年 2 月达到 Release Candidate 状态，标志着行业从" 3.2.4 生态与集成 LLM 模型：模型无关，支持 OpenAI、Anthropic、Gemini、开源模型 第三方集成：支持 LlamaIndex、LangChain Agent 加入 Crew 企业工具
14410编辑于 2026-06-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号