首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏机器学习与统计学

    上下文工程比提示词工程更重要,6种上下文管理策略

    slide=id.p#slide=id.p 1、从提示词工程上下文工程 2、“上下文工程” 体现了当下所面临的各类挑战 上下文污染(Context Poisoning) 示例:Gemini在玩《宝可梦 3、Andrej Karpathy:上下文工程是一门精细的艺术与科学 +1 for "context engineering" over "prompt engineering". 而在每一个工业级的 LLM 应用中,上下文工程是填充上下文窗口以提供恰到好处的信息的艺术和科学,以便为下一步提供正确的背景信息。 4、上下文工程5大实践 1、转移上下文负担 利用文件系统存储笔记(see: Drew’s post[1], Anthropic multi-agent[2])。 正如Andrej Karpathy所说: 除了上下文工程本身之外,一个 LLM 应用还需要: 将问题恰当地拆分成控制流 把上下文窗口调整得刚刚好 分配合适的 LLM 调用 处理生成-验证的 UI/UX

    65910编辑于 2025-07-27
  • 来自专栏周末程序猿

    谈谈上下文工程(Context Engineering)

    大模型发展这两年,应用型 AI 的焦点一直在 “提示工程”(prompt engineering),但随着更强大的大语言模型(LLM)走向多轮、长时间的自主行动,一个更关键的概念开始走到台前:上下文工程 什么是上下文工程 上下文,是在一次 LLM 推断过程中被纳入采样的全部 token 集合,上下文工程的核心任务,是在模型固有约束下,优化这些 token 的效用,以更稳定地获得预期结果。 上下文工程 vs 提示工程 提示工程:编写和组织模型指令以获得最佳输出,通常聚焦系统提示如何写得清晰、有效。 “上下文工程” 的艺术就在于:在有限的上下文窗口中,选取最有价值的子集。 3. 为什么 “上下文工程“ 对强代理至关重要? 这些问题需要用更好的处理方法:把上下文视为稀缺资源,并以工程化方式加以管理,是构建强大代理的基础。 4. 什么是有效上下文

    39210编辑于 2025-11-13
  • 来自专栏机器之心

    提示词工程、RAG之后,LangChain:上下文工程开始火了!

    至于重要性,下面这张图很好地概括了上下文工程与提示词工程、RAG 等的关系。 在传统的提示工程中,开发者通常侧重于精心设计提示语,以期得到更好的答案。 如今,提供完整且结构化的上下文信息比任何巧妙的提示词更为重要。 上下文工程就是为此诞生的。 上下文工程是构建动态系统,以正确的格式提供合适的信息和工具,从而使得 LLM 能够合理地完成任务。 因此,上下文工程正在成为 AI 工程师可以发展的最重要技能。 什么是上下文工程上下文工程是指构建动态系统,以合适的格式提供准确的信息和工具,使 LLM 能够合理完成任务。 上下文工程是一个系统。 上下文工程与提示工程有何不同?  为什么要从提示工程上下文工程转变?早期,开发者专注于巧妙地给出提示以引导模型给出更好的答案。 但随着应用变得更加复杂,现在越来越明显的是,提供完整且结构化的上下文比任何巧妙的措辞更为重要。 我们可以将提示工程视为上下文工程的一个子集。即使你拥有所有的上下文,如何在提示中组装它仍然至关重要。

    74710编辑于 2025-06-26
  • 上下文AI与搜索平台集成以扩展精准上下文工程

    没有正确的上下文,AI模型难以保证相关性,常常产生不准确或“幻觉”的响应。上下文工程旨在解决一个根本问题:在正确的时间以正确的格式提供正确的信息,使AI代理能够执行复杂的、特定于用例的任务。 Contextual AI平台由检索增强生成(RAG)的先驱创立,提供了一个全面的上下文工程平台,用于快速构建开箱即用、具有卓越准确性的AI代理。 随着代理和AI系统变得越来越复杂,上下文工程确保它们能够在正确的时间访问并推理正确的信息。 通过将某中心的混合搜索和向量数据库与Contextual AI的上下文工程平台相结合,开发者获得了一个功能丰富的统一体验,可以在准确的企业上下文中落地他们的代理,而无需增加复杂性。 这一联合解决方案使开发者能够:实现前所未有的准确性:通过使用Contextual AI的上下文工程平台和某中心的混合搜索,代理可以检索并推理最复杂的企业数据,包括财务报告、法律文件和工程规范。

    15810编辑于 2025-12-20
  • 如何高效执行智能体上下文工程

    然而,随着LLM能力的增强,提示工程已经演变为上下文工程:优化输入LLM的所有数据,以在复杂任务上实现最大性能。本文将深入探讨智能体上下文工程,即专门为智能体优化上下文。 这与传统的上下文工程不同,因为智能体通常需要执行更长时间的任务序列。鉴于智能体上下文工程是一个广泛的话题,本文将深入探讨以下列出的主题,并撰写后续文章涵盖更多内容。 具体的上下文工程技巧缩短/总结上下文工具使用在深入探讨上下文工程的具体细节之前,首先说明为什么智能体上下文工程很重要。 为什么智能体需要上下文工程现在我们知道了为什么需要智能体,但为什么智能体需要上下文工程呢?主要原因是,当LLM的上下文包含更多相关信息且噪音(不相关信息)更少时,其性能总是更好。 我们需要从LLM的上下文中移除这些噪音信息,并确保所有相关信息都存在于LLM的上下文中。具体的上下文工程技巧智能体上下文工程建立在传统上下文工程的基础之上。

    19010编辑于 2025-12-17
  • Agentic上下文工程真能杀死LLM微调?

    斯坦福大学最新提出的主动式上下文工程 Agentic Context Engineering(ACE)技术,正在挑战这一看似理所当然的做法,它让AI第一次拥有了类似人类的"经验积累"能力。

    11010编辑于 2026-02-02
  • Alexa上下文语音识别的工程实现解析

    Alexa上下文语音识别的工程实现自动语音识别(ASR)是将语音信号转换为文本的技术。某中心的语音系统为每种语言维护统一的核心ASR模型,但其AI团队通过实时适配用户上下文来提升识别精度。 上下文感知的技术实现设备上下文利用 带屏幕的设备可显示查询应答列表,当处理后续指令时,ASR模型会优先识别列表中的条目。 规模化工程挑战 以确认型追问场景为例(如用户说"打电话给Meg"后需选择联系人),上下文感知使ASR错误率降低26%。 )的短文本数据表:独立存储加密的原始语句和上下文数据避免频繁加解密操作,仅在实际需要生成上下文向量时解密实时计算窗口优化利用系统响应时间窗口执行上下文向量计算麦克风重启指令(expect-speech) 系统设计支持离线实验新上下文信号,持续优化模型效果。技术团队强调:将实验室模型转化为海量用户服务需要严谨的系统设计,某中心工程团队通过科学与工程的紧密协作,实现了上下文机器学习在亿级规模下的稳定运行。

    25611编辑于 2025-08-28
  • 来自专栏AgenticAI

    别再靠运气写 Prompt,上下文工程实战手册!

    上下文工程”(Context Engineering)是当下的新热词,自从 Andrej Karpathy 在推特上推广它后,大家都为之疯狂。 不过我觉得,“上下文工程”的基础更扎实一些。 1. 什么是上下文工程? img 可以这样理解: Prompting(提示词):是你直接让模型去做某件事。 上下文工程版本: [角色] 你是一名中年软件工程师,给同行写博客。 [受众] 有经验但对 LLM 持谨慎态度的开发者。 [语气示例] “是啊,Copilot 会写测试。 其实你可能已经在做上下文工程了,如果你曾经: 给提示词加过示例 改写提示词以调整语气 描述过目标受众 删除过多余文字以节省空间 ——那你就在做上下文工程。 译者注:所以我觉得所谓的上下文工程,如果只是本文来看的话,和提示词工程有什么区别呢?和我之前高赞原创的似乎没什么区别? 那么你的看法是什么呢?评论区留下你的见解。 敲黑板!

    1.2K10编辑于 2025-08-11
  • 来自专栏DeepHub IMBA

    AI智能体开发实战:从提示工程转向上下文工程的完整指南

    还记得去年各大公司给提示工程师开出30万美元年薪的疯狂时期吗?现在这些招聘信息基本销声匿迹了。从技术角度看,提示工程确实有些"投机取巧"的意味——本质上就是让人们相信自己在做"工程"工作的华丽包装。 人们开始把传统软件工程的严谨方法和大语言模型的能力结合起来。这篇文章会深入探讨如何构建真正可扩展、生产环境稳定的智能体工作流。 上下文工程才是核心 虽然我从一开始就对提示工程持保留态度,但不得不承认这个领域的确积累了不少有价值的经验。没有万能的提示技巧,但针对特定数据集和场景,某些提示方法确实能带来明显的性能提升。 关键在于,单纯的提示远远不够——它只是"上下文工程"的一个小组成部分。 软件开发最初采用有向图结构,类似流程图的形式来表示顺序或分支逻辑。 许多研究表明,LLM在超过32k上下文窗口后可靠性显著下降,即便它们能处理百万级token。上下文越长,产生幻觉的概率就越高。

    20410编辑于 2025-11-15
  • AI的关键不是提示词而是上下文-谈从Prompt工程到Context工程

    上下文工程具有四个显著特点。首先是系统性,它不依赖静态模板,而是通过动态系统生成上下文。其次是动态性,根据具体任务实时定制信息内容,一个请求可能需要日历数据,另一个可能需要邮件历史。 这揭示了一个重要趋势:AI代理的失败主要源于上下文失败而非模型缺陷,因此构建有效AI系统的关键是工程上下文管理。 那么对于上下文工程和传统提示词工程的对比如下表: 接着我们再看下对于复杂问题上下文工程完整的处理流程如下图: 从上面的逻辑图,我们也可以看到上下文工程的核心组件包括了: 七个上下文维度 - 按照文章中提到的分类 ,我的第一感觉就是上下文工程就是一种通用性的Agent,具备了复杂任务感知理解和拆分,任务规划和执行,长上下文记忆和存储,多轮反思和迭代,高度工程化和自主性等关键特点。 所以结合我个人的实践,我们来看下个人如何进行上下文工程的一些实践。 1.

    80311编辑于 2025-07-08
  • 来自专栏AI大模型应用开发炼丹房

    告别提示工程上下文工程如何重新定义AI Agent的效率边界?​

    这一转变标志着提示工程(Prompt Engineering)正在自然演进为上下文工程(Context Engineering)。本文我将从技术视角剖析上下文工程的核心逻辑,希望能帮助到各位。 一、什么是上下文工程? 简单来说,上下文工程是将正确的信息以正确的格式在正确的时间传递给LLM的艺术和科学。 下图直观展示了两者的区别:左侧的提示工程流程简单:系统提示+用户消息→生成回复;右侧的上下文工程则是一个动态循环:模型从“可能上下文池”(文档、工具、记忆文件等)中通过“策划”环节筛选最优信息,填入有限上下文窗口 二、为什么上下文工程至关重要? ps:关于上下文工程的工作原理,如果你不清楚,我之前有写过一个很详细的技术文档,建议粉丝朋友自行查阅:《图解Agent上下文工程,小白都能看懂》三、高效上下文工程的三大核心组件 1.

    73530编辑于 2025-10-09
  • 来自专栏设计模式

    AI 智能体上下文工程 4 大实用策略解析

    上下文工程是在智能体运行轨迹的每个步骤中,为其上下文窗口填充恰到好处信息的艺术与科学。在本文中,我们通过回顾各类热门智能体及相关论文,拆解了上下文工程的几种常见策略——写入、选择、压缩和隔离。 和RAM一样,LLM的上下文窗口容量有限,无法容纳所有来源的上下文信息。而正如操作系统会精心筛选适合存入CPU内存的内容,“上下文工程”也扮演着类似的角色。 【上下文工程是】“……一种精妙的艺术与科学,旨在为下一步操作的上下文窗口填充恰好所需的信息。” LLM应用中常见的上下文类型 在构建LLM应用时,我们需要管理哪些类型的上下文呢? )——工具调用的反馈 智能体的上下文工程 今年,随着LLM在推理和工具调用能力上的提升,人们对智能体的兴趣急剧增长。 鉴于此,Cognition公司强调了上下文工程的重要性: “上下文工程”……实际上是构建AI智能体的工程师的首要工作。

    63310编辑于 2025-10-20
  • 来自专栏自然语言处理

    Context Engineering:从Prompt Engineering到上下文工程的演进

    最近在做Deepresearch以及刷到一个不错的文章:context-engineering-guide ,这篇文章揭示了提示工程以及上下文过程在智能体应用开源流程中,包括Deepresearch, 它关注的是如何为AI系统提供完整的工作环境,包括背景知识、历史记录、工具调用、数据检索等各个方面,让AI在这个精心构建的上下文环境中更好地完成复杂任务。 什么是上下文工程? 笔者最近为一个个人使用的多智能体深度研究应用做了一些上下文工程工作。在这个应用中,Search Planner(搜索规划师)智能体负责根据用户查询生成搜索计划。 这不仅仅是设计一个简单的提示或指令,而是需要反复试验,并提供重要的上下文,以便模型能够最佳地执行任务。 指令层面的上下文工程 指令是提供给系统的高层指示,精确告诉系统要完成什么任务。 除了手动进行Context Engineering,还有机会构建能够自动化处理有效上下文工程的方法。目前已经有一些工具尝试做到这一点,但这个领域还需要更多的进展。

    1.9K20编辑于 2025-07-11
  • 来自专栏AI人工智能

    MCP提示词工程上下文注入的艺术与科学

    MCP提示词工程上下文注入的艺术与科学摘要作为一名深耕AI技术领域多年的技术博主摘星,我深刻认识到提示词工程(Prompt Engineering)在现代AI系统中的核心地位,特别是在Model Context 通过系统性的理论分析和丰富的实践案例,我将为读者构建一个完整的MCP提示词工程知识体系,帮助开发者掌握这一关键技术,在AI应用开发中实现更高效、更精准的上下文管理和提示词优化,最终提升整体系统的智能化水平和用户体验质量 性能基准测试与行业对比7.1 MCP提示词工程性能基准为了客观评估MCP提示词工程的效果,我们建立了comprehensive的性能基准测试体系。 从MCP协议的底层机制分析到动态提示词生成的高级算法实现,从上下文长度优化的数学模型到A/B测试的统计学方法,每一个技术环节都体现了现代AI工程的精密性和科学性。 关键词: MCP, 提示词工程, 上下文注入, A/B测试, 动态模板, 性能优化技术标签: #MCP #PromptEngineering #ContextInjection #AIOptimization

    93810编辑于 2025-07-30
  • 百万 Token 上下文窗口的工程实现与实际瓶颈

    @TOC开篇引言随着自然语言处理(NLP)技术的发展,模型对上下文的理解能力变得越来越重要。传统的Transformer模型由于其自注意力机制的复杂度限制,通常只能处理几千个Token的上下文。 本文将探讨如何在工程上实现百万Token的上下文窗口,并分析其中的实际瓶颈。 对于百万Token的上下文窗口,我们需要考虑如何高效地存储和访问这些数据。常见的数据结构如列表、字典等在处理大规模数据时可能会遇到性能瓶颈。 总结实现百万Token上下文窗口的工程挑战主要集中在高效的数据结构和算法、稀疏注意力机制、分块处理和并行计算以及内存优化和显存管理等方面。 总结本文深入探讨了百万 Token 上下文窗口的工程实现与实际瓶颈的相关技术,从原理到实践,从基础到进阶,希望能够帮助读者全面掌握这一技术。

    16310编辑于 2025-12-24
  • 【AI大模型新资讯】从信息蜂房到上下文工程

    (5)上下文工程上下文工程指通过为任务提供完整的背景信息,让大模型能够合理解决问题。在AI智能体的兴起发展过程中,上下文工程才是决定大多数AI智能体成败的关键而并非模型。 上下文工程致力于设计和构建动态系统而并非字符串,这些系统在恰当的时机提供信息和工具,从而让LLM拥有完成任务所需的一切。

    13720编辑于 2025-07-15
  • CodeGen生态05 | 方法层:SDD as 上下文工程一环

    我感觉:【Vibe Coding 和 Prompt工程】是匹配的一对儿,【Spec驱动开发 和 Context工程】是匹配的一对儿。我理解:AI系统 = 人 + 上下文信息 + LLM底座。 上下文工程,给只有“金鱼记忆”的LLM插上记忆的翅膀。  Generative Aaent)的短期记忆能记录用户偏好,在电商推荐场景实现点击率17%的提升··4 跨任务迁移:Agent S的语义记忆网络支持GU操作技能的跨平台迁移,使新任务学习成本降低60% 上下文工程 :正从“技巧”向“学科”进化未来,上下文工程可能成为每一个 AI 应用开发者必须掌握的系统能力,就像今天的 API 架构、数据库设计一样基础而关键。 SDD as 上下文工程一环​SDD通过"规格优先"的工作流(Spec-first → Plan → Tasks → Implement),将模糊的自然语言需求转化为结构化的上下文信息,这正是AI系统公式中

    26820编辑于 2026-01-04
  • 来自专栏AI大模型应用开发炼丹房

    揭秘上下文工程+MCP:打造高效AI智能体的秘诀

    我们经常听到“上下文工程”这个词:简单来说,就是在与大模型交互的过程中,我们需要为它提供有用的背景信息,以帮助它更好地回答问题。 如果你对上下文工程不是很清晰,我之前也整理过关于Agent上下文工程的工作原理,建议粉丝朋友自行查阅,以便更好的理解本文的分享内容:《图解Agent上下文工程,小白都能看懂》MCP 的作用,其实是帮助AI 接下来,我将详细拆解三个关键问题:工具调用的实际机制、MCP的真实作用,以及它们与“上下文工程”之间的关系。 四、回归上下文工程:MCP是来帮你减负的 “上下文工程”的核心在于为模型提供高质量的背景信息,以引导其生成更准确的回复。 这是“上下文工程”与“工具设计”的结合点:我们需要将工具列表以模型可理解的方式组织成提示词的一部分。而MCP,正是简化这一过程的工具。

    71351编辑于 2025-09-30
  • 大语言模型的上下文工程(Context Engineering for Large Language Models)

    上下文工程是一门微妙的艺术和科学,它为上下文窗口填充下一步所需的正确信息。 什么是上下文工程? “上下文工程”是指为大语言模型设计和构建一整套动态的信息生态,让模型在推理时能够获取充分且相关的上下文,以更可靠地完成任务。 上下文工厂与传统提示词工程相比有着本质区别,我们可以从多个维度进行对比: 组成方式:提示词工程将模型上下文视为静态字符串,而上下文工程上下文视为多个片段动态组装的结果 。 上下文工程的典型系统实现 在实际工程中,上述基础组件通常会集成到完整的系统架构中,从而打造出功能强大的智能应用。 这一系列过程都属于上下文工程要精心设计的部分。 通过工具增强,LLM 已经从纯文本对话演变为可以执行动作的智能体。上下文工程在其中扮演粘合剂角色,确保模型 — 上下文 — 工具三者协调工作。

    1.7K10编辑于 2025-07-21
  • 来自专栏【腾讯云开发者】

    万字长文详解上下文工程

    在这一阶段,模型的能力表现,很大程度上取决于上下文的组织方式。 1.4 提示工程上下文工程的自然演进 在 Agent 出现之前,提示工程是提升模型表现的主要手段。 03 上下文工程:一个被低估的系统问题 在实际工程中,最常见的一种误解,是把上下文工程简单理解为“尽可能多地把信息塞给模型”。 工程实践中,通常需要明确哪些信息是短期有效的,哪些需要被长期保留。通过定期整理和压缩上下文,可以让模型始终关注当前阶段最相关的内容。 这种动态管理方式,是上下文工程区别于提示工程的关键特征之一。 上下文工程所包含的模块 04 上下文工程的关键组成部分 4.1工具:让模型具备行动能力 在 Agent 系统中,工具是模型能力向外扩展的主要方式。 05 MCP:上下文工程的结构化落地方式 当 Agent 系统逐渐复杂,上下文内容开始呈现出明显的工程问题。

    1.2K11编辑于 2026-01-07
领券