- 综合排序
- 最热优先
- 最新优先
今天 AI 记忆系统又进了一步：Engram、Claude Code、EdgeClaw 正在把“长期记忆”做成工程能力
今天 AI 记忆系统又进了一步：Engram、Claude Code、EdgeClaw 正在把“长期记忆”做成工程能力 最近一波关于 AI Agent 记忆系统的更新，很值得放在一起看。 这套规则其实非常像一个成熟工程团队的知识管理原则： •主索引只放导航，不放正文 •主题信息按模块拆开 •原始记录保留，但只在需要时检索 •旧知识不是“资产”，很多时候反而是风险 更有意思的是它的 autoDream 记忆系统正在从“外挂检索”走向“原生架构” 过去的做法，常常是先有 Agent，再额外挂一个 RAG 或向量库。 现在的变化是：记忆已经不再是附加模块，而是开始进入系统设计的一开始。 Claude Code 直接把记忆写进工作流纪律，EdgeClaw 把记忆做成多级组件，Engram 则把记忆抽象成开发基础设施。 2. 大家虽然路径不同，但都在回答同一个问题： 长期记忆必须成本可控，否则无法规模化。 3. 好记忆不是记得多，而是记得对、调得准、还能不断整理 这可能是这波更新里最重要的共识。
52010编辑于 2026-04-09- 来自专栏凯哥讲故事系列
凯哥 丨 AI 进入存算解耦的新纪元
论文提出了一个叫 Engram 的条件记忆模块：把经典 N-gram 做成现代化的 O(1) 查表记忆外挂，用确定性哈希在巨大表里秒级定位向量，再通过门控把“记忆向量”注入 Transformer 主干 3）存储稀疏：比 MoE 更彻底的“只读我需要的记忆” MoE 是“只算部分专家”，仍然需要路由与激活管理。 Engram 是“只读少量记忆”，并且通过确定性地址减少路由负担。 Engram 类模块：把高频局部静态模式“内嵌式注入”，把推理从“读文档”中解放出来。 3）模型生态：大模型主干会更像“CPU”，外挂更像“PCIe 插卡” 一旦记忆外挂成立，“模型主干”的角色会更清晰：负责推理、泛化、策略； 而“外挂模块”负责：记忆、工具、规则、领域知识、甚至合规策略。 预测 3：MoE 的下一站是“混合稀疏”：算得少 + 记得快 MoE 解决计算稀疏，Engram 解决存储稀疏。二者组合会成为新的工程默认项： MoE 管会想，Engram 管会背。
39010编辑于 2026-01-22 35倍推理加速，成本砍掉97%——DeepSeek V4要重写大模型游戏规则
整个模型中MoE模块权重占比高达98%，剩下MLP与MLA模块仅占2%。再加上FP8混合精度训练和无辅助损失负载均衡策略，V3在工程层面做到了"斤斤计较"的极致。 Engram的思路是：在Transformer之外，给模型加一个独立的"记忆模块"，通过高效的查找机制直接定位到需要的知识。Engram的底层是对经典N-gram模型的现代化改造。 展开代码语言：PythonAI代码解释importtorchimporttorch.nnasnnclassEngramConditionalMemory(nn.Module):"""Engram条件记忆模块 3.研究Engram开源代码DeepSeek已经在GitHub上开源了Engram模块的代码。对于有定制化需求的开发者，可以提前研究Engram的接口设计，考虑如何把它集成到自己的模型中。 ）#-评估脚本（了解benchmark性能）Engram的代码仓库结构清晰，模块化程度高。
4K120编辑于 2026-04-15- 来自专栏亨利笔记
迈向V4R2之路：揭秘DeepSeek Engram如何解放大模型算力，激发高级智能
这一思路的核心，就是给大模型做“分工”：把静态知识的存储和检索，交给专门的“记忆模块”；让核心的 Transformer 架构，专注于动态推理。 而 Engram 模块，就是“条件记忆”思路的落地实现——高效、可扩展的“AI专属档案库”。 这些问题恰好指明了未来Engram 迭代的方向：增强动态更新能力、提升抗噪性和实现模块化设计，以推动其从实验室走向更复杂的产业应用。 结合 DeepSeek 年初发布的 mHC（流形约束超连接）框架，下一代模型的架构轮廓已呼之欲出了：融合 mHC 优化专家间通信效率，引入 Engram 作为独立记忆模块，形成“动态计算+静态检索”的协同模式 效率优化：功能上等价于增加模型有效深度，释放注意力机制，提升表示效率； 3. 系统突破：确定性寻址实现计算与内存解耦，突破 GPU 内存墙，让万亿级参数的记忆表可低成本部署。
2.5K21编辑于 2026-01-19 - 来自专栏ceshiren0001
DeepSeek 深夜发布 Engram：比 MoE 更节能的突破，V4 架构初露端倪
没有发布会，没有营销话术，只有一篇论文和一个新模块的源码——Engram。更耐人寻味的是，这篇论文的作者列表中，再次出现了 梁文锋 的名字。 二、Engram 在做什么？一句话：该查的，别算“Engram” 是神经科学中的术语，意为 记忆痕迹。在这篇论文里，它被实现为一个可扩展、可学习、可条件触发的记忆模块。 MoE 的稀疏性，是：条件计算只激活少量专家网络Engram 的稀疏性，是：条件查找只命中极少量记忆条目两者解决的是不同问题。 可以这样理解：模块在干什么Engram快速回忆“我以前见过什么”MoE / Transformer认真思考“现在该怎么推理”在架构上，Engram 被放在较早的层级，用于模式重构与事实补全； 而深层网络 如果说 V2 / V3 的关键词是 MoE 扩展效率， 那么 Engram 暗示的，是下一阶段的主题：记忆与推理的结构性分离。
60610编辑于 2026-01-15 - 来自专栏大模型系列
不是更大，而是更聪明：DeepSeek-V4用“记忆+专家”双引擎颠覆大模型范式—压缩稀疏注意力、DSA、Lightning Indexer
其核心创新在于一套名为“双轴稀疏架构”的系统性设计，该架构由两大引擎驱动：“Engram条件记忆引擎”与“MoE混合专家计算引擎”。 第二章：第一引擎——Engram条件记忆：为大模型装上“海马体”2.1设计动机：为什么需要一个独立的记忆模块？在传统模型中，所有知识都内化于神经网络的权重之中。当用户询问“巴黎是哪个国家的首都？” Engram模块旨在解决这些问题，为模型提供一个外部的、可即时访问的“活字典”。 哈希查找：Engram模块使用查询向量，在LSH索引中进行近似最近邻（ApproximateNearestNeighbor,ANN）搜索。由于哈希结构的特性，这个过程的时间复杂度接近O(1)。 Engram触发：上下文中的关键实体和短语会触发Engram模块，从其外部知识库中检索相关事实，并将这些事实作为“增强上下文”注入。
71130编辑于 2026-04-24 - 来自专栏大模型系列
万亿参数震撼发布：DeepSeek V4 MoE架构深度解析
3.2Engram（条件记忆）模块：根治“幻觉魔咒”这是DeepSeek团队于2026年初提出的革命性创新，旨在解决大模型“记不住硬核知识”的根本问题。 实现方式：Engram模块本质上是一个大型、高效的键值对（Key-Value）哈希表。模型在训练过程中，会学习将确定性的、事实性的知识（如API文档、数学公式、历史事件）压缩并存储到这个外部记忆库中。 工作流程：在推理时，模型首先通过其神经网络进行动态推理，同时并行地查询Engram记忆库。如果查询命中，就直接使用精确的事实；如果未命中，则依赖神经网络的泛化能力。 一种新的稀疏维度：Engram被视为继MoE之后，大模型稀疏化的“新轴心”，为模型轻量化和持续学习提供了新路径。Engram的技术细节与创新Engram模块的设计灵感来源于人类大脑的记忆机制。 全量代码库Copilot：在一个包含数百万行代码的仓库中，精准定位并解释任意函数或模块。复杂Agent任务：执行需要记忆大量中间状态和历史信息的多步骤自动化任务。
1.3K30编辑于 2026-05-14 - 来自专栏大模型系列
解密DeepSeek-V4 预览版Engram 记忆模块、mHC 稳定训练与百万Token稀疏注意力的三大突破——百万Token上下文的智能压缩引擎
第二章：第一大突破——Engram条件记忆模块：根治“幻觉”的活字典外挂2.1问题根源：为什么传统模型会“胡说八道”？传统Transformer模型将所有知识都内化于其数十亿甚至万亿的权重参数之中。 2.2Engram的设计哲学：为大模型装上“海马体”Engram模块的设计灵感直接来源于人类大脑的海马体（Hippocampus），后者负责快速、精准地检索长期记忆中的事实性知识。 Engram旨在为大模型提供一个独立的、外部的、可即时访问的“活字典”，实现条件记忆（ConditionalMemory）。 哈希查找：Engram模块使用查询向量，在LSH索引中进行近似最近邻（ApproximateNearestNeighbor,ANN）搜索。 资源消耗锐减：相比于V3.2，单Token的计算量（FLOPs）降低了3-10倍，显存占用大幅减少。推理加速：结合MoE和Engram，V4的端到端推理速度相比同级别稠密模型提升了2.3倍以上。
84120编辑于 2026-04-29 - 来自专栏技术人生黄勇
春节前这波“偷袭”！DeepSeek 没官宣，但偷偷点了什么技能？
窗口只是表象，真正藏在更新里的，是mHC流形约束与Engram条件记忆两项底层架构落地。” 业内猜测，这次模型的更新，应该把之前论文提到的两项核心底层技术：mHC（流形约束超连接）与 Engram （条件记忆模块）也应用在新模型上了，只是没有公布出来。 03 — 条件记忆模块（Engram） 核心定义： Engram 是 DeepSeek 提出的“条件记忆”技术，核心目标是为大模型植入类似人类的“深层速记能力”。 3、硬件解耦： Engram 通过“空间折叠”技术，将数百亿参数存入主机内存（CPU RAM），缓解了对高带宽内存（HBM）的依赖。 Engram 关注的是“如何让模型想得更省力”，通过记忆检索解决算力浪费和显存限制。
47610编辑于 2026-03-11 - 来自专栏不二小段
DeepSeek 最新论文成果，站在字节豆包的肩膀上
从 N-gram 到 Over-Encoding，再到 Engram，优化「记忆范式」 与模型的信息骨架并行的，是关于模型如何「记忆」的探索。 DeepSeek 的 Engram 模块，正是在 Over-Encoding 等工作的基础上，将「静态记忆增强」升级为了「动态条件记忆」。 Engram 的核心观点是，大模型的工作负载可以分为两部分： 1. 组合推理：需要消耗算力，由 MoE 等「条件计算」模块负责。 2. 只有与当前上下文相关的记忆才会被激活并融入到后续计算中，不相关的则被抑制。 3. 解耦：由于查找地址是确定性的，Engram 可以被设计为与主计算流程解耦的独立模块。 将大约 20%-25% 的稀疏参数预算从计算专家再分配给记忆模块，才能达到最佳性能。 小结 总的来说，mHC 和 Engram 体现出相似的演进路线，一种相互学习、相互启发的螺旋迭代。
36210编辑于 2026-04-09 - 来自专栏大模型系列
打破幻觉与成本魔咒：DeepSeek-V4 如何用双轴稀疏架构重塑大模型未来？
第二轴：Engram-条件记忆：负责高效、精准地存储和检索静态的、确定性的事实知识。 3.1Engram条件记忆模块：打造大模型的“活字典外挂”3.1.1设计动机传统模型将所有知识都编码在神经网络的权重中。 Engram模块旨在为模型提供一个外部的、可快速访问的“知识库”。 ），Engram模块的核心是一个可扩展的哈希查找表。 资源消耗锐减：相比于V3.2，单Token的计算量（FLOPs）降低了3-10倍，显存占用大幅减少。推理加速：结合MoE和Engram，V4的端到端推理速度相比同级别稠密模型提升了2.3倍以上。
62320编辑于 2026-04-24 - 来自专栏大模型系列
解密 DeepSeek V4：双轴稀疏 MoE + Engram 记忆 + Muon 优化器，如何打造高效万亿模型？
2.4Engram记忆架构Engram记忆架构是DeepSeekV4在长上下文处理方面的另一项重要创新。 该架构借鉴了神经科学中“记忆痕迹”（Engram）的概念，通过以下机制增强模型的记忆能力：记忆单元：在Transformer层之间插入专门的记忆单元，用于存储和检索长期依赖信息；记忆更新：采用可学习的更新规则 5.3.2智能体开发Agent框架：支持复杂的智能体开发，具备优秀的规划和执行能力；多工具集成：能够调用外部工具和API，扩展功能边界；长期记忆：通过Engram架构实现长期记忆和经验积累。 ：增强Engram架构，实现更长期、更可靠的记忆存储。 其创新的MoE架构、双轴稀疏设计、混合注意力机制、Engram记忆架构等技术突破，不仅解决了超大规模模型的效率问题，更在长上下文处理、推理性能、成本控制等方面实现了全面领先。
56720编辑于 2026-05-16 - 来自专栏算法一只狗
给大模型配一本“速查手册”：DeepSeek 的 Engram 到底解决了什么问题？
整体的框架流程论文中已经画出来了~如果用一句话概括：MoE解决的是“算得更聪明”（条件计算），Engram解决的是“记得更便宜”（条件记忆）。两者是互补结构。 第一步是切片：从输入里提取2-gram、3-gram等局部片段（常用的是后缀形式）。 关键发现：SparsityAllocation出现“U型规律”，MoE和Memory要配比论文中提出一个很有意思的实验设问：在固定总参数预算下，MoE专家参数与Engram记忆参数，怎么分配最好？ Engram的“门控（gating）”确实学会了：只在“这是一个稳定、固定的局部模式”时才强力介入，而不是对所有token都乱用记忆。 目前DeepSeek在走极致化的“稀疏”路线：MoE：计算的稀疏化Engram：存储的稀疏化如果这条路跑通，未来可能出现一种很有代表性的架构形态：小而精的推理核心+可扩展、可更新的超大记忆库。
1.3K40编辑于 2026-01-16 DeepSeek V4全网猜测汇总：四大焦点浮出水面
焦点二：核心技术——全新架构+记忆模块，多方拆解代码细节 ● 技术层面：的猜测最为密集，核心围绕“MODEL1”架构与Engram记忆模块两大方向，均源自开发者对开源代码和论文的拆解分析。 ● 记忆模块：Engram记忆模块则因1月13日曝光的论文引发热议。该论文由DeepSeek核心研发梁文锋署名，提出“查算分离”架构，让CPU负责静态知识存储，GPU专注核心推理。 开发者拆解发现，该模块通过词汇规范化、多头哈希查找、上下文门控等机制，可使词表大小减少23%，长文本任务准确率从84.2%飙升至97%，且在MMLU、CMMLU等任务中均有3-4分的性能提升。 ● 成本方面：Engram模块带来的降本效果成为核心话题。 实测数据显示，该模块可让大模型部署成本暴降90%，原本需8张A100显卡的千亿参数模型，如今1张消费级显卡加64G内存条即可运行，硬件成本从几万美金降至1200美元左右。
1.5K20编辑于 2026-01-30- 来自专栏个人总结系列
Agent的记忆模块记住用户偏好
一、背景记忆模块离不开上下文，通常会是在某个Agent场景（namespace）、某个会话、某个用户的Agent交互信息，Agent的复杂，体现在通过上下文信息理解用户、以及懂用户的复杂，主要体现在：推理复杂性 Agent的上下文交互，通过记忆存储，能够分析准确性（不一定要feedback通过点赞、点踩方式，相似的问题用户问了2次证明第一次处理没有准确），通过分析与强化学习、让Agent越来越聪明。 把上下文进行记忆存储，进行后期用户画像沉淀、准确度或体验提升很关键。 metadata = { finishReason = TOOL_CALLS, index = 0, role = ASSISTANT, id = 3422652169 d74d3aaf33a10d3e51a7c0 null, metadata = { finishReason = STOP, index = 0, role = ASSISTANT, id = edaf6c140ae62d3c51fc7034cfc2e254
42810编辑于 2026-05-18 - 来自专栏安徽开发者圈
AI算力成本要被颠覆？10人公司说token砍99倍
一个让硅谷侧目的数字 2026年6月23日，一家名叫Engram的AI记忆技术公司宣布完成9800万美元融资。 如果你现在每个月花100万跑AI推理，用Engram的方案可能只要1万。 天才陌生人问题 Engram的创始人Dan Biderman有个与众不同的故事。 他从小就对记忆着迷。 "数据在爆炸，成本也在爆炸，"Kleiner Perkins合伙人Leigh Marie Braswell说，"Engram做的事情就是给企业画一张组织记忆地图，让输出成本降低几个数量级。" 不是替代大模型，而是给它装上记忆 关键澄清：Engram并不是要替代OpenAI或Anthropic。 Biderman坦言，Engram的模型在通用能力上并不绝对更好。 Engram更像是一个跟你共事多年的老搭档，知道你的习惯、你的项目、你上次做了什么决定，一开口就能直击要害。 Engram这个名字本身就来自神经科学—记忆痕迹，指的是大脑中储存记忆的物理路径。
12810编辑于 2026-06-25 - 来自专栏大模型系列
万字长文解读 DeepSeek-V4：百万上下文、万亿参数、开源免费，国产大模型迎来JPEG时刻—解密 Engram 记忆模块、MHC 稳定训练与百万Token
极致性价比：推理成本仅为 LLaMA-3-70B 的 1/70，V4-Flash 版本的输入价格低至 0.2元/百万Token。 二、核心技术解密：双轴稀疏架构的范式革命DeepSeek-V4 的强大并非凭空而来，其背后是两大开创性技术的支撑：Engram 条件记忆模块 和 MoE（Mixture of Experts）条件计算。 这两者共同构成了其“记忆-计算分离”的双轴稀疏架构，这是对传统大模型设计的一次根本性颠覆。1. Engram 条件记忆：给AI配一本“超级活字典”想象一下，让一个学生去参加一场开卷考试。 他不需要把所有知识都死记硬背在脑子里（参数），只需要在遇到确定性问题时，快速翻阅手边的参考书（外部记忆）即可。Engram 模块正是扮演了这本“超级活字典”的角色。 MoE + MHC：打造稳定高效的“专家团队”如果说 Engram 解决了“记忆”问题，那么 MoE（混合专家）架构则解决了“计算”问题。
3.8K100编辑于 2026-04-24 - 来自专栏大模型系列
0.2元/百万Token 的万亿AI：DeepSeek-V4 开源，开启超长上下文普惠时代——DeepSeek-V4-Pro|DeepSeek-V4-Flash
该架构包含三大核心技术支柱：Engram条件记忆、mHC流形约束超连接和DSA稀疏注意力。它们共同作用，实现了“记忆”与“计算”的分离，从根本上解决了传统模型的效率瓶颈。 2.1Engram条件记忆：为大模型装上“活字典外挂”2.1.1设计哲学：记忆与计算分离传统Transformer模型将所有知识都编码在神经网络的权重中。 Engram模块的设计灵感来源于人类大脑——我们拥有一个专门用于快速检索长期记忆的海马体。Engram正是大模型的“海马体”。 2.1.2技术实现：O(1)级哈希查找根据DeepSeek与北京大学的合作论文，Engram模块的核心是一个可扩展的哈希查找表。 资源消耗锐减：相比于V3.2，单Token的计算量（FLOPs）降低了3-10倍，显存占用大幅减少。推理加速：结合MoE和Engram，V4的端到端推理速度相比同级别稠密模型提升了2.3倍以上。
1.7K40编辑于 2026-04-24 - 来自专栏安徽开发者圈
AI算力成本要被颠覆？10人公司说token砍99倍
一个让硅谷侧目的数字2026年6月23日，一家名叫Engram的AI记忆技术公司宣布完成9800万美元融资。 如果你现在每个月花100万跑AI推理，用Engram的方案可能只要1万。天才陌生人问题Engram的创始人Dan Biderman有个与众不同的故事。他从小就对记忆着迷。 数据在爆炸，成本也在爆炸，"Kleiner Perkins合伙人Leigh Marie Braswell说，"Engram做的事情就是给企业画一张组织记忆地图，让输出成本降低几个数量级。" 不是替代大模型，而是给它装上记忆关键澄清：Engram并不是要替代OpenAI或Anthropic。Biderman坦言，Engram的模型在通用能力上并不绝对更好。 Engram更像是一个跟你共事多年的老搭档，知道你的习惯、你的项目、你上次做了什么决定，一开口就能直击要害。Engram这个名字本身就来自神经科学—记忆痕迹，指的是大脑中储存记忆的物理路径。
26631编辑于 2026-06-24 - 来自专栏悟道
5-3记忆型递归
18 12:06 下午 * @Version 1.0 */ public class Main { static int n; static int m; //记忆化递归 +1][m+1]; rec = new int[n + 1][m + 1]; System.out.println(dp(1,1));; } //记忆化递归一定要有返回值
32610发布于 2021-04-19
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号