首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏自然语言处理

    如何在Agent中设置Memory

    例如,千问AI agent使用一个Memory类来管理长期记忆,支持多种文件类型(如.pdf、.docx、.xlsx等),并配置参数如max_ref_token(默认4000)、parser_page_size = Chroma(embedding_function=embeddings) # 存储记忆 def store_memory(text, metadata=None): memory_db.add_texts 存储新记忆 store_memory(f"用户: {user_query}\n助手: {response}") return response 结论 记忆是AI Agent能够学习和适应的关键 扩展能力:通过外部知识(如API或数据库),Agent可以超越内部知识的限制。 然而,当前研究仍面临挑战: 主要集中在文本形式的记忆上,而参数化记忆(Parametric Memory)研究不足。 大模型智能体Agent的记忆通过短期记忆和长期记忆实现,前者处理临时对话信息,后者存储持久化数据。记忆的实现包括写入、管理和读取三个步骤,支持Agent在复杂任务中的学习和决策。

    2.2K00编辑于 2025-04-14
  • 来自专栏小七的各种胡思乱想

    Agent Memory新视角 - MATTS&CFGM&MIRIX

    记忆的两种面孔:LLM Memory vs Agent Memory之前我们探讨过Mem0和LlamaIndex对大模型记忆的工程化实现,但这两个库更侧重于LLM Memory而非Agent Memory 本质上Agent Memory是包含了LLM Memory的。 那增量的差异来自LLM Memory:更像是事实备忘录,记录对话中的具体事实和场景信息Agent Memory:更像是经验笔记本,记录执行轨迹和从历史行动中提炼的智慧Agent Memory的三大经验维度 最近Agent Memory的论文如雨后春笋,但重复度较高。 Vault Memory Manager, and the Chat Agent.

    70210编辑于 2025-10-16
  • 来自专栏小七的各种胡思乱想

    解密prompt系列55.Agent Memory的工程实现 - Mem0 & LlamaIndex

    的示例,短期记忆默认使用Memory初始化,直接传入Agent的运行过程中,Agent每一步运行都会调用finalize方法来更新Memory。 from llama_index.core.memory import Memoryfrom llama_index.llms.azure_openai import AzureOpenAIfrom llama_index.core.agent.workflow asynciollm = AzureOpenAI(**kwargs)agent = FunctionAgent(llm=llm, tools=[])response = await agent.run( "你好",memory=memory)如果不使用Agent直接用大模型自己编排工作流的话,需要手动把历史对话插入Memoryfrom llama_index.core.llms import ChatMessagememory.put_messages from llama_index.core.agent.workflow import FunctionAgentfrom llama_index.core.memory import ( StaticMemoryBlock

    1.7K20编辑于 2025-06-05
  • 来自专栏颇忒脱的技术博客

    CPU & Memory, Part 3: Virtual Memory

    原文:What every programmer should know about memory, Part 3: Virtual Memory 4 Virtual Memory 虚拟内存(virtual memory)是处理器的一个子系统,它给每个进程提供虚拟地址空间(virtual address space)。 虚拟地址空间由CPU的Memory Management Unit(MMU)实现,操作系统必须填写页表数据结构(page table data structures,见wiki词条),大多数CPU自己完成余下的工作 / 29=210个1级页表=210个2级页表条目 所以需要:210 / 29=2个二级页表=2个3级页表条目 4.3 Optimizing Page Table Access 所有页表是存在main memory

    1.2K10发布于 2019-04-18
  • 来自专栏腾讯云存储

    腾讯云 Data Platform 构建 Agent Memory Lake:让智能体拥有无限记忆

    传统存储方案难以应对该需求,Memory 访问效率、容量与管理能力成为 AI Agent 推理效率的核心瓶颈。 Memory Lake 分层记忆体系,旨在解决 AI Agent 的记忆管理难题,支撑其高效推理、规划与持续进化。 Agent 推理效率的真正挑战: Memory 记忆体成为关键因素 而在 AI Agent 场景下,Agent 的核心在于记忆(Memory),这使得数据管理的范式和重要性发生了根本变化,主要表现在以下几个方面 基于进化 Memory Lake 构建分层记忆体系,支撑 Agent 推理、规划与持续 Agent 需要的不是单一的数据库,而是一套围绕业务流程构建的分层记忆体系,为解决 Agent 特有的记忆管理挑战 ,我们提出了 “记忆湖(Memory Lake)” 这一新概念,Memory Lake 是面向 AI Agent 场景、以“记忆”为核心资产的数据管理与存储体系。

    24110编辑于 2026-03-09
  • 来自专栏响应式编程

    JVM Memory

    JVM管理的五种内存区域,其中只有程序计数器这块区域不会发生OOM。

    49810编辑于 2022-05-30
  • 来自专栏GPUS开发者

    Unified Memory

    首先讲一下Unified Memory(统一内存寻址)。在编写CUDA程序的时候,我们需要在CPU端和GPU端分别定义不同的内存空间,用于存储输入或输出的数据。 简单来说,Unified Memory的概念就是定义一个内存指针,既可以从CPU端去访问,也可以从GPU端去访问。 Unified Memory经历了一个比较长的发展历史,2010年CUDA4率先推出了统一虚拟地址——UV的概念,当时NVIDIA叫做零复制内存,GPU代码可以通过PCIE总线访问固定的CPU内存,无需进行 Memory Copy。

    2.7K100发布于 2018-04-02
  • 来自专栏ADAS性能优化

    Memory Types

    Memory Types Not all memory allocated in the virtual memory space is the same. This creates a classification with 4 memory classes: image.png Private Memory Private memory is, as its Most of the memory you deal with in a program is actually private memory. same memory. Anonymous Memory Anonymous memory is purely in RAM.

    67030编辑于 2022-05-13
  • 来自专栏学习之旅

    【知识】pytorch中的pinned memory和pageable memory

    # tensor.pin_memory() 就行pinned_tensor = torch.randn(data_size, dtype=torch.float32).pin_memory()device # 比较结果 speedup = normal_memory_time / pinned_memory_time print(f"[进程 {rank}] 固定内存的传输速度是普通内存的 反直觉情况 我再瞎试的过程中发现,如果将pinned memory放在一个class中,那么多进程时候,pinned memory的移动很慢。暂不清楚为什么。 Call allocate_memory first. (device, use_pinned_memory=False) print(f"[进程 {rank}] 普通内存到GPU传输时间: {normal_memory_time:.6f} 秒")

    63210编辑于 2024-08-17
  • 来自专栏GPUS开发者

    DAY33:阅读Share Memory和Constant Memory

    Constant Memory The constant memory space resides in device memory and is cached in the constant cache Texture and Surface Memory The texture and surface memory spaces reside in device memory and are cached alternative to reading device memory from global or constant memory: · If the memory reads do not follow 本文备注/经验分享: 今天的主要内容是除了昨日的Local memory之外, 继续提到其他存储器: Constant memory, Shared memory, 以及. 但目前, warp shuffle等于不使用shared memory任何空间的shared memory上的特殊数据交换. 应当使用的.这三点用途, 是shared memory的最常见的使用.

    73430发布于 2018-06-22
  • 来自专栏linux驱动个人学习

    Memory barrier 简介

    Memory barrier Memory barrier 简介 程序在运行时内存实际的访问顺序和程序代码编写的访问顺序不一定一致,这就是内存乱序访问。 内存乱序访问主要发生在两个阶段: 编译时,编译器优化导致内存乱序访问(指令重排) 运行时,多 CPU 间交互引起内存乱序访问 Memory barrier 能够让 CPU 或编译器在内存访问上有序。 一个 Memory barrier 之前的内存访问操作必定先于其之后的完成。 Memory barrier 包括两类: 编译器 barrier CPU Memory barrier 很多时候,编译器和 CPU 引起内存乱序访问不会带来什么问题,但一些特殊情况下,程序逻辑的正确性依赖于内存访问顺序 内核实现 barrier() 如下(X86-64 架构): #define barrier() __asm__ __volatile__("" ::: "memory") 现在把此编译器 barrier

    1.3K30发布于 2018-07-30
  • 来自专栏全栈程序员必看

    allocatememory(an out of memory)

    博主的这个程序减小batchsize就行了,可能不同的博友们的程序不一样,也有的大佬博主使用不计算梯度或释放内存的方式

    57730编辑于 2022-07-25
  • 来自专栏Golang语言社区

    Golang memory model

    Introduction The Go memory model specifies the conditions under which reads of a variable in one goroutine the requirements of reads and writes, we define happens before, a partial order on the execution of memory The initialization of variable v with the zero value for v's type behaves as a write in the memory model 本文来自:Segmentfault 感谢作者:Airy 查看原文:Golang memory model

    1.1K70发布于 2018-03-26
  • 来自专栏时悦的学习笔记

    In-memory Sort %

    理论上说上述比例应接近100% ---- In-memory Sort % 该参数反应了内存内排序和磁盘排序之间的比例 计算公式为 : (DeltaMemorySorts / (DeltaDiskSorts 共享服务器(shared)类型中,排序区域在 large pool 中,由于是共用的无法手动指定各个session使用的大小 ---- 如何处理 如该指标过低,需增加sort area 的大小 in-memory

    62520发布于 2020-08-19
  • 来自专栏开发与安全

    About Cache Coherence, Atomic Operation, Memory Ordering, Memory Barrier, Volatile

    CPU Memory Models Memory consistency models describe how threads may interact through shared memory consistently – 在编译后的汇编中,Compiler Memory Barrier消失,CPU不能感知到Compiler Memory Barrier的存在,这点与后面提到的CPU Memory Barrier有所不同 Cpu Memory Barrier 顾名思义,Compiler Memory Barrier既然是用来告诉Compiler在编译阶段不要进行指令乱排,那么CPU Memory Barrier就是用来告诉 ;  ->  to be a cpu memory barrier “memory”  ->  to be a compiler memory barrier •xchg – asm volatile( X86 Memory Ordering with Memory Barrier •In a single-processor system for memory regions defined as write-back

    2K00发布于 2017-12-28
  • 来自专栏院长运维开发

    启动es报错-memory locking requested for elasticsearch process but memory is not locked

    日志里面还会有警告信息:memory locking requested for elasticsearch process but memory is not locked。

    4.8K20发布于 2021-02-19
  • 来自专栏CreateAMind

    association memory 思路

    AGIv0.01 多人车训练模型思考,冲出的人或车的突出光流的危险性预测方法: hebb memory association memory 及多传感器融合模型 hebb memory 将当时场景中同时发生的多种不同信息一起记忆下来 Competitive Collaboration场景的静态 及其他运动物体 及自身运动 及对场景观察的深度距离理解、光流,seg(物体作为一个整体的基础概念,人对一个物体各种属性的综合记忆是一个hebb memory hebb memoy可以one shot learnning;memory可以反复训练达到一次事件记忆就可以迷信特定的事件及reward结果:守株待兔,吉祥物 一次撞车 撞人就可以通过memory学会避免撞人车的情况 通过hebb memory,训练的时候是多种信息一起训练,但是test的时候只需要视觉就可以提取其他相关信息,就像现在有人说人开车只需要眼睛,但其实人是通过多感知(5感 触(理解力,重力,移动等等)听( 多传感器多属性和注意力2的关系:注意力2就是从有明显特点属性的物体快速从hebb memory提取其他相关特征信息比如突出的正负reward,比如路中间的人,人在特定位置跟巨大的reward后果的快速推断

    62330发布于 2019-05-31
  • 来自专栏这里只有VxWorks

    关于Memory Partition

    VxWorks提供了两个库,memPartLib和memLib,用于内存分区的管理(memory partition management)。 /* 验证pBlock是否有效或溢出 */ STATUS memPartBlockValidate(PART_ID partId, char *pBlock); 其实VxWorks本身已经创建了一个memory partition,它就是System Memory Partition,也叫做Heap。 memPartOptionsGet memOptionsGet memBlockSizeGet memPartBlockValidate memPartShow memShow 写一个小栗子,看看memory

    78810编辑于 2022-06-30
  • 来自专栏shysh95

    MySQL Memory引擎

    InnodDB引擎和Memory引擎的不同 InnoDB数据总是有序存放,Memory引擎表的数据是按照写入顺序存放 数据文件有空洞时,InnoDB表在插入新数据时为保证有序性,只能在固定的位置写入新值 ,但是Memory表找到空位就可以插入新值 数据位置发生变更时,InnoDB表只需要修改主键索引,Memory表需要修改所有索引 InnoDB表普通索引需要走两次索引查找,Memory表普通索引只走一次和主键索引没有什么区别 InnoDB支持变长数据类型,Memory表不支持Blob和Text字段,并且即使定义了VARCHAR(N),也会被当做CHAR(N) Memory表也支持Hash索引和B-Tree索引,语句如下: 表的锁 Memory表不支持行锁,支持表锁。 Memory的数据持久性问题 Memory表的数据存放在内存中,如果数据库重启,表中的数据将会被清除,单点下并没有什么问题,但如果在高可用的架构下将会出现问题。

    1.1K20编辑于 2022-04-07
  • 来自专栏这里只有VxWorks

    关于Memory Pool

    VxWorks在Memory Partition的基础上,提供了一种适用于消息传递系统、数据库等场景的机制 - Memory Pool。 最小值,例如x86是8,x64是16,但可以直接用0 initCnt - 内存块数量的初始值,可以为0 incrCnt - 内存块自动扩展时的数量,为0时表示不支持自动扩展 partId - 底层的Memory 使能多任务互斥保护;否则需要User自行保护,但可在ISR中使用; POOL_CHECK_ITEM - 释放时验证内存块的有效性 poolBlockAdd()将pBlock位置的size个字节加入poolId指向的Memory

    37600编辑于 2022-06-30
领券