- 综合排序
- 最热优先
- 最新优先
- 来自专栏自然语言处理
RAG与CAG的较量与融合
架构：RAG 和 CAG 的背景 检索增强生成 (RAG) RAG 将大型语言模型 (LLM) 与外部检索机制集成在一起，以动态整合来自广泛数据存储库的上下文相关信息。 基本概要 ⚖️ RAG 与 CAG 的比较分析 数据来源 RAG：外部数据库、API 和实时存储库确保广泛的数据覆盖。 CAG：结构化的内部缓存提供快速访问，但受到预定义范围的限制。 延迟 ⏳ RAG：由于依赖外部检索，因此延迟更高。 ⏩ CAG：通过利用预缓存数据实现更低的延迟。 系统复杂性 RAG：需要复杂的检索机制，增加了整个系统的复杂性。 选择的因素 是否实施 RAG 或 CAG 取决于预期应用的具体要求： RAG：尽管在延迟和成本方面存在权衡，但对于适应不断发展的信息至关重要的场景而言，它是首选。 ️ ⚛ 混合架构 人工智能系统的未来可能在于综合 RAG 和 CAG 优势的混合架构。此类系统可以采用 RAG 的动态检索功能来处理实时场景，同时利用 CAG 的缓存数据集来获取可预测且经常访问的信息。
36510编辑于 2025-02-03 - 来自专栏明明如月的技术专栏
深入理解RAG:检索与生成的融合
-1l4b 深入理解RAG:检索与生成的融合 检索增强生成(RAG)模型代表了检索系统和生成模型两大不同但互补组件完美结合的杰作。 最后的行程安排巧妙地将代理提供的信息与导游的专业知识融合在一起,形成一份全面且生动的旅游计划。 RAG模型的架构 让我们分解一下RAG模型的架构: 查询处理: 这是旅程的开始。 正如生成模型创作出连贯的故事情节,旅行社代理也会巧妙地将航班、酒店和活动融合在一起,为客人打造无缝而愉快的旅游体验。 集成一切 让RAG模型如此非凡的,正是其检索和生成组件之间的协同作用。 构建RAG的平台选择 在构建检索增强生成(RAG)模型时,开发人员可以利用各种平台和工具,这些工具能够简化开发流程,提供集成的实验和部署环境。 2 《What is retrieval-augmented generation?》 3 《What Is Retrieval-Augmented Generation, aka RAG?》
56500编辑于 2024-05-24 - 来自专栏DeepHub IMBA
BookRAG：面向层级文档的树-图融合RAG框架
现有的RAG系统，无论是基于文本的图方法还是基于版面分割的方法，在面对这类文档时往往失效。根源在于两点：结构与语义的脱节以及工作流程的僵化。 本文介绍的BookRAG或许能提供一个有用的视角。 第一种是文本优先方法，将所有内容扁平化为纯文本，主要依赖OCR，再用BM25、经典分块RAG或GraphRAG、RAPTOR等图方法完成检索。 大多数RAG管道依赖固定的查询处理流程，简单问题处理起来效率低，复杂问题又应对不了。 所以多数现有的文档级RAG系统要么忽略文档的层级结构，要么缺乏查询感知的检索流程。 BookRAG：一棵树 + 一张图 + 一个链接 + 一个Agent Figure 2: Comparison of representative methods and BookRAG. BookRAG是一个专为层级结构文档设计的RAG框架。
14510编辑于 2026-03-31 - 来自专栏AI研思录
RAT:融合RAG和CoT的高效多步推理任务策略
因此这篇论文考虑在COT的基础上加上了RAG，即 RAT，通过利用检索到的外部信息为大模型提供推理依据。 使用RAG来修复大模型生成思维步骤：假设已经修复了之前的思考步骤，现在要修复第 个思维步骤 ，将现在和过去的思维步骤 转化为将可以被LLM检索系统处理的查询，得到 检索文档：使用RAG检索 相关的文档 对于 Minecraft 中的具身规划任务，使用了 Minecraft Wiki1 和 DigMinecraft2 网站作为 LLMs 可访问的信息源。 论文总结 这篇文章提出的RAT结合了RAG和CTO思想，使用RAG检索的文档动态优化COT中的每一个步骤，确保每一个推理步骤都是有依据的，避免大模型的幻觉。 实验结果表明，RAT在这些任务上相比传统的CoT提示和RAG方法都有显著的性能提升。
71710编辑于 2025-02-20 大模型 RAG 中 RRF（Reciprocal Rank Fusion倒数排序融合）是什么
2.具体计算示例假设用户搜“入职流程”，我们得到两个列表：列表A（全文检索）:[文档1,文档2,文档3]列表B（向量检索）:[文档2,文档1,文档4]取k=60k=60k=60，计算得分：文档1:160 +11(A)+60+21(B)≈0.01639+0.01612=0.03251文档2:160+2(A)+160+1(B)≈0.01612+0.01639=0.03251\frac{1}{60+2}( （对大模型处理的好处）在RAG系统中，如果你只给大模型看前3条资料，这3条资料的质量决定了回答的上限。 适用场景：标准的RAG场景，用户提问通常就是一句话。展开代码语言：PythonAI代码解释//示例：全文检索一句话{"query":{"match":{"content":"如何办理入职手续？"}}} -通过RRF（倒数排名融合）合并结果，给模型最精准的那几段话。
38700编辑于 2026-03-15- 来自专栏大数据和云计算技术
超融合方案分析系列（2）：VSAN的超融合方案分析
超融合分析系列： 超融合概述 超融合产品分析系列（1）：nutanix方案 VSAN今年已经是6.6版本了。 VSAN本身是VMware软件，它自己不提供超融合方案，对外是通过硬件合作伙伴来推出VSAN ready node或者VSAN灵活解决方案。 也就是说，如果2个OS盘组raid1后和至少一组数据盘放在一个raid卡上，那么最坏情况下降导致数据丢失。最关键是VMware官方已经不支持这种方案。 所幸的是硬件合作伙伴又牛逼了一把，支持多个raid卡方案，原来是1个的，改支持2个，把OS盘独立放在一个raid卡上。顺利的解决了这个问题。 VSAN的资料可能是市面上超融合产品种最多的一个，对raid卡问题也有很多资料提到过。
3.5K40发布于 2018-03-08 - 来自专栏Datawhale专栏
RAG 作者：RAG 已死，RAG 万岁！
一个具有更大上下文窗口的新模型问世，社交媒体上便会充斥着“RAG 已死”的宣言。 该 LinkedIn 帖子： 一些值得注意的 RAG“死亡宣告”包括： 2023 年 5 月：Anthropic 的 Claude，上下文窗口达 10 万 token 2024 年 2 月：Google 底线是：您同时需要长上下文 LLM 和 RAG。 但既然“RAG”这个术语似乎如此具有争议性，那我们不妨这样说： 我们不必非得称之为 RAG。 我们可以就叫它 检索 (retrieval)。 RAG 提供了相当于直接翻到相关页面的能力。处理更多 token 不仅更慢，而且极其低效，并且比使用 RAG 精准定位所需信息要昂贵得多。 RAG、微调和大型上下文窗口在 AI 中也是如此。 结论 我们不需要在 RAG 与长上下文窗口、微调或 MCP 之间做出选择。
70710编辑于 2025-04-24 - 来自专栏全栈开发工程师
【RAG】001-RAG概述
补充1：RAG 基本逻辑 补充2：RAG 知识库基本逻辑 一、RAG 介绍 1、LLM 的主要局限性 大语言模型（LLM）尽管功能强大，但仍存在以下明显的局限性： 时效性问题：模型的知识在预训练后就固定了 ，无法自动更新最新信息 知识覆盖局限： 缺乏特定领域或私有领域的专业知识 对组织内部文档、数据等私域信息无法感知 幻觉问题：容易生成看似合理但实际错误的内容，影响可靠性 2、RAG 的价值与优势 2、RAG 的工作原理 RAG 的核心工作流程包含以下步骤： 知识库构建： 收集和处理文档资料 将文档切分为适当大小的文本块 使用向量化模型将文本转换为向量并存储 检索过程： 接收用户查询并向量化 直接修改模型权重 知识被固化在模型参数中 2、对比分析 2.1 实施成本 RAG： 初始投入低，主要成本在知识库建设 无需大规模计算资源 部署维护相对简单 Fine-tuning： 需要较高的计算资源 记录文档来源 提取时间戳信息 标注文档类型和主题 1.2 向量化处理 文本嵌入： 选择合适的嵌入模型 将文本块转换为向量 优化向量维度和质量 向量存储： 选择向量数据库 建立索引结构 设置检索参数 2、
75010编辑于 2025-03-25 - 来自专栏ceshiren0001
用LightRAG打造智能问答系统：知识图谱与RAG的融合应用实践
当知识图谱与RAG技术相遇，会碰撞出怎样的火花？在AI迅猛发展的当下，检索增强生成（RAG：Retrieval-Augmented Generation）技术正成为解决大模型幻觉问题的有效方案。 然而，传统RAG系统仍普遍存在检索不够精准、上下文理解能力有限等痛点。知识图谱的引入，为这些瓶颈提供了全新的突破思路。而LightRAG，正是这样一个将知识图谱与RAG轻量融合的创新框架。 import lightrag# 初始化LightRAGrag = lightrag.LightRAG( model_name="sentence-transformers/all-MiniLM-L6-v2" ="relationship", object_col="related_concept")# 集成论文文档papers = [paper_abstract_1, paper_abstract_2, paper_abstract_3]academic_rag = lightrag.LightRAG()academic_rag.build_index( documents=papers,
1.1K00编辑于 2025-08-27 - 来自专栏机器学习原理
rag
RAG技术全面解析：原理、应用与优势 引言 在当今快速发展的人工智能领域，检索增强生成（Retrieval-Augmented Generation, RAG）技术已成为一个备受关注的话题。 RAG工作流程 RAG的工作流程可以分为以下几个步骤： 用户查询：用户提出一个查询，系统首先会将这个查询传递给检索模型。 RAG技术的应用场景 RAG技术在众多实际应用场景中显示出其独特的优势，这是其他单一技术难以比拟的。下面我们详细探讨RAG技术的几个主要应用场景。 RAG技术可以在知识图谱构建过程中发挥重要作用。通过利用检索模型从大规模文档库中找到最新的相关信息，RAG系统可以识别出新的实体和关系。 RAG技术的优势与挑战 RAG技术在很多方面展示了其显著的优势，但它也面临着一些挑战。以下我们将详细探讨RAG技术的优势和挑战。
60511编辑于 2024-06-27 - 来自专栏dino.c的专栏
使用 Win2D 实现融合效果
这篇文章我将介绍如何使用 Win2D 在 UWP / WinUI 3 中实现融合效果。 2. 使用 Win2D 实现融合效果 Win2D 是一个很简单使用的底层图形 Windows Runtime API。 和 CSS 不同的是，Win2D 不是使用 ContrastEffect，而是使用 ColorMatrixEffect 实现融合效果（至于 ColorMatrixEffect 中的参数设置将在下一节中讲解 Win2D 中融合效果的原理 上面的代码实现了融合效果，但当我想换个颜色玩些新花样时却发现了诡异的状况，例如我将两个 Brush 改为 IndianRed（205, 92, 92） 和 PaleVioletRed 最后 将 ColorMatrixEffect.ClampOutput 设置为 True 后，Win2D 就可以使用任何颜色实现融合效果，这样玩法就更多了，例如下面这种： 虽然我之前也用 Win2D 做过一些东西
77630编辑于 2022-10-05 - 来自专栏自然语言处理
RAG Logger：RAG日志记录工具
您听说过 RAG Logger 吗？ 它是一款专为检索增强生成 (RAG) 应用程序设计的开源日志记录工具！ 据说它可以作为 LangSmith 的轻量级替代方案，满足 RAG 特定的日志记录需求。 查询、搜索结果、LLM 交互和性能指标可以以 JSON 格式记录。 特点 通过查询跟踪详细了解用户问题！ RAG Logger 为 RAG 应用程序的性能监控和调试提供了强大的支持，对吗？ 特别推荐给那些想要提高应用程序开发效率的人。 请参阅此处的详细信息： RAG Logger GitHub 仓库
31110编辑于 2025-01-07 - 来自专栏ICT售前新说
解密融合（统一）存储-part2
本次接着上次的内容进行介绍，上篇文章提到常见存储架构发展的4个阶段有硬盘在服务器内部阶段、外部硬盘阵列阶段（DAS）、智能硬盘阵列阶段和融合存储阶段等4个重要发展阶段。 （2）SAN存储：SAN网络分为IP SAN和FC SAN，顾名思义IP SAN是中间通过以太网交换机连接主机侧和存储侧，FC SAN是通过FC（光交）交换机连接前端主机和后端存储。 如果底层有个文件既想共享给windows也想共享给linux也可以，就需牵扯到协议融合。
85530发布于 2020-09-01 - 来自专栏数据派THU
独家 | 进阶RAG-提升RAG效果
目标 我们的目标是通过对不同部分应用各种技术来增强RAG工作流的每个组件能力。 2. Pre-Retrieval优化 Pre-retrieval技术包括提高索引数据的质量和块优化。 但是，这种粒度存在风险，如重要信息可能不在检索到的最前面的块中，特别是当similarity_top_k设置被限制为2时。 2. 它专注于为每一个子文档创建嵌入，这些嵌入比每一个完整的父块嵌入更丰富、更详细。它帮助框架识别包含与用户查询相关信息的最相关子文档。 3. Hyde或Query2doc Hyde和Query2doc都是类似的查询重写优化。 模块化RAG 模块化RAG集成了多种方法来增强RAG的不同组成部分，如在检索器中加入相似度检索的搜索模块和应用微调方法 RAG融合（RAG Fusion） RA融合技术结合了两种方法： 多查询检索 利用
1.5K20编辑于 2024-06-28 - 来自专栏coder
什么是 RAG，为什么要用 RAG？
这边介绍2步建立准确语意空间的方法。 small2big：它在初始搜索阶段使用小文本块，然后提供较大的相关文本块供语言模型处理。 2. RAG 使用 2 种关键技术，来实现这个目标： Query Rewriting 方法如 Query2Doc 和 ITER-RETGEN 利用 LLMs，通过将原始查询与额外的指导信息相结合，创建一个虚拟文档 为了解决这个问题，目前一些研究开始专注在撷取后处理（post-retrieval processing），这个作法是将经由撷取器得到的信息去做进一步的处理、过滤或最佳化，提高撷取结果的品质，主要有 2
71510编辑于 2024-09-06 - 来自专栏Reinvent Data Science
RAG 修炼手册｜如何评估 RAG 应用？
当以黑盒方式来评估 RAG 应用时，我们看不到 RAG 应用的内部，只能从输入给 RAG 应用的信息和它返回的信息来评估 RAG 的效果。 对于一般的 RAG 系统，我们只能访问这三个信息：用户提问（User's query）、RAG 系统召回的引用上下文（retrieved contexts）、RAG 系统的回答（RAG's response 我们使用这三个信息来评估 RAG 应用的效果，黑盒方式是一种端到端的评估方式，也比较适用于评估闭源的 RAG 应用。 当以白盒方式来评估 RAG 应用时，我们能看到 RAG 应用的内部所有流程。 白盒方式可以用来评估开源 RAG 应用，或者提升自研 RAG 应用。 02. ）、RAG 系统的回答（RAG's response）。
1.5K12编辑于 2024-04-25 - 来自专栏周末程序猿
RAG实战|8种RAG架构浅析
", "文档2内容...", "文档3内容..."]) answer = naive_rag.query("What is issue date of lease?") 生成多个embedding，每个头捕获不同的语义特征 多向量索引构建：为每个注意力头构建独立的向量索引，存储不同维度的语义信息 并行检索：针对查询，在多个索引上并行检索，每个头返回最相关的文档片段 结果融合 ：将多个头的检索结果进行去重和融合，综合考虑不同语义维度的相关性 上下文生成：将融合后的文档片段组装成上下文，输入LLM生成答案 相关参考如下： 论文：https://arxiv.org/pdf/2406.05085 (vectorstore) def search(self, query: str, top_k: int = 3) -> List[str]: """多头并行检索并融合结果 ", "文档2的内容...
1K10编辑于 2025-12-30 RAG 2.0，让RAG 终成正果
然而，像Contextual.ai提出的基于情境语言模型（CLMs）的“RAG 2.0”这样的案例却很少见，它试图让目前最流行（如果不是最受欢迎的话）的生成式AI模型实现方式之一——标准检索增强生成（RAG 提出这种主张的，恰恰是RAG的创造者。 虽然这是对生产级生成式AI现状的一次重大改进，但整个子领域仍存在一个疑问：RAG是否正在走向末路，这些创新是否只是在对一个已经死去的马施加无效的鞭打？ 这就是RAG发挥作用的地方。 因此，当它们被转换为向量后，“狗”可能是3, -1, 2，“猫”可能是2.98, -1, 2.2，我们可以将每个数字视为该概念的一个“属性”。因此，相似的数字意味着相似的属性。 更好的商业案例，或者死亡 今天，由于Transformer无法压缩上下文，更长的序列不仅意味着成本呈二次方增长（序列增加2倍意味着计算量增加4倍，或者序列增加3倍意味着计算成本增加9倍），而且还意味着由于
1.7K51编辑于 2024-04-24- 来自专栏全栈开发工程师
【RAG】001.1-RAG相关核心概念
【RAG】001.1-RAG相关核心概念 RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合信息检索与生成模型的混合架构，旨在提升生成的准确性和可信度。 的优势也是挑战： 理想状态： 检索模块提供精准、紧凑的上下文，生成模块聚焦语义融合与逻辑表达，形成“1+1>2”的协同效应。 上下文融合（Context Fusion） 上下文融合是指将检索到的知识与用户输入有效整合的过程，这是RAG系统中至关重要的环节。 主要融合方法 基于分隔符的简单拼接 使用特殊标记或分隔符将检索内容与用户查询区分开 常见格式： 系统提示: 根据提供的上下文回答问题 上下文: [检索片段1] [检索片段2] ... 系统通常将上述三种技术有机结合： 通过精心设计的上下文融合策略将检索内容与用户查询整合 使用可控生成技术确保输出严格基于检索内容 实现完善的溯源机制使用户能够验证生成内容的来源 这种综合应用不仅提高了RAG
94210编辑于 2025-03-26 - 来自专栏AgenticAI
Agentic RAG：超越传统RAG与案例分享
传统 RAG 可能会束手无策，而 Agentic RAG 会： 识别需要整合销售数据和天气信息 智能地从不同数据源检索相关信息 综合分析并生成有洞察力的答案 2. 而 Agentic RAG 则会： 识别信息鸿沟 主动寻找补充信息源 尝试重新生成更优答案 2. Agentic RAG 资源推荐 1. 根据问题路由到不同的检索器 回退 (Corrective RAG[2]). 如果文档与查询不相关，则回退到网络搜索 自纠错 (Self-RAG[3]). 2. 参考资料 [1] Adaptive-RAG:https://arxiv.org/abs/2403.14403 [2] Corrective RAG:https://arxiv.org/pdf/2401.15884
3.2K31编辑于 2025-03-18
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号