- 综合排序
- 最热优先
- 最新优先
- 来自专栏自然语言处理
RAG与CAG的较量与融合
架构：RAG 和 CAG 的背景 检索增强生成 (RAG) RAG 将大型语言模型 (LLM) 与外部检索机制集成在一起，以动态整合来自广泛数据存储库的上下文相关信息。 基本概要 ⚖️ RAG 与 CAG 的比较分析 数据来源 RAG：外部数据库、API 和实时存储库确保广泛的数据覆盖。 CAG：结构化的内部缓存提供快速访问，但受到预定义范围的限制。 延迟 ⏳ RAG：由于依赖外部检索，因此延迟更高。 ⏩ CAG：通过利用预缓存数据实现更低的延迟。 系统复杂性 RAG：需要复杂的检索机制，增加了整个系统的复杂性。 选择的因素 是否实施 RAG 或 CAG 取决于预期应用的具体要求： RAG：尽管在延迟和成本方面存在权衡，但对于适应不断发展的信息至关重要的场景而言，它是首选。 ️ ⚛ 混合架构 人工智能系统的未来可能在于综合 RAG 和 CAG 优势的混合架构。此类系统可以采用 RAG 的动态检索功能来处理实时场景，同时利用 CAG 的缓存数据集来获取可预测且经常访问的信息。
36510编辑于 2025-02-03 - 来自专栏明明如月的技术专栏
深入理解RAG:检索与生成的融合
-1l4b 深入理解RAG:检索与生成的融合 检索增强生成(RAG)模型代表了检索系统和生成模型两大不同但互补组件完美结合的杰作。 通过无缝集成相关信息检索和生成背景相关响应，RAG模型达到了人工智能领域前所未有的复杂程度。 RAG是如何工作的? 想象一下，你正计划去国外旅行,想了解当地的文化、历史和景点。 最后的行程安排巧妙地将代理提供的信息与导游的专业知识融合在一起,形成一份全面且生动的旅游计划。 RAG模型的架构 让我们分解一下RAG模型的架构: 查询处理: 这是旅程的开始。 正如生成模型创作出连贯的故事情节,旅行社代理也会巧妙地将航班、酒店和活动融合在一起,为客人打造无缝而愉快的旅游体验。 集成一切 让RAG模型如此非凡的,正是其检索和生成组件之间的协同作用。 构建RAG的平台选择 在构建检索增强生成(RAG)模型时,开发人员可以利用各种平台和工具,这些工具能够简化开发流程,提供集成的实验和部署环境。
56500编辑于 2024-05-24 - 来自专栏DeepHub IMBA
BookRAG：面向层级文档的树-图融合RAG框架
现有的RAG系统，无论是基于文本的图方法还是基于版面分割的方法，在面对这类文档时往往失效。根源在于两点：结构与语义的脱节以及工作流程的僵化。 本文介绍的BookRAG或许能提供一个有用的视角。 第一种是文本优先方法，将所有内容扁平化为纯文本，主要依赖OCR，再用BM25、经典分块RAG或GraphRAG、RAPTOR等图方法完成检索。 大多数RAG管道依赖固定的查询处理流程，简单问题处理起来效率低，复杂问题又应对不了。 所以多数现有的文档级RAG系统要么忽略文档的层级结构，要么缺乏查询感知的检索流程。 BookRAG是一个专为层级结构文档设计的RAG框架。 问答之外，它还能支撑一致性检查、结构化摘要乃至交叉引用修复——树-图结构由此成为文档生命周期的一部分，而非仅仅服务于RAG的后端工程。 再往前看，Agent的算子规划是否能演化为一个可学习的策略层？
14510编辑于 2026-03-31 - 来自专栏AI研思录
RAT:融合RAG和CoT的高效多步推理任务策略
因此这篇论文考虑在COT的基础上加上了RAG，即 RAT，通过利用检索到的外部信息为大模型提供推理依据。 使用RAG来修复大模型生成思维步骤：假设已经修复了之前的思考步骤，现在要修复第 个思维步骤 ，将现在和过去的思维步骤 转化为将可以被LLM检索系统处理的查询，得到 检索文档：使用RAG检索 相关的文档 、GPT-4和CodeLLaMA-7b，所有实验均在零样本（zero-shot）设置下进行。 论文总结 这篇文章提出的RAT结合了RAG和CTO思想，使用RAG检索的文档动态优化COT中的每一个步骤，确保每一个推理步骤都是有依据的，避免大模型的幻觉。 实验结果表明，RAT在这些任务上相比传统的CoT提示和RAG方法都有显著的性能提升。
71710编辑于 2025-02-20 - 来自专栏大数据和云计算技术
超融合方案分析系列（7）思科超融合方案分析
以下是超融合分析系列前面几篇，已经阅读过的同学可以跳过。 超融合概述 超融合产品分析系列（1）：nutanix方案 超融合方案分析系列（2）：VSAN的超融合方案分析 超融合方案分析系列（3）深信服超融合方案分析 超融合方案分析系列（4）H3C超融合方案分析 超融合方案分析系列（5）EMC vxrail超融合方案分析 超融合方案分析系列（6）联想超融合方案分析 开篇 周二的时候朋友圈传遍了思科计划以3.2亿刀收购Springpath，本来我就计划本周发出思科的超融合分析 HyperFlex一共有3种方案，严格意义上说只有2种： 一种是8盘的1U融合服务器HX220c M4，一种是23盘的2U融合服务器HX240c M4 第一：支持纯计算节点，但是确实采用刀片做纯计算。 如果是选择23盘做融合存储，在存储能力足够的情况下，还能接入纯计算节点，但是这里接入计算节点是UCS B200 M4刀片。
3K60发布于 2018-03-08 大模型 RAG 中 RRF（Reciprocal Rank Fusion倒数排序融合）是什么
（对大模型处理的好处）在RAG系统中，如果你只给大模型看前3条资料，这3条资料的质量决定了回答的上限。 适用场景：标准的RAG场景，用户提问通常就是一句话。展开代码语言：PythonAI代码解释//示例：全文检索一句话{"query":{"match":{"content":"如何办理入职手续？"}}} -通过RRF（倒数排名融合）合并结果，给模型最精准的那几段话。 代码实现在代码层面实现ES检索并对接大模型，通常有两种主流方式：一种是使用Elasticsearch官方PythonSDK（适合底层控制），另一种是使用LangChain/LlamaIndex（适合快速搭建RAG user_vector,"k":3,"num_candidates":100}}res=es.search(index=index_name,knn=query)3.对接大模型（LLM）的完整闭环这是RAG
38700编辑于 2026-03-15- 来自专栏自然语言处理
你的RAG系统真的达标了吗？生产环境RAG成功的7大关键指标
RAG系统的两大核心组件 一个典型的RAG系统主要由两部分组成： 检索器：这家伙负责响应用户的查询，从知识库（通常是矢量数据库）里找出相关信息。 评估RAG系统，就得从这两个部分入手，同时还要关注系统整体的表现。 RAG评估的三大维度 评估RAG系统，通常得从以下几个关键领域入手： 检索质量：检索器能不能准确找到并抓取相关文档？ 系统性能：整个RAG系统在成本和响应速度上表现如何？ 7个你必须关注的指标 根据我的经验，要想打造一个成功的RAG应用，你得盯紧以下7个关键指标： Precision@k（我们拿到的是相关内容吗？） 虽然前面提到的7个指标是认为必不可少的，但RAG系统的评估远不止这些。根据你的具体需求，还有很多其他指标可能会派上用场。 RAG评估的核心要素 在评估RAG系统时，有几个关键要素你得时刻关注： 已检索到的块 (RC)：这是检索器从知识库里抓出来的内容块。
1K10编辑于 2025-01-13 - 来自专栏Datawhale专栏
RAG 作者：RAG 已死，RAG 万岁！
一个具有更大上下文窗口的新模型问世，社交媒体上便会充斥着“RAG 已死”的宣言。 RAG 的初衷 五年前，我在 Meta 基础人工智能研究中心（FAIR，前身为 Facebook 人工智能研究中心）的团队提出了 RAG（Retrieval-Augmented Generation，检索增强生成 底线是：您同时需要长上下文 LLM 和 RAG。 但既然“RAG”这个术语似乎如此具有争议性，那我们不妨这样说： 我们不必非得称之为 RAG。 我们可以就叫它 检索 (retrieval)。 RAG 提供了相当于直接翻到相关页面的能力。处理更多 token 不仅更慢，而且极其低效，并且比使用 RAG 精准定位所需信息要昂贵得多。 RAG、微调和大型上下文窗口在 AI 中也是如此。 结论 我们不需要在 RAG 与长上下文窗口、微调或 MCP 之间做出选择。
70710编辑于 2025-04-24 - 来自专栏自然语言处理
带你了解7种检索增强生成 (RAG) 技术
校正RAG（Corrective RAG） 在校正RAG中，系统不仅检索和生成答案，还会验证并校正这些答案。 工作原理： 搜索与检索：与简单RAG类似，系统根据查询检索相关文档。 自省RAG（Self RAG） 自省RAG通过自我反思或自我批评来提高RAG结果的质量。 工作原理： 搜索与检索：模型首先检索相关信息并根据输入查询生成答案。 融合RAG（Fusion RAG） 融合RAG结合了来自多个检索来源的信息，以生成一个全面的答案。 自主RAG（Agentic RAG） 自主RAG涉及一个具有特定目标的AI系统，它使用检索过程来自主做出决策并指导其行动。 7. 图RAG(Graph RAG) GraphRAG 是微软公司内部广受赞誉的一种结合了检索增强生成（RAG）技术和知识图谱的先进框架。
8.8K31编辑于 2025-01-06 - 来自专栏全栈开发工程师
【RAG】001-RAG概述
【RAG】001-RAG概述 0、整体思维导图 下面的知识是基于一个视频教程结合 AI 生成的笔记，我也看了一遍，有了一些印象，但这种印象很快就会消失，知识也就消失了，为了使得知识在我的大脑中停留更长的时间 补充1：RAG 基本逻辑 补充2：RAG 知识库基本逻辑 一、RAG 介绍 1、LLM 的主要局限性 大语言模型（LLM）尽管功能强大，但仍存在以下明显的局限性： 时效性问题：模型的知识在预训练后就固定了 概述 1、RAG 的概念 RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合了检索和生成技术的文本处理方法，主要用于提高语言模型的输出质量。 2、RAG 的工作原理 RAG 的核心工作流程包含以下步骤： 知识库构建： 收集和处理文档资料 将文档切分为适当大小的文本块 使用向量化模型将文本转换为向量并存储 检索过程： 接收用户查询并向量化 在向量数据库中搜索相似内容 获取最相关的文本片段 生成过程： 将检索到的相关内容与用户问题组合 构建合适的提示词（Prompt） 通过 LLM 生成最终答案 3、RAG 的应用场景 RAG 技术在多个领域都有广泛应用
75010编辑于 2025-03-25 - 来自专栏ceshiren0001
用LightRAG打造智能问答系统：知识图谱与RAG的融合应用实践
当知识图谱与RAG技术相遇，会碰撞出怎样的火花？在AI迅猛发展的当下，检索增强生成（RAG：Retrieval-Augmented Generation）技术正成为解决大模型幻觉问题的有效方案。 然而，传统RAG系统仍普遍存在检索不够精准、上下文理解能力有限等痛点。知识图谱的引入，为这些瓶颈提供了全新的突破思路。而LightRAG，正是这样一个将知识图谱与RAG轻量融合的创新框架。 本文将以LightRAG为例，带你轻松入门，探索如何借助知识图谱的力量，提升RAG系统的准确性与整体性能。 model_name="sentence-transformers/all-MiniLM-L6-v2", device="cpu" # 使用"cuda"加速GPU)三、快速构建你的第一个知识图谱RAG (custom_retriever)4.2 可视化检索过程# 启用检索过程可视化result = rag.query( "解释LightRAG的架构优势", visualize=True
1.1K00编辑于 2025-08-27 - 来自专栏机器学习原理
rag
RAG技术全面解析：原理、应用与优势 引言 在当今快速发展的人工智能领域，检索增强生成（Retrieval-Augmented Generation, RAG）技术已成为一个备受关注的话题。 RAG工作流程 RAG的工作流程可以分为以下几个步骤： 用户查询：用户提出一个查询，系统首先会将这个查询传递给检索模型。 RAG技术的应用场景 RAG技术在众多实际应用场景中显示出其独特的优势，这是其他单一技术难以比拟的。下面我们详细探讨RAG技术的几个主要应用场景。 RAG技术可以在知识图谱构建过程中发挥重要作用。通过利用检索模型从大规模文档库中找到最新的相关信息，RAG系统可以识别出新的实体和关系。 RAG技术的优势与挑战 RAG技术在很多方面展示了其显著的优势，但它也面临着一些挑战。以下我们将详细探讨RAG技术的优势和挑战。
60511编辑于 2024-06-27 - 来自专栏自然语言处理
RAG Logger：RAG日志记录工具
您听说过 RAG Logger 吗？ 它是一款专为检索增强生成 (RAG) 应用程序设计的开源日志记录工具！ 据说它可以作为 LangSmith 的轻量级替代方案，满足 RAG 特定的日志记录需求。 查询、搜索结果、LLM 交互和性能指标可以以 JSON 格式记录。 特点 通过查询跟踪详细了解用户问题！ RAG Logger 为 RAG 应用程序的性能监控和调试提供了强大的支持，对吗？ 特别推荐给那些想要提高应用程序开发效率的人。 请参阅此处的详细信息： RAG Logger GitHub 仓库
31110编辑于 2025-01-07 - 来自专栏数据派THU
独家 | 进阶RAG-提升RAG效果
在我的上一篇博客中，我深入地介绍了RAG以及它是如何用LlamaIndex实现的。然而，RAG在回答问题时经常遇到许多挑战。 RAG工作流程分解 首先，为了增强对RAG的理解，我们将RAG工作流程分解为三个部分，并对每个部分进行优化以提高整体表现。 通过检索原始问题和stepback问题的信息，可以将该技术与标准问答RAG应用程序结合使用。下面是一个stepback prompt的示例。 7. 模块化RAG 模块化RAG集成了多种方法来增强RAG的不同组成部分，如在检索器中加入相似度检索的搜索模块和应用微调方法 RAG融合（RAG Fusion） RA融合技术结合了两种方法： 多查询检索 利用 总结 本文讨论了优化RAG管道各部分和增强整体RAG流水线的各种技术。您可以在您的RAG流水线中使用这些技术中的一种或多种，从而使其更加准确和高效。
1.5K20编辑于 2024-06-28 - 来自专栏Reinvent Data Science
RAG 修炼手册｜如何评估 RAG 应用？
当以黑盒方式来评估 RAG 应用时，我们看不到 RAG 应用的内部，只能从输入给 RAG 应用的信息和它返回的信息来评估 RAG 的效果。 对于一般的 RAG 系统，我们只能访问这三个信息：用户提问（User's query）、RAG 系统召回的引用上下文（retrieved contexts）、RAG 系统的回答（RAG's response 我们使用这三个信息来评估 RAG 应用的效果，黑盒方式是一种端到端的评估方式，也比较适用于评估闭源的 RAG 应用。 当以白盒方式来评估 RAG 应用时，我们能看到 RAG 应用的内部所有流程。 白盒方式可以用来评估开源 RAG 应用，或者提升自研 RAG 应用。 02. ）、RAG 系统的回答（RAG's response）。
1.5K12编辑于 2024-04-25 - 来自专栏coder
什么是 RAG，为什么要用 RAG？
为什么要用 RAG ？ 由于 RAG 不需更新模型参数，因此在处理大规模数据集时，经济效率方面更具优势。 不过虽然RAG有许多优势在，但这3种方法并不是互斥的，反而是相辅相成的。 什么是 RAG ？ 这篇章旨在介绍 RAG 的过程与其使用的相关技术。 RAG 生态系 RAG 的生态系蓬勃发展，在水平领域，从最初的文本问答领域以外，RAG 的应用逐渐拓展到更多模态数据，包括图像、代码、结构化知识、影音等。 在这些领域，已经涌现许多相关研究成果。 如向量数据库公司Weaviate推出的Verba7专注于个人助理应用，而亚马逊的Kendra提供智能企业搜索服务，允许用户使用内置连接器在各种内容存储库中导航。
71510编辑于 2024-09-06 - 来自专栏周末程序猿
RAG实战|8种RAG架构浅析
生成多个embedding，每个头捕获不同的语义特征 多向量索引构建：为每个注意力头构建独立的向量索引，存储不同维度的语义信息 并行检索：针对查询，在多个索引上并行检索，每个头返回最相关的文档片段 结果融合 ：将多个头的检索结果进行去重和融合，综合考虑不同语义维度的相关性 上下文生成：将融合后的文档片段组装成上下文，输入LLM生成答案 相关参考如下： 论文：https://arxiv.org/pdf/2406.05085 (vectorstore) def search(self, query: str, top_k: int = 3) -> List[str]: """多头并行检索并融合结果 Agentic RAG 简介： Agentic RAG（智能体RAG）将 AI Agent 的规划和推理能力与 RAG 相结合。 print(answer) 7. Adaptive RAG 简介： Adaptive RAG 根据查询的类型和复杂度动态选择最优的处理策略。
1K10编辑于 2025-12-30 - 来自专栏全栈开发工程师
【RAG】001.1-RAG相关核心概念
【RAG】001.1-RAG相关核心概念 RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合信息检索与生成模型的混合架构，旨在提升生成的准确性和可信度。 上下文融合（Context Fusion） 上下文融合是指将检索到的知识与用户输入有效整合的过程，这是RAG系统中至关重要的环节。 系统通常将上述三种技术有机结合： 通过精心设计的上下文融合策略将检索内容与用户查询整合 使用可控生成技术确保输出严格基于检索内容 实现完善的溯源机制使用户能够验证生成内容的来源 这种综合应用不仅提高了RAG 7. 拓展方向 主动检索（Active Retrieval）：生成过程中动态触发多次检索（想法：比如推理能力，让大模型推理检索目标）。 7. 其他重要概念 多模态（Multimodal） 处理文本、图像、音频等多种数据类型的模型（如GPT-4V）。
94210编辑于 2025-03-26 RAG 2.0，让RAG 终成正果
然而，像Contextual.ai提出的基于情境语言模型（CLMs）的“RAG 2.0”这样的案例却很少见，它试图让目前最流行（如果不是最受欢迎的话）的生成式AI模型实现方式之一——标准检索增强生成（RAG 提出这种主张的，恰恰是RAG的创造者。 虽然这是对生产级生成式AI现状的一次重大改进，但整个子领域仍存在一个疑问：RAG是否正在走向末路，这些创新是否只是在对一个已经死去的马施加无效的鞭打？ 这就是RAG发挥作用的地方。 这个类比背后的原因是因为标准的RAG系统组装了三个不同的组件，这些组件是分别预训练的，并且根据定义，它们本来就不应该在一起。 相反，RAG 2.0系统从一开始就被定义为“一体”。 总的来说，我们很快就能看到处理极长序列的成本仅为现在的一小部分，这应该会增加对RAG架构需求的怀疑。 当那个时刻到来时，我们可以几乎肯定它会发生，我们还会依赖RAG吗？
1.7K51编辑于 2024-04-24- 来自专栏NebulaGraph 技术文章
7 种查询策略教你用好 Graph RAG 探索知识图谱
知识图谱 RAG 具体实现NebulaGraph 的首席布道师古思为，以及 LlamaIndex 团队精心撰写了一份关于知识图谱 RAG 开发的综合指南。 Graph RAG 查询。 = RetrieverQueryEngine.from_args( graph_rag_retriever, service_context=service_context)好了，现在我们对 7 使用 3 个问题测试 7 种图查询问题 1：告诉我 Bryce Harper 相关信息下图展示了 7 种查询方式对这一问题的回复，我用不同的颜色对查询语言进行了标注：这是我基于结果的一些看法：KG 基于向量的检索 关键收获基于上面 3 个问题在 7 个查询引擎上的实验，比较了 7 个查询引擎的优点和缺点：哪个查询引擎最适合，将取决于你的特定使用情况。
4.2K11编辑于 2023-12-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号