- 综合排序
- 最热优先
- 最新优先
- 来自专栏周末程序猿
RAG实战|8种RAG架构浅析
因为项目的需要，之前研究了一段时间的RAG，于是本文总结 8 种 RAG 架构，对每种架构进行简要介绍，并用 langchain 实现其参考代码。 1. Naive RAG 简介： Naive RAG 是最基础的检索增强生成架构，采用“索引-检索-生成”的经典流程。 Agentic RAG 简介： Agentic RAG（智能体RAG）将 AI Agent 的规划和推理能力与 RAG 相结合。 print(answer) 7. Adaptive RAG 简介： Adaptive RAG 根据查询的类型和复杂度动态选择最优的处理策略。 架构： 实现步骤： 查询分类：分析用户查询的类型和复杂度（简单事实/多跳推理/开放性问题） 策略选择：根据查询类型选择最优的RAG策略 简单查询：直接LLM回答或单次检索 复杂查询：多轮迭代检索 开放性问题
1K10编辑于 2025-12-30 - 来自专栏TechLead
RAG技术架构与实现原理
本文详细解析了RAG技术，包括其定义、作用、技术架构和检索模块的实现与优化，全面展示了RAG在自然语言处理中的重要性和广泛应用前景。 关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。 二、RAG的技术架构 RAG模型整体架构 RAG（Retrieval-Augmented Generation）模型的技术架构包括两个主要部分：检索模块（Retriever）和生成模块（Generator 技术架构图 以下是RAG模型的技术架构图，展示了检索模块和生成模块的工作流程： 输入查询 │ ▼ 检索模块 │ ├──> 文档1 │ ├──> 文档2 检索模块的性能直接影响RAG模型的整体效果，因此深入理解其工作原理、技术实现和优化策略是非常重要的。本章将详细解析RAG检索模块的各个方面，包括其架构、实现细节、优化方法以及实际应用中的注意事项。 检索模块架构 RAG的检索模块通常采用双塔模型（Dual-Encoder）架构，由两个独立的编码器组成：一个用于编码查询（Query Encoder），另一个用于编码文档（Document Encoder
9.5K10编辑于 2024-07-15 - 来自专栏软件设计
七种RAG架构cheat sheet！
Weaviate 是一个开源的向量数据库， 面向的就是RAG使用场景，给出了七种RAG架构cheat sheet。RAG 分为两个阶段：索引阶段 和 查询阶段，每个阶段都有超多硬核技术加持！ 7 种 RAG 架构 以下是Weaviate官方总结的七种RAG（Retrieval-Augmented Generation）架构的核心要点速查表，涵盖核心原理、优缺点及适用场景。1. 7. Agentic RAG (Multi-Agent)（多智能体RAG）核心原理：多个智能体协同处理任务（如并行检索数据库、搜索引擎、邮件系统），整合结果生成答案。 对架构选择的建议基础场景：优先选择Naive RAG或Retrieve-and-Rerank，平衡速度与精度。 多模态需求：采用Multimodal RAG，结合CLIP等跨模态模型。 #RAG架构 #Weaviate #AI技术 #技术分享 #多模态 #知识图谱 #智能代理
1.5K40编辑于 2025-01-24 - 来自专栏大模型系列
MiA-RAG (Mindscape-Aware RAG)：为大模型构建“全局大脑”的革命性RAG架构
MiA-RAG的诞生，正是为了将这种人类独有的“全局心智”能力赋予AI系统。 二、MiA-RAG的核心思想与整体架构MiA-RAG的核心创新在于其两阶段架构，明确分离了全局心智构建和局部任务执行两个过程。 三、关键技术优势与对比分析特性传统RAG超长上下文MiA-RAG上下文视野局部、碎片化理论上完整，但实际注意力稀释全局、结构化计算成本低（仅处理小片段）极高（处理整个文档）中等（预处理+小片段处理）推理能力单跳 四、实验效果与评估根据原论文（arXiv:2512.17220）及后续的行业评测，MiA-RAG在多个专注于长上下文理解和基于证据推理的基准测试中，持续且显著地超越了现有的所有基线RAG方法。 深入的案例研究表明，MiA-RAG能够成功地将分布在文档不同部分的证据进行整合，完成复杂的多跳推理，而传统RAG则常常失败。
26111编辑于 2026-04-02 大模型+知识库rag项目架构
将大模型与知识库结合的项目架构（RAG项目架构）可能指的是一种结合了检索（Retrieval）和生成（Generation）的架构，即RAG（Retrieval-Augmented Generation 这种架构特别适用于需要结合检索信息和生成新内容的任务，如开放域问答、内容创作等。RAG架构的一般流程如下：检索阶段（Retrieval）：首先，系统会从知识库中检索出与输入查询相关的信息。 在实际应用中，RAG项目架构可以根据不同的应用场景和需求进行定制和优化。例如，检索系统可以使用不同的搜索引擎或推荐系统，而生成模型可以是传统的语言模型，也可以是专门为特定任务训练的模型。 如果你有关于RAG项目架构的具体问题，或者需要了解如何在特定的应用场景中实现这种架构，请提供更多的上下文信息，我会尽力提供帮助。
1K10编辑于 2024-04-19学习向量数据库与 RAG 架构
### **二、RAG 架构：核心原理与流程**#### 1. RAG 是什么？ - 理解分布式向量数据库的分片、副本机制（如Milvus的DataNode、QueryNode架构）。 2. **RAG高级架构**： - **多模态RAG**：支持图像、音频等数据（如用CLIP模型生成跨模态向量）。 **结合其他技术**： - 与知识图谱（KG）结合，提升检索逻辑推理能力（如RAG + KG架构）。 `（RAG工具链）、`llama-index`（专注RAG的框架） - `milvus-bootcamp`（Milvus实战案例）
76310编辑于 2025-10-24- 来自专栏AIGC
【AIGC】通过RAG架构LLM应用程序
toc在之前的博客文章中，我们已经描述了嵌入是如何工作的，以及RAG技术是什么。本节我们我们将使用 LangChain 库以及 RAG 和嵌入技术在 Python 中构建一个简单的 LLM 应用程序。 我们的 RAG 应用程序将使用私有数据扩展 LLM 的知识。在这种情况下，它将是一个包含一些文本的 PDF 文件。 在关于RAG的文章中对此进行了更详细的描述。 7.创建提示为了准备提示，我们将使用“langchain”中心。我们将从那里提取一个名为“langchain-ai/retrieval-qa-chat”的提示。 ) print(response["answer"])if __name__ == "__main__": main()小结遵守前面博客中的约定，输出一节基于RAG进行大语言模型构建的内容，
50410编辑于 2024-05-08 - 来自专栏云云众生s
RAG 架构如何克服 LLM 的局限性
检索增强生成 (RAG) 是一种架构框架，利用 向量数据库 来克服现成 LLM 的局限性。在本文中，我将引导你了解 RAG 的功能和优势，以及它如何促进 LLM 和实时 AI 环境的彻底改造。 检索增强生成 (RAG) RAG 是一种架构框架，可帮助企业在其 LLM 和 AI 生态系统和流程中使用专有向量数据库作为先导步骤。RAG 将这些搜索结果用作 LLM 的附加输入，可用于塑造其答案。 RAG 架构使 LLM 能够在对提示或查询创建响应之前访问外部数据库。 通过绕过重新训练流程，RAG 为企业提供了一种经济且便捷的方式来增强其 AI 应用程序，而不会损害搜索准确性和性能。 RAG 的功能和优势 既然你对 RAG 有了基本的了解，我想将重点转移到它的主要功能和主要优势上。 更好的搜索质量 增强的搜索质量是企业使用 RAG 解锁的首批优势之一。 展望 RAG RAG 可以帮助生成更好、更具上下文且没有幻觉的响应来回答人类的问题。借助 RAG，聊天机器人的响应对用户来说更快、更准确。当然，这只是一个简单的用例。
47010编辑于 2024-05-04 构建十亿级向量检索与智能体生态：由 RAG 到 Agentic RAG 的架构实践
随着业务向多步推理、动态任务规划以及跨知识库协作检索演进，传统的 RAG（检索增强生成）架构暴露出明显的性能与运维瓶颈。 部署集成化 RAG 解决方案与原生智能体平台 为应对上述挑战，腾讯云联合 Elastic 提供了一套从底层基础设施到敏捷上层开发的全链路解决方案，推动应用由传统 RAG 向 Agentic RAG（智能体驱动的 RAG）转型。 统一化搜索平台架构：将原本割裂的多个组件整合为 1 个集成的 RAG 解决方案。 基础设施与技术效能指标： 服务器资源大幅缩减：在“十亿级向量”的 RAG 应用实战中，系统架构由管理 4 个不同系统、400+ 台服务器，精简至单一集成方案仅需 30 台服务器，实现 90%+ 的成本降低
23820编辑于 2026-04-12- 来自专栏自然语言处理
你的RAG系统真的达标了吗？生产环境RAG成功的7大关键指标
RAG系统的两大核心组件 一个典型的RAG系统主要由两部分组成： 检索器：这家伙负责响应用户的查询，从知识库（通常是矢量数据库）里找出相关信息。 评估RAG系统，就得从这两个部分入手，同时还要关注系统整体的表现。 RAG评估的三大维度 评估RAG系统，通常得从以下几个关键领域入手： 检索质量：检索器能不能准确找到并抓取相关文档？ 系统性能：整个RAG系统在成本和响应速度上表现如何？ 7个你必须关注的指标 根据我的经验，要想打造一个成功的RAG应用，你得盯紧以下7个关键指标： Precision@k（我们拿到的是相关内容吗？） 虽然前面提到的7个指标是认为必不可少的，但RAG系统的评估远不止这些。根据你的具体需求，还有很多其他指标可能会派上用场。 RAG评估的核心要素 在评估RAG系统时，有几个关键要素你得时刻关注： 已检索到的块 (RC)：这是检索器从知识库里抓出来的内容块。
1K10编辑于 2025-01-13 - 来自专栏架构驿站
RAG 架构实战：Fixed-Size Chunking（固定切块） 解析
Hello folks，我是 Luga，今天我们来聊一下人工智能应用场景 - 构建高效、灵活的计算架构的 RAG 架构的切块策略—Fixed-Size Chunking（固定切块）。 通过本文，你将一文读懂这款为下一代 RAG 应用量身打造的开源图向量数据库的核心理念、架构优势以及它如何助力你的智能化创新。让我们一起深入了解 HelixDB 的独特之处吧！ 执行运行： (base) lugalee@labs rag % /opt/homebrew/bin/python3 /Volumes/home/rag/fixedsiz.py 原始文本被切分成了 2 个块 通过本文，你将一文读懂这款为下一代 RAG 应用量身打造的开源图向量数据库的核心理念、架构优势以及它如何助力你的智能化创新。让我们一起深入了解 HelixDB 的独特之处吧！ 今天的解析就到这里，欲了解更多关于 LM Studio 相关技术的深入剖析，最佳实践以及相关技术前沿，敬请关注我们的微信公众号或视频号：架构驿站（priest-arc），获取更多独家技术洞察！
39110编辑于 2025-05-25 - 来自专栏云云众生s
PDF通过新的RAG架构更容易进入GenAI
虽然这些视觉丰富的元素通常被排除在 RAG 工作流程之外，但一种用于从视觉增强文档中检索信息的新方法将简化多模态文档准备，并改变 RAG 和生成式 AI (GenAI) 的潜力。 这些处理步骤可能很耗时，并会影响检索质量，但 Contextualized Late Interaction over PaliGemma (ColPali) 是一种新的检索模型架构，专注于文档密集型环境中的 RAG，克服了这些挑战。 ColPali 的架构建立在两个关键概念之上：来自 视觉语言模型 (VLMs) 的上下文视觉嵌入和后期交互机制。 展望未来 ColPali 架构为文档检索树立了新标准，提供了一个灵活的框架，可以适应新兴的 VLM。基准测试结果表明 ColPali 优于传统方法，标志着该领域范式转变。
39710编辑于 2024-10-10 - 来自专栏Datawhale专栏
RAG 作者：RAG 已死，RAG 万岁！
一个具有更大上下文窗口的新模型问世，社交媒体上便会充斥着“RAG 已死”的宣言。 RAG 的初衷 五年前，我在 Meta 基础人工智能研究中心（FAIR，前身为 Facebook 人工智能研究中心）的团队提出了 RAG（Retrieval-Augmented Generation，检索增强生成 底线是：您同时需要长上下文 LLM 和 RAG。 但既然“RAG”这个术语似乎如此具有争议性，那我们不妨这样说： 我们不必非得称之为 RAG。 我们可以就叫它 检索 (retrieval)。 RAG 提供了相当于直接翻到相关页面的能力。处理更多 token 不仅更慢，而且极其低效，并且比使用 RAG 精准定位所需信息要昂贵得多。 RAG、微调和大型上下文窗口在 AI 中也是如此。 结论 我们不需要在 RAG 与长上下文窗口、微调或 MCP 之间做出选择。
70710编辑于 2025-04-24 - 来自专栏自然语言处理
带你了解7种检索增强生成 (RAG) 技术
校正RAG（Corrective RAG） 在校正RAG中，系统不仅检索和生成答案，还会验证并校正这些答案。 工作原理： 搜索与检索：与简单RAG类似，系统根据查询检索相关文档。 自省RAG（Self RAG） 自省RAG通过自我反思或自我批评来提高RAG结果的质量。 工作原理： 搜索与检索：模型首先检索相关信息并根据输入查询生成答案。 融合RAG（Fusion RAG） 融合RAG结合了来自多个检索来源的信息，以生成一个全面的答案。 7. 图RAG(Graph RAG) GraphRAG 是微软公司内部广受赞誉的一种结合了检索增强生成（RAG）技术和知识图谱的先进框架。 全局搜索（Global Search）：对于需要跨整个数据集整合信息的复杂查询，GraphRAG 采用 Map-Reduce 架构。
8.8K31编辑于 2025-01-06 - 来自专栏全栈开发工程师
【RAG】001-RAG概述
【RAG】001-RAG概述 0、整体思维导图 下面的知识是基于一个视频教程结合 AI 生成的笔记，我也看了一遍，有了一些印象，但这种印象很快就会消失，知识也就消失了，为了使得知识在我的大脑中停留更长的时间 补充1：RAG 基本逻辑 补充2：RAG 知识库基本逻辑 一、RAG 介绍 1、LLM 的主要局限性 大语言模型（LLM）尽管功能强大，但仍存在以下明显的局限性： 时效性问题：模型的知识在预训练后就固定了 概述 1、RAG 的概念 RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合了检索和生成技术的文本处理方法，主要用于提高语言模型的输出质量。 2、RAG 的工作原理 RAG 的核心工作流程包含以下步骤： 知识库构建： 收集和处理文档资料 将文档切分为适当大小的文本块 使用向量化模型将文本转换为向量并存储 检索过程： 接收用户查询并向量化 在向量数据库中搜索相似内容 获取最相关的文本片段 生成过程： 将检索到的相关内容与用户问题组合 构建合适的提示词（Prompt） 通过 LLM 生成最终答案 3、RAG 的应用场景 RAG 技术在多个领域都有广泛应用
75010编辑于 2025-03-25 - 来自专栏全栈程序员必看
armeabi-v7a架构(sv7a)
armeabi与armeabi-v7a表示支持不同的CPU类型armeabi是指的该so库用于ARM的通用CPU，而v7a的CPU支持硬件浮点运算。 v5 cpu，armeabi-v7a是针对有浮点运算或高级扩展功能的arm v7 cpu。 ARM* 表示其基于 128 位 SIMD 引擎的技术 – ARM* Cortex*（一种串行扩展）—可提供比 ARM* v5 架构至少高 3 倍的性能，以及比 ARM* v6 至少高 2 倍的性能。 SSE： 英特尔推出的类似 NEON 的工具SSE 指面向英特尔架构(IA)的SIMD 流指令扩展。 目前，英特尔® 凌动™ 最高支持 SSSE3（补充 SIMD 流指令扩展 3）。 如欲了解详细信息，请参阅英特尔《IA-32 和 IA-64 软件开发人员手册》中的“第一卷： 基础架构”部分。
1.8K10编辑于 2022-07-28 - 来自专栏机器学习原理
rag
这个检索模型通常使用双编码器（dual encoder）架构，其中一个编码器用于编码查询，另一个编码器用于编码文档。在训练过程中，这两个编码器通过最大化正确文档和查询对的相似度来进行优化。 在成功检索到相关文档后，RAG的生成模型接管任务。生成模型通常基于Transformer架构，如BERT或GPT，利用检索到的文档作为上下文生成对用户查询的回答。 这个过程依赖于双编码器架构，其中查询和文档被分别编码为向量，并计算它们之间的相似度。 参考文档生成回答：生成模型随后接收到检索到的相关文档，并将它们与用户的查询一起作为输入。 生成模型通常使用Transformer架构，确保生成的文本不仅自然流畅，而且信息准确。 输出答案：最终，生成的答案被返回给用户。 RAG技术的优势与挑战 RAG技术在很多方面展示了其显著的优势，但它也面临着一些挑战。以下我们将详细探讨RAG技术的优势和挑战。
60511编辑于 2024-06-27 - 来自专栏自然语言处理
RAG Logger：RAG日志记录工具
您听说过 RAG Logger 吗？ 它是一款专为检索增强生成 (RAG) 应用程序设计的开源日志记录工具！ 据说它可以作为 LangSmith 的轻量级替代方案，满足 RAG 特定的日志记录需求。 查询、搜索结果、LLM 交互和性能指标可以以 JSON 格式记录。 特点 通过查询跟踪详细了解用户问题！ RAG Logger 为 RAG 应用程序的性能监控和调试提供了强大的支持，对吗？ 特别推荐给那些想要提高应用程序开发效率的人。 请参阅此处的详细信息： RAG Logger GitHub 仓库
31110编辑于 2025-01-07 - 来自专栏大模型应用开发
10 万文档干崩 RAG？这套架构救了我
为一家医药科技公司开发检索增强生成（RAG）系统刚满三个月，一切就全乱套了。 一家手握 10 万份医疗文献、病例报告的医疗机构，结果整个搜索架构直接被数据量压垮。 这次踩坑让我对 RAG 系统的认知彻底颠覆，现在就把这套能支撑 10 万份医疗文档、响应时间不足一秒的架构原封不动分享给你 —— 连可直接跑的代码都准备好了。 没人敢说的真相：RAG 的扩容根本不是线性的大部分 RAG 教程教你索引 100 个 PDF 就收手，说好听点是入门示例，说难听点就是生产环境完全用不上的花架子。真正扩容时会发生什么？ 真正能落地的架构方案踩废五种方案后，这套架构终于在生产环境扛住了 10 万份医疗文档的压力：第一层：智能文档处理再像愣头青一样盲目切分文档可就太业余了。 第二层：混合搜索架构说个容易挨喷的结论：纯向量搜索被吹过头了。
52920编辑于 2025-11-28 - 来自专栏数据派THU
独家 | 进阶RAG-提升RAG效果
在我的上一篇博客中，我深入地介绍了RAG以及它是如何用LlamaIndex实现的。然而，RAG在回答问题时经常遇到许多挑战。 RAG工作流程分解 首先，为了增强对RAG的理解，我们将RAG工作流程分解为三个部分，并对每个部分进行优化以提高整体表现。 通过检索原始问题和stepback问题的信息，可以将该技术与标准问答RAG应用程序结合使用。下面是一个stepback prompt的示例。 7. 模块化RAG 模块化RAG集成了多种方法来增强RAG的不同组成部分，如在检索器中加入相似度检索的搜索模块和应用微调方法 RAG融合（RAG Fusion） RA融合技术结合了两种方法： 多查询检索 利用 总结 本文讨论了优化RAG管道各部分和增强整体RAG流水线的各种技术。您可以在您的RAG流水线中使用这些技术中的一种或多种，从而使其更加准确和高效。
1.5K20编辑于 2024-06-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号