- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型技术应用
RAG 技术综述
论文链接：https://arxiv.org/pdf/2310.01352.pdf 这种技术被用于通过微调 API 对 OpenAI LLM 进行微调，以及对 Llama2 开源模型进行微调，在知识密集型任务的指标上导致了约 5% 的提升（与 RAG 的 Llama2 65B 相比），并在常识推理任务上增加了一些百分点。 技术上，它将信息检索与微调、强化学习等技术相结合。从流程上看，RAG 的各个模块被精心设计和调配，形成了多种RAG模式。 但模块化 RAG 并非一蹴而就；它是在前两个范式基础上逐步演化而来的。 2、多模态扩展 RAG 的技术和概念正在不断进化，它们将如何扩展到图像、音频、视频或代码等其他数据形式？ 目前，包括推荐系统、信息提取和报告生成在内的多种任务已经开始受益于 RAG 技术的应用。 同时，RAG 技术栈也在迅速壮大。
2.1K11编辑于 2024-02-01 - 来自专栏有文化的技术人
静态 RAG 与动态 RAG 技术全解析
❝本文系统介绍静态 RAG 与动态 RAG 的核心原理、技术对比、主流实现方案及代码实践，适合技术选型和深入学习参考。 ❞ 目录 一、RAG 技术概述 二、静态 RAG 2.1 核心原理 2.2 优化技术 2.3 主流实践方案 2.4 代码示例 三、动态 RAG 3.1 核心原理 3.2 主流实现方案 四、Self-RAG 7.1 静态 vs 动态 RAG 7.2 Self-RAG vs CRAG 7.3 选型建议 八、参考资源 一、RAG 技术概述 RAG（Retrieval-Augmented Generation， 克隆仓库 git clone https://github.com/AkariAsai/self-rag.git cd self-rag # 2. LLM 应用框架 模型资源 模型 HuggingFace Self-RAG Llama2-7B selfrag/selfrag_llama2_7b Self-RAG Llama2-13B selfrag
14710编辑于 2026-04-09 - 来自专栏JadePeng的技术博客
RAG 范式、技术和趋势
Trends》 ，RAG 范式、技术和趋势。 随着RAG技术的进一步发展和进化，产生了模块化RAG的概念。在结构上，它更自由、更灵活，引入了更具体的功能模块，如查询搜索引擎和多个答案的融合。在技术上，它将检索与微调、强化学习和其他技术相结合。 技术发展树 RAG 关键技术 数据索引优化 核心是chunk的策略： Small-2-Big 在sentense级别做embedding Slidingwindow 滑动窗口，让chunk覆盖整个文本 RAG 技术栈与工业界实践 当前有LangChain、LlamaIndex、AutoGen等流行的开发框架，可以方便开发RAG应用。 工业界也有很多RAG应用。 总结与展望 RAG 技术框架 RAG 的三个研究热点 RAG 的挑战 长上下文 与FT的协同 如何应用好LLM，充分挖掘利用LLM 提升鲁棒性，比如如何处理错误的召回内容，如何过滤和验证召回内容 RAG
2.1K11编辑于 2024-03-16 - 来自专栏深度学习与python
解码RAG：智谱 RAG 技术的探索与实践
智谱 AI 长期专注于大模型技术的研究，从 23 年开始，大模型受到了各行各业的关注，智谱 AI 也深度的参与到各种场景的大模型应用的建设当中，积累了丰富的模型落地应用的实战经验，其中 RAG 类应用占据了较大的比重 所以在同样精度的情况下，利用 RAG 技术可以大大地降低整个成本。 智谱 -RAG 解决方案 技术方案 下图是技术方案的全景图 整个技术方案包括三个层面：文件上传、用户提问和答案输出。 针对同样的场景问题，智谱通过“ChatGLM 大模型 +RAG”的方案来解决。整个成本和效果可以有大幅提升如，下图所示： 此项目面临如下几个技术挑战： Embedding 第一个挑战是知识召回。 结 尾 展望未来，RAG 技术将会在更多领域得到应用，并与其它 AI 技术相结合，例如多模态交互、个性化推荐、用户长期记忆等。 智谱 AI 将继续致力于 RAG 技术的探索与实践，为企业在更多的领域落地大模型应用，提供更加智能、高效的服务体验。
1.2K22编辑于 2024-06-27 - 来自专栏CoderJia的工作笔记
RAG_Techniques：深入解析GitHub热门RAG技术宝库
本文将带您深入探索GitHub上备受瞩目的RAG_Techniques项目，这是目前最全面的RAG技术集锦之一，为研究人员和实践者提供了丰富的高级技术实现和示例。 与传统的纯生成模型相比，RAG 系统可以： 1、提供更准确的信息：通过检索实际文档而非仅依赖模型参数中的知识 2、减少幻觉问题：生成的内容有明确的信息来源，降低编造事实的风险 3、保持知识更新：可以访问最新数据 分类清晰的技术体系 RAG_Techniques 项目将 33 种技术分为几大类别，使开发者能够根据需求快速定位： 基础技术（Foundational） - 包括基本 RAG、CSV 文件集成的 RAG self.vectorstore.similarity_search(hypothetical_doc, k=k) return similar_docs, hypothetical_doc 2. 2、导航到感兴趣的技术目录： cd all_rag_techniques/technique-name 3、按照每个技术目录中的详细实现指南进行操作。
1.1K21编辑于 2025-05-07 - 来自专栏架构之巅
大模型相关技术-初识RAG
java程序员肯定就会想到写个filter或者intercepter，RAG就是在做类似的事情，只不过流程更加复杂。 RAG是什么 检索增强生成（RAG）是对大型语言模型输出进行优化的方法，使其能够在生成响应之前引用训练数据来源之外的权威知识库。 为什么需要RAG 大模型在没有答案的情况下提供幻象数据，也就是胡说八道。 当用户需要特定的当前响应时，提供过时或通用的信息，模型提供的最新信息为训练模型时的数据。 敏感词、停止词过滤 RAG的基石：向量数据库 复习一下向量的概念：在几何中一个同时具有大小和方向的对象就叫向量，还有一个定义大家可能更加熟悉，“既有大小，又有方向的量叫做向量”。 - 哔哩哔哩 (bilibili.com) 我正在参与2024腾讯技术创作特训营最新征文，快来和我瓜分大奖！
71241编辑于 2024-04-28 - 来自专栏深度学习与python
RAG 技术真的“烂大街”了吗？
在这一领域中， RAG 技术将传统信息检索技术与大语言模型技术相结合，为知识理解、知识获取提供了全新的解决方案。然而，尽管 RAG 在很多任务上表现出色，其在深度应用上仍面临诸多挑战。 当然， RAG 技术的发展和应用正在不断演进，随着技术的成熟和优化，预计 RAG 将在更多场景下发挥关键作用。接下来，我们进入今天的第二个话题。如何提高公众对 RAG 技术的认识和理解？ 总结来说，我认为 RAG 技术的关键还是要有爆款产品，而从事 RAG 技术的人的关键是解决其基本问题，让 RAG 技术在这些爆款产品中可用，满足用户的期望体验。 RAG 技术未来展望 郭瑞杰： 前面 3 个话题主要讨论了 RAG 技术的现状、应用情况、高级 RAG 技术解法等，最后，咱们聊聊 RAG 技术未来的发展方向，有哪些新兴的技术和方法可能会给 RAG 这些新兴技术和方法可能会给 RAG 技术带来新的冲击和发展机遇，推动 RAG 技术在更多领域和场景中的深度应用，并实现更高的性能和可用性。
76410编辑于 2024-07-24 - 来自专栏大语言模型
RAG到DeepResearch技术路线实践
同时也能明显感受到仅仅靠RAG技术已经完全满足不了用户的需求了，本文就介绍 从RAG到DeepResearch，我们的技术实践之旅。 话不多说，先上技术路线图： 1. （关于上下文工程和RAG的关系后面单开一篇~） 对于通用知识，大模型底座已经具备。但要让它懂“你的业务”，能回答“你的问题”，就必须构建属于"你的知识库"，然后上RAG技术，RAG就是输入优化技术。 RAG相关技术我在之前分享的文档中其实已经介绍多次，本文就不做过多技术介绍。 同时，RAG 本身也在实践中不断迭代优化——在更多场景下变得更稳、更聪明，也能更灵活地支撑不同业务需求。 2. （2）自研 Query 扩展模型，提升研究维度的全面性 针对多轮指代、问题改写、问题扩写等真实业务中出现的 Query 理解难题，已经通用数据集，我们构建了高质量多维度训练数据集，并基于 7B 模型进行
66296编辑于 2025-12-05 - 来自专栏TechLead
RAG技术架构与实现原理
本文详细解析了RAG技术，包括其定义、作用、技术架构和检索模块的实现与优化，全面展示了RAG在自然语言处理中的重要性和广泛应用前景。 关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。 一、RAG的定义和作用 RAG的定义 Retrieval-Augmented Generation（RAG）是一种结合了检索和生成技术的自然语言处理（NLP）模型。 RAG的应用场景 RAG技术在多个领域中展现了其强大的应用潜力，以下是一些典型的应用场景： 开放域问答 在开放域问答任务中，RAG通过检索相关文档并生成基于这些文档的回答，能够处理范围更广、问题更复杂的用户提问 二、RAG的技术架构 RAG模型整体架构 RAG（Retrieval-Augmented Generation）模型的技术架构包括两个主要部分：检索模块（Retriever）和生成模块（Generator 技术架构图 以下是RAG模型的技术架构图，展示了检索模块和生成模块的工作流程： 输入查询 │ ▼ 检索模块 │ ├──> 文档1 │ ├──> 文档2
9.4K10编辑于 2024-07-15 - 来自专栏Reinvent Data Science
RAG 修炼手册｜一文讲透 RAG 背后的技术
今天我们继续剖析 RAG，将为大家详细介绍 RAG 背后的例如 Embedding、Transformer、BERT、LLM 等技术的发展历程和基本原理，以及它们是如何应用的。 01. Word2Vec Word2Vec 是 2013 年由谷歌提出了一套词嵌入方法。Word2vec 是 Word Embedding 方式之一，这种方式在 2018 年之前比较主流。 然而，作为一种早期的技术，Word2Vec 也存在一定的局限性： 由于词和向量是一对一的关系，所以多义词的问题无法解决。比如下面这几个例子的 bank 就不全是同样一个意思。 好在，我们可以使用 Retrieval Augmented Generation (RAG) 技术解决产生幻觉，和无法实时更新知识这两点不足。 RAG 是结合向量数据库和 LLM 的一项技术应用，关于 RAG 的介绍以及优化技巧，可以参考其它的文章。 03.
2.5K33编辑于 2024-04-11 - 来自专栏windealli
LLM RAG 技术剖析与演进
什么是RAG RAG（Retrieval-Augmented Generation，检索增强生成） 是一种将大语言模型（LLM）与模型外知识库检索相结合的技术架构。 2. Advanced RAG（高级检索增强生成） 核心改进：优化检索质量与上下文构造，提升生成可控性。 关键技术： 混合检索：结合向量检索（如 rank_model_type="bge" 的 BGE 模型）与关键词检索（如 search_engine="sogou"），提升召回多样性。 Graph RAG（图增强 RAG） 核心改进：引入图结构（如知识图谱）增强知识表示与推理能力。 关键技术： 图化知识库：将文档中的实体、关系构建为图结构，支持多跳推理。 Agentic RAG（智能体化 RAG） 核心思想：引入自主智能体（Agent）动态控制 RAG 流程。 关键技术： 调用 search_engine="sogou" 或向量检索。
1.3K10编辑于 2025-03-12 - 来自专栏老张的求知思考世界
RAG技术的三大范式和技术演进
从2022年底ChatGPT横空出世以来，大模型的信息幻觉(生成错误信息)、知识过时、推理过程不透明等问题，一直困扰着业内各方技术人员，直至RAG技术出现，才算缓解了这个难题。 》，对RAG的三大范式演进(基础RAG、高级RAG、模块化RAG)和检索、生成与增强三大核心组件的关键技术进行了深入探讨。 一、RAG的三大技术范式 1、基础RAG(Naive RAG) 流程：索引(Indexing)→ 检索（Retrieval）→ 生成(Generation)。 2、高级RAG(Advanced RAG) 预检索优化：采用滑动窗口索引、细粒度分段(如按语义拆分段落)、元数据标签(如文档来源、时间戳)提升检索质量。 评估工具：RAGAS(专用于RAG的评估框架)、ARES(自动化评分系统)。 2、主要挑战 长上下文处理：检索内容过长导致生成速度下降(需平衡检索精度与效率)。
1K11编辑于 2025-05-23 - 来自专栏老张的求知思考世界
基于LangChain实现RAG的技术原理
我们常见的各种ChatBot(即聊天机器人)，就是基于这种技术原理实现的。与之相关的技术框架，常见的有如下几种： LangChain：开源框架，提供了丰富的组件和工具，用于构建RAG系统。 LLama-Index：专为LLama模型设计的RAG框架，适用于特定场景下的应用。 RAGFlow：一个较新的RAG框架，注重简洁性和效率，提供预设组件和工作流。 Haystack：一个常用的开源框架，支持向量存储和编排层，是RAG系统的重要组成部分。 GraphRAG：专注于大模型驱动的RAG技术，通过优化向量库构建与推理性能来提升RAG系统的效率。 文本向量化：将切割后的文本小块，通过EMB(数据拆分和映射)技术转换为算法可以处理的向量，并存入向量数据库。 问句向量化：将用户的提问内容进行向量化处理(切割+拆分+映射)。 按照技术领域的通用测试原则，需要构建评测集(即IT技术领域的测试用例)，对其展开评测。 评测集需要满足如下几点要求： 可以理解用户提问内容。 可以匹配正确的知识库内容。
55500编辑于 2025-05-17 - 来自专栏人工智能
检索增强生成（RAG）技术详解
RAG技术概述 什么是RAG RAG是一种结合信息检索和文本生成的AI架构，工作流程如下： 用户查询 → 检索相关文档 → 生成增强回答 → 返回结果 ↓ ['retrieved_docs'] } # ==================== 高级RAG技术 ==================== class HybridRAG print(f"\n问题：{question}") print("-"*70) result = rag_system.query(question, top_k=2) ") # RAG技术对比表 print("\n" + "="*70) print("RAG技术对比") print("="*70) comparison_table 随着向量数据库、嵌入模型和LLM的不断发展，RAG将成为知识密集型AI应用的核心架构。 掌握RAG技术，开发者可以构建更准确、可靠、可解释的AI应用，满足企业级应用的需求。
1K10编辑于 2026-01-21 RAG—Chunking策略实战｜得物技术
一、背 景在 RAG 系统中，即便采用性能卓越的 LLM 并反复打磨 Prompt，问答仍可能出现上下文缺失、事实性错误或拼接不连贯等问题。 某种意义上，分块质量几乎决定了RAG的性能上限——它决定知识是以连贯的上下文呈现，还是退化为无法拼合的碎片。 初始的配置建议（仅限于中文技术/说明文档）：窗口大小 window_size：2–4 句最小/最大块长：min_chunk_chars=300–400，max_chunk_chars=1000–1200 目标：为RAG检索创建高内聚、可追溯的块。 告别数据无序：得物数据研发与管理平台的破局之路2. 从一次启动失败深入剖析：Spring循环依赖的真相｜得物技术3. Apex AI辅助编码助手的设计和实践｜得物技术4.
1.1K10编辑于 2025-10-30- 来自专栏AIGC
【AIGC】检索增强技术深度剖析（RAG）
在这种情况下，检索增强生成 （RAG） 开辟了新的视角。RAG 允许将 AI 模型与公司的特定内部数据集成，不仅可以进行处理，还可以对这些知识进行智能解释和利用。在本文中，我们将探讨如何实现这一点。 一、检索增强定义RAG 是一种技术，它允许通过从大型文档数据库中实时检索信息来扩展预训练语言模型的知识。 这是它的样子：在这种情况下，检索增强生成 （RAG） 就派上用场了。我们可以通过向提示添加上下文信息来简单地扩展机器学习模型的知识。从理论上讲，它如下所示：从理论上讲，它会起作用。 小编是一名热爱人工智能的专栏作者，致力于分享人工智能领域的最新知识、技术和趋势。这里，你将能够了解到人工智能的最新应用和创新，探讨人工智能对未来社会的影响，以及探索人工智能背后的科学原理和技术实现。 我正在参与2024腾讯技术创作特训营最新征文，快来和我瓜分大奖！
1.1K10编辑于 2024-05-11 - 来自专栏NLP/KG
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成 由于 RAG 的整体思路是首先将文本切分成不同的组块，然后存储到向量数据库中。 2.RAG 架构优化 2.1 Vector+KG RAG 经典的 RAG 架构中，context 增强只用到了向量数据库。这种方法有一些缺点，比如无法获取长程关联知识 [3]、信息密度低。 其技术架构图大致如下 [4]： 图 3 中 query 进行 KG 增强是通过 NL2Cypher 模块实现的。根据我的实践，我们可用更简单的[图采样技术]来进行 KG 上下文增强。 2）多模态 RAG（文本 + 表格 + 图片） 对多模态 RAG 而言，有三种技术路线 [10]，见下图： 如图 7 所示，对多模态 RAG 而言有三种技术路线，如下我们做个简要说明： 选项 1：对文本和表格生成 基于 Self-RAG 技术，可以按需检索上下文，同时还可进行自我评判。 3.1应用场景 一般的 RAG 应用会无差别地访问向量库获取上下文，而不管其是否真的需要。
5.2K45编辑于 2024-01-10 - 来自专栏ceshiren0001
RAG技术工作流程详细指南
检索增强生成（Retrieval-Augmented Generation，简称RAG）是人工智能领域的一项关键技术。它将信息检索与大型语言模型相结合，大大提升了生成内容的准确性和及时性。 本文将深入解析RAG的工作流程及其核心技术。 RAG系统架构核心组件RAG系统包含三个关键模块：检索器（Retriever）：从知识库中检索相关文档编码器（Encoder）：将查询和文档转换为向量表示生成器（Generator）：基于检索结果生成最终答案工作流程详解第一阶段 查询转换接收用户原始查询使用嵌入模型将查询转换为向量表示2. 提示词工程构建包含检索内容和用户查询的提示模板设置系统角色和生成参数2.
68011编辑于 2025-08-28 - 来自专栏架构驿站
一文读懂 Agentic RAG 技术点滴
2、规划与推理能力 Agentic RAG 框架内的代理具备高级规划和多步骤推理能力，能够制定最佳信息检索、分析和综合策略，有效应对复杂问题。 虽然智能代理（Agents）可以被整合进 RAG 流水线的不同阶段，但 Agentic RAG 通常特指在检索组件中引入代理技术的实现。 以下是 Agentic RAG 框架中代理的关键使用模式，它们共同构成了这一技术在实际应用中的核心价值。 2、作为独立的 RAG 工具运行 可以在 RAG 框架内独立运行，作为一个完整的 RAG 工具，基于输入查询自主生成响应，而无需依赖外部工具或流水线。 今天的解析就到这里，欲了解更多关于 Agentic RAG 相关技术的深入剖析，最佳实践以及相关技术前沿，敬请关注我们的微信公众号：架构驿站，获取更多独家技术洞察！
2.4K01编辑于 2025-04-04 - 来自专栏DeepHub IMBA
高级 RAG 技术：查询转换与查询分解
检索增强生成（RAG）的基础流程是用户查询转换为向量嵌入，从向量数据库中取回相似文档，再将这些文档作为上下文送入大语言模型（LLM）生成答案。 具体技术包括：并行查询检索（FAN-OUT 架构）、倒数排名融合（RRF）、HyDE（假设文档嵌入），以及基于思维链的低抽象分解和基于后退提示的高抽象分解。 以"RAG 如何改善 LLM 的响应效果？"为例，扩展后可以得到： 检索增强生成是如何工作的？ HyDE（假设文档嵌入） HyDE 的逻辑与前两种技术不同，它绕开了"查询表述不准确"这个根源性问题。 以"RAG 是如何工作的？它与微调有何不同？"为例，分解过程如下： 步骤 1——理解 RAG 的概念 什么是检索增强生成？ 步骤 2——检索 RAG 工作原理的详细信息 RAG 是如何工作的？
9310编辑于 2026-03-31
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号