- 综合排序
- 最热优先
- 最新优先
- 来自专栏【腾讯云开发者】
RAG优化字典：20种RAG优化方法全解析
关注腾讯云开发者，一手技术干货提前解锁 本文系统性地梳理了 RAG（Retrieval-Augmented Generation，检索增强生成）系统从基础到高级的 20 种优化方法，涵盖分块策略、检索增强 、查询优化、生成质量控制等多个维度。 19 CRAG 系统 动态评估并纠正检索质量 20 RL增强RAG 系统 强化学习优化全流程 优化方法选择指南 分块优化：检索不够精准时，优先考虑语义分块（1）、命题分块（13）或切块大小评估 （2）。 检索增强：融合检索（15）性价比高、易落地；图RAG（16）适合概念与关系密集的领域。 查询优化：HyDE（18）对短查询、抽象问句效果好；查询转换（6）适合复杂、多子问题查询。
95411编辑于 2026-03-06 - 来自专栏自然语言处理
【RAG最新研究】优化RAG系统的最佳实践与深度解析
RAG有哪些相关研究？ 在RAG领域，已经有不少研究为这篇论文奠定了基础。 RAG系统的优化： Wang et al. (2024) 提出了优化检索组件的策略，比如改进文档索引和检索算法，以减少延迟并保持准确性。 通过这些步骤，论文系统地研究了RAG系统的架构，并提出了具体的改进措施，为开发和优化RAG系统提供了实证基础和理论支持。 论文做了哪些实验？ 使用了ROUGE-1、ROUGE-2、ROUGE-L、嵌入余弦相似度和MAUVE等指标来评估性能差异。 评估了九个研究问题对RAG系统性能的影响。 = model_loader_seq2seq.model self.tokenizer_seq2seq = model_loader_seq2seq.tokenizer
1.2K10编辑于 2025-01-16 - 来自专栏云云众生s
RAG和模型优化：AI实用指南
AI工程实践指南：探索LLM/SLM集成，利用MoE和Co-LLM优化代码生成。RAG提供可扩展替代方案，避免静态微调，提升代码质量。 ，同时平衡模型选择、性能优化、安全性和成本效益。 集成 LLM 和 SLM 通过利用两者的优势，将小型语言模型 (SLM) 和大型语言模型 (LLM) 集成到软件工程任务中，可以优化效率。 这种方法通过将较简单的任务分配给较小的模型，将复杂的任务分配给较大的模型来优化效率。 在 AI 软件开发平台中部署 LLM 并使用 RAG 对其进行增强可以提高准确性，消除幻觉并优化资源效率。
43100编辑于 2025-03-16 llm与RAG的学习与优化
本文首发个人博客：llm与RAG的学习与优化 - 黑白の世界欢迎点击，评论前言这是一篇拖延了半年的文章。 提问 RAG程序->>嵌入式模型: 2. 将问题文本向量化 嵌入式模型-->>RAG程序: 返回问题向量 RAG程序->>向量数据库: 3. 2. 检索：优化查询与召回元数据过滤 (Metadata Filtering)通常，我们存储的不仅仅是文本块的向量，还会附带**元数据（Metadata）**，比如文档来源，这段记录对应的实际意义。 这是提升RAG效果最有效的手段之一。结语以上内容大概就是笔者最近在大模型学习，RAG开发与特定领域向量数据库构建业务中的一些总结与优化心得。同时不禁感叹，大模型从22年到如今的发展迅速。 可以看到本文在谈到RAG调优的格式突然有些变化。因为到这里笔者有些懒了，手写了思路与大纲后，直接让AI优化，然后再手改一番。本文还只是单纯的 RAG知识库，或者说向量数据库的相关技术点。
65510编辑于 2025-09-01- 来自专栏具身小站
大模型优化技术（RAG 和 LoRA）对比
RAG 和 LoRA 是优化大模型的两种主流且互补的技术， LoRA 是给模型“大脑升级”的技能插件，RAG 是给模型“大脑联网”的外挂知识库， 分别从“模型能力”和“知识获取”两个不同维度，来解决让通用大模型变得更专业的问题 工作原理 RAG的工作流程分为两步： 检索和生成 。 检索 ：收到问题时，RAG首先将问题转化为向量，在知识库（如公司内部文档）中搜索最相关的信息片段。 RAG就像是 给大脑配一个秒查资料的"超级助理"， 遇到问题时，大脑不自己回忆，而是先让助理去查资料，再将查到的信息一起思考后回答。 RAG的核心优势在于处理 需要大量、最新、具体事实信息 的场景。 因此，建议 以LoRA为主，RAG为辅 。 并行组合 ：设计一个决策器来判断任务类型， 对深层任务调用LoRA模块，对知识性任务调用RAG流程 。同时，LoRA生成的结果可作为RAG的检索源，形成正向循环。
20610编辑于 2026-05-22 RAG 2.0 的索引与召回机制优化
很多做RAG的朋友可能都有过这样的经历：兴冲冲地把系统搭起来满怀信心地让它回答几个问题，结果它要么答非所问，要么一脸无辜地说"抱歉我不知道"。 今天我们就来聊聊RAG 2.0在索引与召回机制上的优化思路，看看怎么才能让RAG真正派上用场。 向量召回的困境与破局之道 向量召回命中率低这个问题，说起来简单，真正解决起来却让人头疼。 未来重排序很可能成为RAG系统的标配组件，就像现在全文索引是必备的一样。 值得注意的是，延迟交互这条路还在快速发展。 结语 RAG 2.0的索引与召回机制优化，本质上是在效果和效率之间找平衡。 多路召回解决了单一检索方式的局限，张量排序在保持效果的同时提升了效率，文档预处理则为整个系统打下了高质量的数据基础。 RAG技术还在快速演进，但无论怎么变，扎实的基础功永远是关键，是吧？
36210编辑于 2026-02-28- 来自专栏Linyb极客之路
RAG 的检索模块是怎么优化的？
RAG（Retrieval-Augmented Generation）中的检索模块是整个系统的关键环节，直接影响生成结果的质量。为了提升检索的准确性、相关性和效率，业界采用了多种优化策略。 以下是 RAG 检索模块的主要优化方法： 一、向量检索优化 更优的嵌入模型（Embedding Model） 使用领域微调的嵌入模型（如 BGE、E5 等），比通用模型（如 Sentence-BERT） 四、索引与架构优化 分块策略优化 合理的文本分块大小（如 256-512 tokens）。 使用滑动窗口重叠分块，避免信息割裂。 基于语义边界（如段落、标题）进行智能分块。 基于反馈的持续优化 利用用户反馈或生成结果质量信号，迭代优化检索模型或策略。 ，RAG 的检索模块能够更精准地找到与用户问题相关的上下文，为生成模块提供高质量输入，从而显著提升整体系统表现。
34010编辑于 2026-04-14 - 来自专栏YoungGy
【优化2】整数优化
或的逻辑约束 三个选择的或 只有才 更多或 整数可除 多边形组合 固定花费 分段线性 组合型 set covering set packing 食堂定位 地图填色 Julia例子 9数独 概述 整数优化就是线性优化 x1被选中当且仅当x2被选中。 x2或x3被选中，可以都被选中。 x2或x3被选中，不可以都被选中。 对应的IP约束为： x1-x3<=0 x1+x5<=1 x1-x2=0 x2+x3>=1 x2+x3=1 或的逻辑约束 或的逻辑问题，可以用用bigM方法去解决，其思想是通过添加新的变量，将部分约束变成多余的 例如，对于问题 [图片] 或 [图片] （两者可以都出现），y1、y2的定义域是[0，5]。 and column j to j+2 @constraint(m, sum{x[r,c,k], r=i:i+2, c=j:j+2} == 1) end for i = 1:9, j = 1:
1.9K50发布于 2018-01-05 - 来自专栏掘金安东尼
再靠近亿点点，RAG 优化策略
本篇来看下 RAG 的架构优化策略 利用知识图谱（KG）进行上下文增强 在现有的向量数据库中，典型的上下文增强可能面临挑战：难以捕捉长距离的关联知识，信息稀疏性高（尤其是当LLM上下文窗口有限时）。 具体的操作流程是：针对用户的查询，运用NL2Cypher技术强化知识图谱；常规的图采样技术用以增进知识图谱的上下文信息。 Self-RAG Self-RAG 是更主动和智能的实现方式： 1、 判断是否需要额外检索事实性信息（retrieve on demand），仅当有需要时才召回； 2、平行处理每个片段：生产prompt 模型可根据具体任务进行定制化调整，它通过增加检索的文段数量来优化对事实准确性的重视，或是在开放性任务中突出创新能力。此模型能决定何时进行文段的检索，或者依据预设的阈值来启动该过程。 小结 本篇文章介绍了 RAG 的架构优化策略，主要包括利用知识图谱进行上下文增强以及让大模型对召回结果进行筛选的方法。
1.1K10编辑于 2024-04-13 - 来自专栏DeepHub IMBA
RAG流程优化（微调）的4个基本策略
在本文中，我们将介绍使用私有数据优化检索增强生成(RAG)的四种策略，可以提升生成任务的质量和准确性。 通过使用一些优化策略，可以有效提升检索增强生成系统的性能和输出质量，使其在实际应用中能够更好地满足需求。 RAG简单回顾 RAG主要有两个过程。 我们先总结RAG过程中的可以优化的关键点: 1、分块方法:优化块大小确保有意义和上下文相关的数据段。 2、嵌入模型:选择和微调模型以改进语义表示。 3、向量搜索方法:选择有效的相似度量和搜索参数。 同时也说明不同类型的RAG任务可能需要特定领域的嵌入模型。 向量搜索方法 向量搜索方法基于相似性度量检索最相关的块。常用的方法包括欧几里得(L2)距离、余弦相似度等。 优化RAG的过程是需要持续的测试的，从失败中学习，以及做出明智的调整。需要采用迭代方法，才能定制出适合自己的AI解决方案，更有效地满足特定需求。
2.3K10编辑于 2024-07-01 - 来自专栏AIGC大模型应用
RAG性能优化杀器，引入上下文检索！
开发者现可在 API 调用之间缓存常用提示词，减少超过 2 倍的延迟，降低高达 90% 的成本（阅读提示词缓存操作指南）。然而，随知识库增长，你需要一个更具扩展性的解决方案。 1 RAG 简介：扩展到更大的知识库对于无法放入上下文窗口的更大知识库，RAG 是典型的解决方案。 但传统 RAG 系统有一个显著的局限：它们往往破坏上下文。传统 RAG 中的上下文问题在传统 RAG 中，文档通常被拆分为较小的块，以便于检索。 2 引入上下文检索上下文检索通过在嵌入前将块特定的解释性上下文添加到每个块中（“上下文嵌入”）以及创建 BM25 索引（“上下文 BM25”）来解决此问题。让我们回到美国证券交易委员会文件的例子。 我们的实验表明，跨多个领域，添加重新排序步骤进一步优化了检索。具体而言，我们发现，重新排序后的上下文嵌入和上下文 BM25 将前 20 个块检索未命中率降低了 67%（5.7% → 1.9%）。
1.2K11编辑于 2024-10-02 - 来自专栏JavaEdge
RAG性能优化杀器，引入上下文检索！
开发者现可在 API 调用之间缓存常用提示词，减少超过 2 倍的延迟，降低高达 90% 的成本（阅读提示词缓存操作指南）。 然而，随知识库增长，你需要一个更具扩展性的解决方案。 但传统 RAG 系统有一个显著的局限：它们往往破坏上下文。 传统 RAG 中的上下文问题 在传统 RAG 中，文档通常被拆分为较小的块，以便于检索。 2 引入上下文检索 上下文检索通过在嵌入前将块特定的解释性上下文添加到每个块中（“上下文嵌入”）以及创建 BM25 索引（“上下文 BM25”）来解决此问题。 回到美国证券交易委员会文件的例子。 实验表明，跨多个领域，添加重新排序步骤进一步优化了检索。 重新排序后的上下文嵌入和上下文 BM25 将前 20 个块检索未命中率降低了 67%（5.7% → 1.9%）。 负责： 中央/分销预订系统性能优化 活动&券等营销中台建设 交易平台及数据中台等架构和开发设计 车联网核心平台-物联网连接平台、大数据平台架构设计及优化 LLM Agent应用开发 区块链应用开发
48610编辑于 2025-06-01 - 来自专栏AI智能体从入门到实践
构建AI智能体：优化 RAG 检索精度：深入解析 RAG 中的五种高级切片策略
前面几篇文章已经深入讨论过LangChain、RAG架构的细节，对RAG有了基础的了解，今天重点梳理一下RAG的切片策略；一、什么是RAG切片 给定一个场景，我们有一本非常厚的百科全书 所以，到底什么是RAG切片？ RAG切片就是把一份长长的文档（如PDF、Word），合理地切割成一个个小块（Chunks）的过程。 这个过程是整个RAG系统的基石，它直接决定了后续检索和生成答案的质量。 = True # 2. 运行你的RAG管道，评估答案的质量。评估答案是否准确？检索到的上下文是否真正相关？ 迭代优化：选择效果最好的那种策略。
1.8K32编辑于 2025-11-11 - 来自专栏Datawhale专栏
RAG 作者：RAG 已死，RAG 万岁！
一个具有更大上下文窗口的新模型问世，社交媒体上便会充斥着“RAG 已死”的宣言。 该 LinkedIn 帖子： 一些值得注意的 RAG“死亡宣告”包括： 2023 年 5 月：Anthropic 的 Claude，上下文窗口达 10 万 token 2024 年 2 月：Google 底线是：您同时需要长上下文 LLM 和 RAG。 但既然“RAG”这个术语似乎如此具有争议性，那我们不妨这样说： 我们不必非得称之为 RAG。 我们可以就叫它 检索 (retrieval)。 RAG 提供了相当于直接翻到相关页面的能力。处理更多 token 不仅更慢，而且极其低效，并且比使用 RAG 精准定位所需信息要昂贵得多。 RAG、微调和大型上下文窗口在 AI 中也是如此。 结论 我们不需要在 RAG 与长上下文窗口、微调或 MCP 之间做出选择。
82410编辑于 2025-04-24 - 来自专栏全栈开发工程师
【RAG】001-RAG概述
补充1：RAG 基本逻辑 补充2：RAG 知识库基本逻辑 一、RAG 介绍 1、LLM 的主要局限性 大语言模型（LLM）尽管功能强大，但仍存在以下明显的局限性： 时效性问题：模型的知识在预训练后就固定了 ，无法自动更新最新信息 知识覆盖局限： 缺乏特定领域或私有领域的专业知识 对组织内部文档、数据等私域信息无法感知 幻觉问题：容易生成看似合理但实际错误的内容，影响可靠性 2、RAG 的价值与优势 2、RAG 的工作原理 RAG 的核心工作流程包含以下步骤： 知识库构建： 收集和处理文档资料 将文档切分为适当大小的文本块 使用向量化模型将文本转换为向量并存储 检索过程： 接收用户查询并向量化 无需对模型本身进行修改 知识库可以随时更新 Fine-tuning： 在预训练模型基础上进行额外训练 直接修改模型权重 知识被固化在模型参数中 2、对比分析 2.1 实施成本 RAG： 初始投入低 向量存储： 选择向量数据库 建立索引结构 设置检索参数 2、实时处理阶段 2.1 查询处理 查询分析： 理解用户意图 提取关键信息 优化查询表达 查询向量化： 使用与文档相同的嵌入模型
86410编辑于 2025-03-25 - 来自专栏多模态 / RAG / 知识图谱
RAG 系列 02 — Advanced RAG
配套阅读：《RAG系列01—NaiveRAG》《从NaiveRAG到AgenticRAG》引言：2025年3月，我参加了一家toBSaaS公司的技术评审会。那天的议题是"RAG系统下一阶段升级路线"。 AdvancedRAG的本质，是把RAG从"一锤子买卖"重构为"多阶段管道"。 每一阶段：有独立的优化目标有独立的评测指标有独立的失败模式可以独立替换和升级它在NaiveRAG的"线性三段式"基础上，明确划分三个新阶段：Pre-Retrieval（检索前）、Retrieval（检索 模型，几乎是ROI最低的优化Hybrid+Reranker组合的收益，远大于单独使用任何一个这就是为什么我说AdvancedRAG是RAG演进光谱上"最值钱的一站"——投入最小，回报最大。 在单引擎实现（避免双写一致性）BM25tokenizer适配语言（中文用ik_max_word+ik_smart）Vector和BM25并行执行（不要串行）RRF的k值在GoldenSet上gridsearch优化单路超时降级
28310编辑于 2026-06-09 - 来自专栏多模态 / RAG / 知识图谱
RAG 系列 01 — Naive RAG
系列说明：这是RAG工程化系列第一篇，目标是把四代RAG（NaiveAdvancedModular/Agentic）逐一拆透。每篇聚焦一种范式，讲它真正能做什么、做不到什么、工程上怎么落地。 一、NaiveRAG到底是什么：先把定义讲清楚，否则后面全是糊涂账打开任何一篇RAG教程，你会看到几乎一样的描述："RAG就是先检索再生成"。这种描述等于没说。 NaiveRAG的严格定义是：Indexing+Retrieval+Generation三段式最小闭环，且每一段都没有任何针对性优化。 chunk"""lines=table_md.strip().split('\n')header='\n'.join(lines[:2])#表头+分隔行rows=lines[2:]chunks=[]rows_per_chunk 7.5多轮对话指代失败症状：用户：什么是RAG？
44422编辑于 2026-05-23 - 来自专栏多模态 / RAG / 知识图谱
RAG 系列 03 — Modular RAG
配套阅读：《RAG系列01—NaiveRAG》《RAG系列02—AdvancedRAG》《从NaiveRAG到AgenticRAG》引言：那个"if-else套了11层"的RAG项目2024年底，我帮一家金融科技公司做 RAG系统的codereview。 ModularRAG的本质，是把RAG从"线性管道"升级为"模块化图（Graph）"。 的主流选择：框架优点缺点适合LangGraph状态机式，调试友好学习曲线复杂控制流LlamaIndexQueryPipelineRAG原生抽象灵活性受限LlamaIndex用户DSPy可被compiler优化 你能不能画出当前RAG系统的完整模块图？如果不能在一张A4纸上画清楚——你的架构其实并不存在，只是代码在跑。你最近一次新增数据源花了多久？如果超过2周，升级ModularRAG的ROI远比你想象的高。
24910编辑于 2026-06-10 - 来自专栏多模态 / RAG / 知识图谱
RAG 系列 04 — Agentic RAG
配套阅读（按顺序）：《RAG系列01—NaiveRAG》《RAG系列02—AdvancedRAG》《RAG系列03—ModularRAG》《从NaiveRAG到AgenticRAG》引言：那个一周烧掉4 _is_research_intent(query),}#至少满足2个signal才用agenticreturnsum(signals.values())>=2[HIGHCONFIDENCE]这一层路由能把 留四个观点作整个系列的结尾：观点一：每一代RAG都有它的"甜蜜区"，超出甜蜜区强行升级，反而是退步。 真正厉害的RAG工程师，不是用最新模型、最复杂架构的人，是知道什么时候该停下来、什么时候该上手的人。 这个问题的答案，决定了你是RAG工程师还是RAG用户。
15800编辑于 2026-06-13 - 来自专栏机器学习原理
rag
在训练过程中，这两个编码器通过最大化正确文档和查询对的相似度来进行优化。 在成功检索到相关文档后，RAG的生成模型接管任务。 RAG工作流程 RAG的工作流程可以分为以下几个步骤： 用户查询：用户提出一个查询，系统首先会将这个查询传递给检索模型。 RAG技术的应用场景 RAG技术在众多实际应用场景中显示出其独特的优势，这是其他单一技术难以比拟的。下面我们详细探讨RAG技术的几个主要应用场景。 RAG技术的优势与挑战 RAG技术在很多方面展示了其显著的优势，但它也面临着一些挑战。以下我们将详细探讨RAG技术的优势和挑战。 有效的优化和并行处理技术可以在一定程度上改善这一问题，但仍需进一步的研究和改进。
67811编辑于 2024-06-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号