- 综合排序
- 最热优先
- 最新优先
- 来自专栏【腾讯云开发者】
RAG优化字典：20种RAG优化方法全解析
关注腾讯云开发者，一手技术干货提前解锁 本文系统性地梳理了 RAG（Retrieval-Augmented Generation，检索增强生成）系统从基础到高级的 20 种优化方法，涵盖分块策略、检索增强 、查询优化、生成质量控制等多个维度。 # ========== 方法10：反馈回路RAG（摘自 11_反馈回路机制的rag.ipynb）========== def assess_feedback_relevance(query, doc_text CRAG 系统 动态评估并纠正检索质量 20 RL增强RAG 系统 强化学习优化全流程 优化方法选择指南 分块优化：检索不够精准时，优先考虑语义分块（1）、命题分块（13）或切块大小评估（2） 检索增强：融合检索（15）性价比高、易落地；图RAG（16）适合概念与关系密集的领域。 查询优化：HyDE（18）对短查询、抽象问句效果好；查询转换（6）适合复杂、多子问题查询。
64611编辑于 2026-03-06 - 来自专栏自然语言处理
【RAG最新研究】优化RAG系统的最佳实践与深度解析
RAG有哪些相关研究？ 在RAG领域，已经有不少研究为这篇论文奠定了基础。 RAG系统的优化： Wang et al. (2024) 提出了优化检索组件的策略，比如改进文档索引和检索算法，以减少延迟并保持准确性。 通过这些步骤，论文系统地研究了RAG系统的架构，并提出了具体的改进措施，为开发和优化RAG系统提供了实证基础和理论支持。 论文做了哪些实验？ 对比了有无RAG模块的模型（w/o_RAG）与包含RAG模块的模型之间的事实性表现。 定性分析： 提供了在TruthfulQA和MMLU数据集上由模型变体生成的示例。 基于74次实验的结果，论文总结了关键发现，并提出了对比上下文学习RAG和焦点模式RAG在性能上的优越性。
1K10编辑于 2025-01-16 - 来自专栏云云众生s
RAG和模型优化：AI实用指南
AI工程实践指南：探索LLM/SLM集成，利用MoE和Co-LLM优化代码生成。RAG提供可扩展替代方案，避免静态微调，提升代码质量。 ，同时平衡模型选择、性能优化、安全性和成本效益。 集成 LLM 和 SLM 通过利用两者的优势，将小型语言模型 (SLM) 和大型语言模型 (LLM) 集成到软件工程任务中，可以优化效率。 这种方法通过将较简单的任务分配给较小的模型，将复杂的任务分配给较大的模型来优化效率。 在 AI 软件开发平台中部署 LLM 并使用 RAG 对其进行增强可以提高准确性，消除幻觉并优化资源效率。
37100编辑于 2025-03-16 llm与RAG的学习与优化
本文首发个人博客：llm与RAG的学习与优化 - 黑白の世界欢迎点击，评论前言这是一篇拖延了半年的文章。 为了从“能用”到“好用”，我们需要一系列的调优手段来优化召回效果。 预处理：优化数据质量分块 (Chunking)将文档切分成合适的、独立的语义单元是RAG中最关键的第一步。分块的质量直接影响向量的质量和检索的精度。**为什么需要分块？ 这是提升RAG效果最有效的手段之一。结语以上内容大概就是笔者最近在大模型学习，RAG开发与特定领域向量数据库构建业务中的一些总结与优化心得。同时不禁感叹，大模型从22年到如今的发展迅速。 可以看到本文在谈到RAG调优的格式突然有些变化。因为到这里笔者有些懒了，手写了思路与大纲后，直接让AI优化，然后再手改一番。本文还只是单纯的 RAG知识库，或者说向量数据库的相关技术点。
55510编辑于 2025-09-01RAG 2.0 的索引与召回机制优化
很多做RAG的朋友可能都有过这样的经历：兴冲冲地把系统搭起来满怀信心地让它回答几个问题，结果它要么答非所问，要么一脸无辜地说"抱歉我不知道"。 今天我们就来聊聊RAG 2.0在索引与召回机制上的优化思路，看看怎么才能让RAG真正派上用场。 向量召回的困境与破局之道 向量召回命中率低这个问题，说起来简单，真正解决起来却让人头疼。 未来重排序很可能成为RAG系统的标配组件，就像现在全文索引是必备的一样。 值得注意的是，延迟交互这条路还在快速发展。 结语 RAG 2.0的索引与召回机制优化，本质上是在效果和效率之间找平衡。 多路召回解决了单一检索方式的局限，张量排序在保持效果的同时提升了效率，文档预处理则为整个系统打下了高质量的数据基础。 RAG技术还在快速演进，但无论怎么变，扎实的基础功永远是关键，是吧？
22210编辑于 2026-02-28- 来自专栏Linyb极客之路
RAG 的检索模块是怎么优化的？
RAG（Retrieval-Augmented Generation）中的检索模块是整个系统的关键环节，直接影响生成结果的质量。为了提升检索的准确性、相关性和效率，业界采用了多种优化策略。 以下是 RAG 检索模块的主要优化方法： 一、向量检索优化 更优的嵌入模型（Embedding Model） 使用领域微调的嵌入模型（如 BGE、E5 等），比通用模型（如 Sentence-BERT） 四、索引与架构优化 分块策略优化 合理的文本分块大小（如 256-512 tokens）。 使用滑动窗口重叠分块，避免信息割裂。 基于语义边界（如段落、标题）进行智能分块。 基于反馈的持续优化 利用用户反馈或生成结果质量信号，迭代优化检索模型或策略。 ，RAG 的检索模块能够更精准地找到与用户问题相关的上下文，为生成模块提供高质量输入，从而显著提升整体系统表现。
4710编辑于 2026-04-14 - 来自专栏喔家ArchiSelf
RAG的10篇论文-2024Q1
RAG与微调：流水线、权衡和一个农业案例的研究 论文标题：RAG vs Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture 针对非常见知识的微调与RAG对比 论文标题：Fine Tuning vs. 具体而言，在代码编写、数学逻辑推理、创意写作以及具体化任务规划等方面，模型的平均评分分别提高了13.63%、16.96%、19.2%和42.78%，展现了其卓越的性能优化效果。 8. 10. 此外，我们还引入了一种精细自我调整机制，它根据一致性和相关性的评分，对生成的回答进行迭代优化，以提升其质量。
2.7K10编辑于 2024-04-22 - 来自专栏掘金安东尼
再靠近亿点点，RAG 优化策略
本篇来看下 RAG 的架构优化策略 利用知识图谱（KG）进行上下文增强 在现有的向量数据库中，典型的上下文增强可能面临挑战：难以捕捉长距离的关联知识，信息稀疏性高（尤其是当LLM上下文窗口有限时）。 Self-RAG 的重要创新 Self-RAG 的 Reflection tokens (反思字符) 通过生成反思字符这一特殊标记来检查输出。 Self-RAG 的推理过程 Self-RAG 通过运用反思性标记对自己的输出进行自评，这使得它在推理过程中展现出调整与适应能力。 模型可根据具体任务进行定制化调整，它通过增加检索的文段数量来优化对事实准确性的重视，或是在开放性任务中突出创新能力。此模型能决定何时进行文段的检索，或者依据预设的阈值来启动该过程。 小结 本篇文章介绍了 RAG 的架构优化策略，主要包括利用知识图谱进行上下文增强以及让大模型对召回结果进行筛选的方法。
1K10编辑于 2024-04-13 - 来自专栏DeepHub IMBA
RAG流程优化（微调）的4个基本策略
在本文中，我们将介绍使用私有数据优化检索增强生成(RAG)的四种策略，可以提升生成任务的质量和准确性。 通过使用一些优化策略，可以有效提升检索增强生成系统的性能和输出质量，使其在实际应用中能够更好地满足需求。 RAG简单回顾 RAG主要有两个过程。 我们先总结RAG过程中的可以优化的关键点: 1、分块方法:优化块大小确保有意义和上下文相关的数据段。 2、嵌入模型:选择和微调模型以改进语义表示。 3、向量搜索方法:选择有效的相似度量和搜索参数。 = [] for line in lines[1:10]: # Only 10 first questions if line.strip(): # Ensure the 优化RAG的过程是需要持续的测试的，从失败中学习，以及做出明智的调整。需要采用迭代方法，才能定制出适合自己的AI解决方案，更有效地满足特定需求。
2.2K10编辑于 2024-07-01 - 来自专栏AIGC大模型应用
RAG性能优化杀器，引入上下文检索！
但传统 RAG 系统有一个显著的局限：它们往往破坏上下文。传统 RAG 中的上下文问题在传统 RAG 中，文档通常被拆分为较小的块，以便于检索。 我们尝试了 5、10 和 20 个块，发现 20 个块是最有效的选项，但值得根据你的用例进行实验。始终进行评估：通过传递上下文化的文本块并区分上下文和块内容，生成的响应可能会得到改进。 我们的实验表明，跨多个领域，添加重新排序步骤进一步优化了检索。具体而言，我们发现，重新排序后的上下文嵌入和上下文 BM25 将前 20 个块检索未命中率降低了 67%（5.7% → 1.9%）。 以下是我们的发现摘要：嵌入+BM25 优于仅使用嵌入；Voyage 和 Gemini 是我们测试过的最佳嵌入模型；向模型传递前 20 个文本块比传递前 10 个或前 5 个更有效；为文本块添加上下文极大地提高了检索准确性 关于前 10 和前 5 个检索结果的细分以及每个数据集的示例问题和答案，请参见附录 II。参考：文本块拆分策略的进一步阅读，参考此链接和此链接。
1.1K11编辑于 2024-10-02 - 来自专栏Python与算法之美
10，模型的优化
搜索超参数空间以优化超参数需要明确以下方面： 估计器 超参数空间 交叉验证方案 打分函数 搜寻或采样方法（网格搜索法或随机搜索法） 优化模型的常见方法包括 网格搜索法，随机搜索法，模型特定交叉验证， 信息准则优化。 使用网格搜索法或随机搜索法可以对Pipeline进行参数优化，也可以指定多个评估指标。 ? ? 三， 模型特定交叉验证 一些特定的模型，sklearn构建了一些内部含有交叉验证优化机制的估计器。 它们主要是在linear_model模块。 linear_model.LassoLarsIC 采用了信息准则进行优化。
77421发布于 2020-07-17 - 来自专栏JavaEdge
RAG性能优化杀器，引入上下文检索！
但传统 RAG 系统有一个显著的局限：它们往往破坏上下文。 传统 RAG 中的上下文问题 在传统 RAG 中，文档通常被拆分为较小的块，以便于检索。 尝试了 5、10 和 20 个块，发现 20 个块是最有效的选项，但值得根据你的用例进行实验。 始终进行评估：通过传递上下文化的文本块并区分上下文和块内容，生成的响应可能会得到改进。 实验表明，跨多个领域，添加重新排序步骤进一步优化了检索。 重新排序后的上下文嵌入和上下文 BM25 将前 20 个块检索未命中率降低了 67%（5.7% → 1.9%）。 发现摘要： 嵌入+BM25 优于仅使用嵌入； Voyage 和 Gemini 是测试过的最佳嵌入模型； 向模型传递前 20 个文本块比传递前 10 个或前 5 个更有效； 为文本块添加上下文极大地提高了检索准确性 负责： 中央/分销预订系统性能优化 活动&券等营销中台建设 交易平台及数据中台等架构和开发设计 车联网核心平台-物联网连接平台、大数据平台架构设计及优化 LLM Agent应用开发 区块链应用开发
40610编辑于 2025-06-01 - 来自专栏Datawhale专栏
RAG 作者：RAG 已死，RAG 万岁！
一个具有更大上下文窗口的新模型问世，社交媒体上便会充斥着“RAG 已死”的宣言。 该 LinkedIn 帖子： 一些值得注意的 RAG“死亡宣告”包括： 2023 年 5 月：Anthropic 的 Claude，上下文窗口达 10 万 token 2024 年 2 月：Google 底线是：您同时需要长上下文 LLM 和 RAG。 但既然“RAG”这个术语似乎如此具有争议性，那我们不妨这样说： 我们不必非得称之为 RAG。 我们可以就叫它 检索 (retrieval)。 RAG 提供了相当于直接翻到相关页面的能力。处理更多 token 不仅更慢，而且极其低效，并且比使用 RAG 精准定位所需信息要昂贵得多。 RAG、微调和大型上下文窗口在 AI 中也是如此。 结论 我们不需要在 RAG 与长上下文窗口、微调或 MCP 之间做出选择。
70710编辑于 2025-04-24 - 来自专栏AI智能体从入门到实践
构建AI智能体：优化 RAG 检索精度：深入解析 RAG 中的五种高级切片策略
前面几篇文章已经深入讨论过LangChain、RAG架构的细节，对RAG有了基础的了解，今天重点梳理一下RAG的切片策略；一、什么是RAG切片 给定一个场景，我们有一本非常厚的百科全书 所以，到底什么是RAG切片？ RAG切片就是把一份长长的文档（如PDF、Word），合理地切割成一个个小块（Chunks）的过程。 团体票适用于10人以上团队，享受团体折扣。## 二、购票渠道与流程### 1. 官方购票渠道购票渠道以官方渠道为主，包括上海迪士尼官网、官方App、微信公众号及小程序。 团体票适用于10人以上团队，享受团体折 扣。 块 3 (214 字符): ## 二、购票渠道与流程### 1. 运行你的RAG管道，评估答案的质量。评估答案是否准确？检索到的上下文是否真正相关？ 迭代优化：选择效果最好的那种策略。
1.4K32编辑于 2025-11-11 - 来自专栏全栈开发工程师
【RAG】001-RAG概述
补充1：RAG 基本逻辑 补充2：RAG 知识库基本逻辑 一、RAG 介绍 1、LLM 的主要局限性 大语言模型（LLM）尽管功能强大，但仍存在以下明显的局限性： 时效性问题：模型的知识在预训练后就固定了 系统时，需要注意以下几点： 数据质量控制： 确保知识库数据的准确性和时效性 定期更新和维护知识库内容 建立数据质量审核机制 性能优化： 选择合适的向量数据库 优化检索策略和参数 合理设置缓存机制 系统监控： 跟踪系统响应时间 监控检索准确率 收集用户反馈并持续优化 三、RAG vs Fine-tuning（微调） 1、两种方法的基本概念 RAG： 通过实时检索相关信息来增强模型输出 ： 格式化输出 添加引用来源 质量检查 3、性能优化策略 3.1 检索优化 索引优化： 选择合适的索引算法 定期重建索引 优化检索参数 缓存策略： 热点查询缓存 结果集缓存 智能预加载 资源调优： 硬件配置优化 负载均衡 服务扩缩容 4、图示
75010编辑于 2025-03-25 - 来自专栏Java知识点
第10章_索引优化与查询优化
虽然 SQL 查询优化的技术有很多，但是大方向上完全可以分成 物理查询优化 和 逻辑查询优化 两大块。 物理查询优化是通过 索引 和 表连接方式 等技术来进行优化，这里重点需要掌握索引的使用。 关联查询优化 # 3.1 数据准备 # 分类 CREATE TABLE IF NOT EXISTS `type` ( `id` INT(10) UNSIGNED NOT NULL AUTO_INCREMENT ` INT(10) UNSIGNED NOT NULL AUTO_INCREMENT, `card` INT(10) UNSIGNED NOT NULL, PRIMARY KEY (`bookid`) 优化是必须的。 # 9.2 前缀索引对覆盖索引的影响 结论： 使用前缀索引就用不上覆盖索引对查询性能的优化了，这也是你在选择是否使用前缀索引时需要考虑的一个因素。 # 10.
83630编辑于 2023-08-02 - 来自专栏机器学习原理
rag
在训练过程中，这两个编码器通过最大化正确文档和查询对的相似度来进行优化。 在成功检索到相关文档后，RAG的生成模型接管任务。 RAG工作流程 RAG的工作流程可以分为以下几个步骤： 用户查询：用户提出一个查询，系统首先会将这个查询传递给检索模型。 RAG技术的应用场景 RAG技术在众多实际应用场景中显示出其独特的优势，这是其他单一技术难以比拟的。下面我们详细探讨RAG技术的几个主要应用场景。 RAG技术的优势与挑战 RAG技术在很多方面展示了其显著的优势，但它也面临着一些挑战。以下我们将详细探讨RAG技术的优势和挑战。 有效的优化和并行处理技术可以在一定程度上改善这一问题，但仍需进一步的研究和改进。
60411编辑于 2024-06-27 - 来自专栏自然语言处理
RAG Logger：RAG日志记录工具
您听说过 RAG Logger 吗？ 它是一款专为检索增强生成 (RAG) 应用程序设计的开源日志记录工具！ 据说它可以作为 LangSmith 的轻量级替代方案，满足 RAG 特定的日志记录需求。 查询、搜索结果、LLM 交互和性能指标可以以 JSON 格式记录。 特点 通过查询跟踪详细了解用户问题！ 通过逐步性能监控查找并优化瓶颈！ 基于 JSON 的日志格式的结构化存储和每日日志配置使数据管理变得轻松！ RAG Logger 为 RAG 应用程序的性能监控和调试提供了强大的支持，对吗？ 请参阅此处的详细信息： RAG Logger GitHub 仓库
31110编辑于 2025-01-07 - 来自专栏大模型应用开发
10 万文档干崩 RAG？这套架构救了我
为一家医药科技公司开发检索增强生成（RAG）系统刚满三个月，一切就全乱套了。 一家手握 10 万份医疗文献、病例报告的医疗机构，结果整个搜索架构直接被数据量压垮。 这次踩坑让我对 RAG 系统的认知彻底颠覆，现在就把这套能支撑 10 万份医疗文档、响应时间不足一秒的架构原封不动分享给你 —— 连可直接跑的代码都准备好了。 问题不只是数据量 —— RAG 系统有三个相互关联的瓶颈，而且会呈指数级叠加：数据摄入流水线、检索准确性、生成质量。一个优化不当，另外两个就会跟着崩盘。 从小处着手，聪明扩容如果你也在搭医疗领域的 RAG 系统，听我一句劝：别一上来就冲 10 万文档。先从 1000 份医疗文献开始，把基础打牢，监控好每一个指标。然后逐步扩容，同时盯紧每个瓶颈。 我分享的这套架构能扛住 10 万份医疗文档，是因为我先用小数据集踩了三个月的坑。每一个优化点，都来自真实的医疗场景生产问题，而不是纸上谈兵的最佳实践。
52820编辑于 2025-11-28 - 来自专栏大数据杂货铺
图与矢量 RAG — 基准测试、优化手段和财务分析示例
Neo4j 和 WhyHow.AI 团队探索了图和矢量搜索系统如何协同工作以改进检索增强生成 （RAG） 系统。 使用财务报告 RAG 示例，我们探索了图和矢量搜索之间的响应差异，对两种类型的答案输出进行了基准测试，展示了如何通过图结构优化深度和广度，并探索了为什么将图和矢量搜索结合起来是 RAG 的未来。 是否针对广度或深度进行优化取决于具体业务场景或执行查询的用户角色，并且可以根据具体业务场景或执行查询的用户角色进行定制。 例如，面向消费者的通用研究平台最初可能更有兴趣针对广度搜索进行优化，在发现用户正在深入研究特定主题后，会逐渐针对深度搜索进行优化。 相比之下，律师使用的面向内部的法律 RAG 平台可能从一开始就针对深度搜索进行更多优化。还可以通过允许搜索系统根据用户的风格和偏好针对广度或深度进行优化来实现 RAG 的个性化。
57710编辑于 2024-06-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号