首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏大数据杂货铺

    全文检索、向量检索混合检索的比较分析

    全文检索 全文搜索是指将部分或全部文本查询与数据库中存储的文档进行匹配。与传统的数据库查询相比,全文搜索即使在部分匹配的情况下也能提供结果。 混合搜索的案例 混合搜索结合了全文搜索和矢量搜索的优点。它建立在全文搜索的可访问性、即输入即搜索体验的基础上,并集成了人工智能搜索支持的增强发现功能。 Elasticsearch 用户越来越多地使用不同类型信息的搜索检索 — BM25 用于文本,向量搜索用于密集向量。 混合搜索技术通常会提供更好的结果:对多个 BIER 数据集进行基准测试显示,结合 BM25 和基于 ELSER 的排名时,相关性有所提高,现在用户甚至可以更轻松地组合所有这些检索方法。 混合搜索将全文搜索的可访问性与人工智能实现的改进发现相结合。 混合搜索是现代搜索方法,将最先进的搜索功能统一到单个 API 后面。

    6.6K10编辑于 2024-04-24
  • 来自专栏Elastic Stack专栏

    改进 Elastic Stack 中的信息检索混合检索

    Elasticsearch ®还具有强大的词汇检索功能和丰富的工具来组合不同查询的结果。在本博客中,我们介绍了混合检索的概念,并探讨了 Elasticsearch 中可用的两种具体实现。 混合检索尽管现代训练管道产生了在零样本场景中具有良好性能的检索器模型,但众所周知,词汇检索器(例如 BM25)和语义检索器(例如 Elastic Learned Sparse Encoder)在某种程度上是互补的 我们进行了一些重叠测量,以检查弹性学习稀疏编码器、BM25 和各种密集检索器之间的这一假设,如表 1 所示。这为使用所谓的混合搜索提供了一些基本原理。接下来,我们研究混合搜索的两种显式实现。 我们对distilbert-base-v3进行了相同的网格搜索 和 minilm-l12-v3 每个模型都有相同的结论。 BEIR 基准测试的结果如表 3 所示。

    3.8K31编辑于 2023-07-20
  • Milvus + BGE-M3:Dense与Sparse向量混合检索技术解析

    "iPhone15ProMax"缺乏语义理解能力BGE-M3的出现改变了这一局面——一个模型同时生成两种向量,配合Milvus的混合检索能力,实现语义理解与精确匹配的完美融合。 三、BGE-M3核心技术3.1三种检索模式BGE-M3(BAAIGeneralEmbedding-Multi-Functionality,Multi-Linguality,Multi-Granularity 混合检索(RRF)0.890.840.7625关键发现:混合检索召回率提升7-18%精确率提升2-9%延迟增加约10ms(可接受)6.2场景适用性展开代码语言:PythonAI代码解释SCENARIO_ANALYSIS ={"问答系统":{"best_method":"混合检索(RRF)","reason":"问题包含语义信息,需深度理解"},"电商搜索":{"best_method":"混合检索(加权)","reason :Dense和Sparse检索可并行执行八、总结核心要点BGE-M3优势:一个模型同时生成Dense和Sparse向量,降低部署复杂度混合检索价值:融合语义理解和精确匹配,召回率提升7-18%RRF融合推荐

    39810编辑于 2026-05-09
  • 什么混合检索?在基于大模型的应用开发中,混合检索主要解决什么问题?

    混合检索是一种结合了关键字检索(稀疏检索)和向量检索(稠密检索)两种技术优势的搜索策略。 在基于大模型的应用开发(尤其是RAG(检索增强生成)系统)中,混合检索主要为了解决大模型“没记住”或“查不准”的问题。 混合检索的作用:在向量还没“学会”行业黑话时,关键字检索作为兜底,强行把包含“CXL”和“MHD”的段落捞回来喂给大模型,保证基础的专业性。 3.解决大模型的“幻觉”与信息来源权威性判定问题:大模型回答的依据必须来自最相关的段落。 总结对比表维度纯向量检索纯关键字检索混合检索场景示例“如何提高工作效率?”

    15910编辑于 2026-04-20
  • 来自专栏自然语言处理

    LevelRAG:突破查询重写瓶颈,提升混合检索效果

    主要问题包括: 查询重写的适用性 现有的查询重写技术大多只适用于密集检索器,导致在混合检索(结合稀疏检索、密集检索、网络搜索)中效果受限。 检索结果的完整性 & 准确性 混合检索可能会带来重复或矛盾的信息,影响最终答案质量。 稀疏检索器的优化问题 现有查询重写方法未能充分发挥稀疏检索器的优势,如何提高其检索精度仍是个难题。 2️⃣ 密集检索器(Dense Searcher) 适用于 模糊查询 & 语义检索。 通过 伪文档 增强语义信息。 3️⃣ 网络搜索引擎(Web Searcher) 用于补充本地数据库缺失的信息。 3. 检索必要性判断 & 动态选择检索器 不是所有查询都需要检索! 能否智能判断是否需要检索,还是直接生成答案? 自动选择最优的检索器组合,提高效率。 4. 模型压缩、并行计算、缓存机制等优化手段 总结 LevelRAG 通过: 高级检索器的 逻辑规划 低级检索器的 多检索融合 稀疏检索器的 查询优化 优化了 RAG 在混合检索场景中的查询重写和检索逻辑

    65010编辑于 2025-03-03
  • 来自专栏大数据生态

    「最佳实践」腾讯云 Elasticsearch 8.13.3 向量混合检索

    调用混合聚合检索 mix_aggs_resp = mix_aggs_search(es, index, knn) # 创建三列 col1, col2, col3 = st.columns {json_output}") counter += 1 counter = 1 with col3: st.write("### 混合检索聚合结果") 检索效果测试我们模拟用户在商城搜索栏输入一个手机型号:小米 12 pro max ● 向量检索结果可能会召回不相关的内容 ● 而使用 ES 的混合检索,利用前置过滤,在提高效率的同时,可以大幅提升召回率 ● ES 也支持在在混合检索场景使用聚合查询 10. 总结从检索效果可以直观看出,使用纯向量检索,往往是达不到业务需求的。如果想提升召回率,则需要配合混合检索,不仅可以提前过滤一些不相关的内容,对性能也有一定提升。

    1.4K76编辑于 2025-03-08
  • 来自专栏有文化的技术人

    RAG 检索全攻略:从原理到落地,一篇搞懂混合检索

    ❝做 RAG 系统,十个团队九个栽在检索上。本文把语义检索、关键词检索混合检索、Rerank 重排序一次讲清楚。 ❞ 先说结论 ❝「生产级 RAG 必须用混合检索。 」 不支持 支持 支持 「多语言混合」"Golang 内存泄漏排查" 支持 部分支持 支持 只有混合检索在所有场景下都能覆盖。 需要精确匹配:产品型号、法律条款、医学术语 亿级数据,ES 分布式更成熟 需要布尔查询、短语匹配等高级功能 六、混合检索怎么实现? 所以不用操心两路检索分数量纲不同的问题。 七、Rerank 重排序:从"差不多"到"真的准" 为什么还需要 Rerank? 混合检索的第一阶段(召回)追求的是「快」和「全」,精度是有限的。 ,但真正做好需要理解: 「语义检索」理解"你想问什么",但对精确术语无能为力 「关键词检索」擅长精确匹配,但对同义表述视而不见 「混合检索」是唯一的正确答案,关键在于选对技术路线 「Rerank」 是从

    1.2K10编辑于 2026-04-16
  • 来自专栏openclaw系列

    向量检索实战 —— OpenClaw 如何实现混合搜索(向量 + 全文)

    关键词:混合检索|向量数据库|SQLite FTS5|ONNX 嵌入|相似度归一化|候选重排序 在上一篇中,我们了解了 OpenClaw 记忆系统的配置体系。 为此,OpenClaw 构建了一套轻量但强大的混合检索引擎(Hybrid Search Engine),巧妙结合向量语义搜索与全文关键词匹配,在资源受限的边缘设备(如个人服务器)上也能提供接近商业 RAG 一、为什么需要混合检索3. 结语:混合检索是平衡的艺术 OpenClaw 的混合检索引擎,没有追求最前沿的 ANN 算法或最大规模的向量库,而是在实用性、性能与准确性之间找到最优解。

    2K21编辑于 2026-03-14
  • 来自专栏产品笔记

    RAG智能问答系统为什么要使用混合检索

    检索增强生成简称RAG(Retrieval-augmented Generation),RAG为大语言模型安装了知识外挂,基础大语言模型不用训练,通过RAG技术与大语言模型结合在回答问题的时候,可以通过企业内部的知识库检索相关和最新的信息来生成内容 01 — 为什么要用混合检索? 在RAG智能问答系统中,RAG检索环节中的检索的方式采用向量检索,即通过语义相关度匹配的方式进行检索。 在文本搜索场景,首先需要确保最相关的结果能够出现在检索的结果中。向量检索和关键词检索各有优势,而引入混合检索结合了两种搜索技术的优点,并且弥补了各自的缺点。 02 — 什么是混合检索混合检索是结合了两种或者多种搜索算法提高搜索结果相关性的搜索技术。而在RAG系统中,混合搜索最常见指向量检索和关键词检索的组合。 不同的检索系统在寻找文本中各自擅长之间存在不同的联系,没有任何一种检索模式能够适用全部的情景,混合检索通过多个不同的检索系统组合,结合不同检索系统的优势,实现多个检索技术直接的互补。

    85210编辑于 2024-03-06
  • 来自专栏desperate633

    第2-3检索数据检索检索排序数据

    这两课主要介绍sql中利用select语句对数据的简单检索。 下面分别讨论不同类型的检索 检索列 单个列 select prod_id from Products; 多个列 select prod_id, prod_name, prod_price from Products ; 所有列 select * from Products; 检索不同值 的列 select distinct vend_id from products; 检索前几列或者后几列 select prod_name from products limit 5; select prod_name from products limit 5 offset 5; 检索排序数据 单个列排序 select prod_name

    1.2K20发布于 2018-08-22
  • 来自专栏方才编程

    ElasticSearch实战系列02:中文+拼音混合检索,并高亮显示

    本文导读 本文仿照QQ的用户搜索,搭建一个中文+拼音的混合检索系统,并高亮显示检索字段。 全文共分为以下几部分: 1、项目简介,包括需求描述与分析等; 2、项目开发,通过两个版本的index,验证并完成需求; 3、从分词和高亮原理入手,深度分析高亮显示问题; 4、SpringBoot+RestHighLevelClient 【ps:留言区附完整版项目源码地址】 01 项目简介 本项目基于ElasticSearch 7.7.1,analysis-pinyin 7.7.1,参考QQ的用户搜索效果,完成一个中文+拼音的混合检索系统 中文+首字母+全拼检索 其实QQ的用户检索是有很多限制的,比如说首字母检索时,必须从第一个字开始匹配【输入“gz”,可以检索到“关注我”,但是不能检索到“我关注”】; 再比如说全拼+首字母检索时,全拼必须在前面 1.2 检索需求描述 参考QQ,列出“用户检索系统”的需求如下: 1)支持首字母检索; 2)支持首字母+全拼检索3)支持中文+首字母+全拼混合检索; 4)检索词有中文,则必须包含; 5)高亮显示检索命中词

    5.4K20发布于 2020-11-13
  • 来自专栏育种数据分析之放飞自我

    混合模型学习笔记3

    3. 所以数据非平衡时,混合线性模型更适合分析。 ? 4. arrow from the first ## factor in my list to the second, so assign something to M[2,1] M[2, 1] <- M[3,2 M[2, 1] <- M[3, 1] <- M[4, 2] <- M[5, 2] <- "" M[6, 3] <- M[6, 4] <- M[6, 5] <- "" ## Make the diagram 混合线性模型学习笔记1 混合线性模型学习笔记2

    53120发布于 2020-05-13
  • 来自专栏Langchain

    【LangChain系列3】【检索模块详解】

    用于日志记录、监控、流传输和其他任务;1-3、特点LangChain的特点如下:大语言模型(llm): LangChain为自然语言处理提供了不同类型的模型,这些模型可用于处理非结构化文本数据,并且可以基于用户的查询检索信息 1-5、安装pip install langchain二、检索模块详解许多LLM应用程序需要用户特定数据,这些数据不是模型的训练集的一部分. 完成这一任务的主要方法是通过检索增强生成(RAG). 依赖包安装:pip install pymilvus2-5、检索检索器: 一旦数据在数据库中,您仍然需要检索它. LangChain支持许多不同的检索算法,并且是我们增加最多价值的地方之一. 这些算法包括:父文档检索器: 允许您为每个父文档创建多个嵌入,允许您查找较小的块但返回较大的上下文.自查询检索器: 用户的问题通常包含对不仅仅是语义的东西的引用,而是表达一些最好用元数据过滤器表示的逻辑 .自查询允许您从查询中解析出语义部分和查询中存在的其他元数据过滤器.集合检索器: 有时您可能希望从多个不同的来源或使用多个不同的算法检索文档.集合检索器使您可以轻松实现此目的.附录1、报错:cannot

    1.6K10编辑于 2025-01-07
  • 来自专栏AI进修生

    HybridRAG:混合 RAG 引擎 - 知识图谱 + 向量检索!比 GraphRAG 更好!

    我们都听说过检索增强生成(RAG),许多人使用 RAG 因为它能够增强语言模型的功能,通过结合检索和生成处理来提高准确性,减少幻觉,并且更加经济高效。 通过集成基于向量和图形的检索方法,这将使框架能够以更高的精度和可靠性处理复杂数据。这使其成为传统 RAG 方法的重大进步。在这里,我想介绍一个已经实现这种混合 RAG 的框架——HybridRAG。 Vector RAG 和 GraphRAG 系统整合到一个新框架中的混合 RAG 将会提升不同 RAG 方法的能力。 为了解决这个问题,我们看到了混合 RAG,它结合了知识图谱和传统 RAG 技术来更好地进行信息提取。 v=rtmDQO3ESoE [2] arxiv:https://arxiv.org/abs/2408.04948#

    3.7K02编辑于 2024-12-02
  • 来自专栏大数据生态

    「最佳实践」腾讯云 ES 8 向量化语义混合检索测试指南

    3. {json_output}") counter += 1 counter = 1 with col3: st.write("### 混合检索聚合结果 检索效果测试 我们模拟用户在商城搜索栏输入一个手机型号:小米 12 pro max ● 向量检索结果可能会召回不相关的内容 ● 而使用 ES 的混合检索,利用前置过滤,在提高效率的同时,可以大幅提升召回率 ● ES 也支持在在混合检索场景使用聚合查询 8. 总结 从检索效果可以直观看出,使用纯向量检索,往往是达不到业务需求的。如果想提升召回率,则需要配合混合检索,不仅可以提前过滤一些不相关的内容,对性能有一定提升。

    1.4K4039编辑于 2024-04-11
  • 来自专栏DeepHub IMBA

    深入RAG架构:分块策略、混合检索与重排序的工程实现

    光是这一步就解决了大约40%的检索故障。垃圾进垃圾出——chunk 质量上去了检索效果自然跟着上去。 Level 3混合搜索 假设这样一个查询:"What's our PTO policy for employees with 5+ years tenure?" 所以拿它做全量检索不现实——一万篇文档逐条打分太慢了。但从20个候选里精选3个?这个开销完全可以接受。 加入 reranking 之后"正确 chunk 出现在前3"的命中率从68%提到了89%。 先把 Level 2 和 Level 3 做扎实。 Level 5:生产级RAG 前面几个级别都在提升检索质量。生产级RAG要处理的是另一件事:检索已经尽力了,但还是失败了,怎么办? 真正该问的不是"怎么杜绝检索失败",而是"检索失败的时候,系统该怎么表现"。 护栏 上下文不够的时候,别让LLM自己编。

    42910编辑于 2026-02-27
  • 来自专栏产品笔记

    RAG智能问答系统为什么要使用混合检索?(完整版)

    01 — 为什么要用混合检索? 基于语义的向量检索 在RAG智能问答系统中,RAG检索环节中的检索的方式采用向量检索,即通过语义相关度匹配的方式进行检索。 在文本搜索场景,首先需要确保最相关的结果能够出现在检索的结果中。向量检索和关键词检索各有优势,而引入混合检索结合了两种搜索技术的优点,并且弥补了各自的缺点。 02 — 什么是混合检索混合检索是结合了两种或者多种搜索算法提高搜索结果相关性的搜索技术。而在RAG系统中,混合搜索最常见指向量检索和关键词检索的组合。 ,通常会支持混合检索、向量检索和全文检索。 作为平台用户可以选择使用哪种检索方式; 混合检索结合全文检索和向量检索的的优势,对召回的结果进行综合排序,让大模型生成的结果更好,也是各个平台优先推荐的;

    3.8K10编辑于 2024-03-25
  • 来自专栏DeepHub IMBA

    RAG中的3个高级检索技巧

    RAG系统检索的文档可能并不总是与用户的查询保持一致,这是一个常见的现象。 本文将探讨三种有效的技术来增强基于rag的应用程序中的文档检索,通过结合这些技术,可以检索与用户查询密切匹配的更相关的文档,从而生成更好的答案。 查询扩展 查询扩展指的是一组重新表述原始查询的技术。 一盘情况下适配器会插入到预训练模型层之间的小型前馈神经网络中,所以训练适配器的目标是更改嵌入查询,以便为特定任务生成更好的检索结果。 嵌入适配器是一个可以在嵌入阶段之后和检索之前插入的阶段。 # 3. How much debt does the company have? Is it increasing or decreasing? # 4. query_embedding) return torch.cosine_similarity(updated_query_embedding, document_embedding, dim=0) 3

    1.3K10编辑于 2024-01-23
  • 向量数据库如何实现混合检索?腾讯云方案为何成为企业首选?

    摘要 在AI时代,非结构化数据检索面临语义理解与精准匹配的双重挑战。混合检索(向量+标量字段过滤)通过结合语义相似度与结构化条件筛选,成为破局关键。 本文解析混合检索技术原理,对比主流方案差异,并重点推荐腾讯云向量数据库的混合检索能力及其商业价值。 正文 当企业需要同时实现“语义理解”和“关键词过滤”时,传统向量数据库的单一能力已显不足。 召回率与效率平衡 需复杂排序算法 二、腾讯云混合检索方案解析 2.1 核心能力矩阵 腾讯云向量数据库通过三大技术创新实现混合检索突破: 双引擎架构: 稠密向量引擎:支持768 维向量,700万QPS的毫秒级响应 稀疏向量引擎:基于SPLADE算法,3万维稀疏向量检索精度提升40% 智能路由算法: 动态选择前过滤/后过滤路径,相比传统方案降低30%计算资源消耗 ,混合检索已成为企业构建知识中枢的核心能力。

    60710编辑于 2025-12-16
  • 混合检索时代来临!如何选择最优解决方案?腾讯云ES全维度测评

    导语 随着企业数据量激增,单一关键词检索已无法满足精准搜索需求。混合检索结合传统文本匹配与AI向量技术,成为提升搜索体验的新引擎。本文将揭秘如何通过腾讯云ES快速构建高性能混合检索系统。 一、混合检索为何成为技术刚需? 混合检索通过同时执行文本搜索(BM25算法)和向量搜索(语义匹配),显著提升搜索结果的相关性。 成本优势明显 计费模式 适用场景 参考价格 包年包月 长期稳定业务 新客首购6.5折起 Serverless按量计费 流量波动大业务 1元享10U资源包(支持3个月轻量使用) 3. 四、实战建议:如何高效落地混合检索? 结语 混合检索已成为企业数字化升级的必备能力。

    31310编辑于 2026-01-14
领券