首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏大数据杂货铺

    全文检索、向量检索和混合检索的比较分析

    全文检索 全文搜索是指将部分或全部文本查询与数据库中存储的文档进行匹配。与传统的数据库查询相比,全文搜索即使在部分匹配的情况下也能提供结果。 Elasticsearch 用户越来越多地使用不同类型信息的搜索检索 — BM25 用于文本,向量搜索用于密集向量。 混合搜索技术通常会提供更好的结果:对多个 BIER 数据集进行基准测试显示,结合 BM25 和基于 ELSER 的排名时,相关性有所提高,现在用户甚至可以更轻松地组合所有这些检索方法。

    6.3K10编辑于 2024-04-24
  • 来自专栏啦啦啦啦前端

    信息检索格式 布尔检索

    信息检索格式 布尔检索式 名称 符号 表达式 功能 逻辑与 * 或and AB 同时含 有提问词A和B的文献,为命中文献 逻辑或 + 或or A+B 凡是含有提问词A或B的文献,为命中文献 逻辑非

    1.6K40编辑于 2023-02-11
  • 来自专栏算法与编程之美

    网页|高级检索与专业检索

    1、高级检索 高级检索也称命令检索,是相对于基本检索而言,高级检索可以让你使用多于基本检索的标准来精炼检索,使检索信息更加详细,搜索出的结果可用性也更大。 ? 图1.1 百度高级检索示例图 ? 图1.2 知网高级检索示例图 使用高级检索可以直接根据示例图所示,搞清楚查找资料的关系后,然后根据高级检索的相关内容直接输入逻辑关系搜索从而精确搜索信息。 图1.3 知网高级检索示例图2 2、专业检索 专业检索就是运用检索表达式实现的检索方式。这种检索方式可以让通过运用检索字段精确检索需要的内容。 ? 图2.1 知网专业检索示例图 百度专业检索直接在搜索框输入检索式即可。 图2.4 示例2检索结果 结语 运用高级检索和专业检索可以让搜索更加详细。

    4.3K20发布于 2020-07-16
  • 来自专栏AI研思录

    颠覆传统检索:RAPTOR检索树提升检索准确率20%!

    然而,现有的检索增强方只能检索几个简短的、连续的文本块,这对于需要整合文本多个部分的知识的问题是不够的,限制了它们表示和利用大规模语义结构的能力。 这篇文章提出了一种新颖的方法——检索树,即考虑了广泛的主题理解,也考虑了细粒度的细节信息。 在推理时,使用RAPTOR模型从这棵树中进行检索,在不同抽象层次上整合信息,以跨越较长文档进行理解。 采用递归聚类和汇总技术,RAPTOR创建了一个分层树结构,能够跨检索语料库的各个部分综合信息。在查询阶段,RAPTOR 利用此树结构进行更有效的检索。 实验表明,使用递归总结的检索方法在多个任务上相较于传统的检索增强语言模型提供了显著的改进。在涉及复杂、多步骤推理的问题解答任务中,展示了最优的结果。

    75410编辑于 2025-02-20
  • 来自专栏DeepHub IMBA

    RAG系统文本分块优化指南:9种实用策略让检索精度翻倍

    检索增强生成(Retrieval-Augmented Generation, RAG)技术通过将外部知识检索与大语言模型生成能力相结合,实现了基于检索文本块(chunk)上下文的高质量内容生成。 文本块作为可管理的嵌入、索引和检索单元发挥着核心作用。检索系统通过这些单元为查询找到相关上下文,相较于将完整文档传递给生成模型,传递最相关的文本段落在计算效率和响应质量方面都具有明显优势。 该过程的目标是将文档重新组织为多个部分,使RAG系统能够根据输入查询高效检索最相关的内容片段。 RAG系统的工作机制是在推理阶段对查询进行嵌入编码,然后从向量数据库中检索前k个最相关的文本块。 该策略支持多粒度访问模式,用户可以从广泛的主题概念深入到具体的细节内容,实现灵活的信息检索。 {"text_chunks": text_chunks, "tables": tables, "images": images} result = modality_chunk(pdf_file) 9

    1.5K11编辑于 2025-08-20
  • 来自专栏大猪的笔记

    检索日志

    有时需要在大量日志中查找某个关键字。可用以下命令: find . -name "86??"|xargs grep -rn "get_web not hit cache" 从日志命名为 86xx的文件中

    69140发布于 2019-11-22
  • 来自专栏desperate633

    第2-3课 检索数据检索检索排序数据

    这两课主要介绍sql中利用select语句对数据的简单检索。 下面分别讨论不同类型的检索 检索列 单个列 select prod_id from Products; 多个列 select prod_id, prod_name, prod_price from Products ; 所有列 select * from Products; 检索不同值 的列 select distinct vend_id from products; 检索前几列或者后几列 select prod_name from products limit 5; select prod_name from products limit 5 offset 5; 检索排序数据 单个列排序 select prod_name

    1.1K20发布于 2018-08-22
  • 来自专栏机器学习、深度学习

    行人检索

    quadruplet network for person re-identification CVPR2017 https://arxiv.org/abs/1704.01719 本文使用深度学习进行行人检索

    1K20发布于 2019-05-26
  • 来自专栏技术研究和应用

    【向量检索研究系列】本地向量检索(下)

    1 背景上一篇文章《向量检索研究系列:本地向量检索(上)》介绍了如何加快向量相似度计算,但是一般的向量检索流程还包括对计算结果进行排序,以及有必要的话,在计算相似度之前可以对向量库中的向量进行过滤筛选( 图片2.1 向量过滤把广告通过模型转成向量后,向量应该关联广告的一些基本信息,广告检索条件是基于这些广告属性的,检索的时候可以根据检索条件在向量关联的广告信息中进行向量的筛选过滤。 检索时把检索条件在第一个Map中查询到满足检索条件的广告ID列表,再根据ID列表从第二个Map中取出对应向量列表。大致结构可以参考2.2中向量存储方案图。 (2)优化后本地向量检索P99时延降低50倍,平均时延降低180倍。(3)优化后本地向量检索时延分布,99.2的检索时延都在1ms以内。 本地向量检索方案可以为100万以下数据量的业务提供快速、高性能且稳定的向量检索方案。SIMD自定义编程可以在应用到其它偏数学计算的业务,加速计算。

    2.3K31编辑于 2022-07-14
  • 来自专栏技术研究和应用

    【向量检索研究系列】本地向量检索(上)

    在数据量不大但检索QPS非常高的场景下,使用第三方的向量检索产品可能并不一定是最佳选择,像开源的Faiss、HNSWliib和ScaNN这些优秀的向量检索库比较适用于上亿数量级,而且第三方服务毕竟存在网络请求开销和不稳定性因素 而百万以内的数据是可以接受在业务服务本身内存中存储,这样可以省去很多网络请求时延,而且在服务本身做向量检索,不依赖第三方服务,检索性能相对稳定。 但是在业务服务本身做向量检索会消耗比较多的CPU资源和内存资源,CPU资源是比较稀缺的,而且普通的向量检索效率比较低,时延比较长,如何减少资源消耗和加快向量检索效率成为了优化目标。 3 小结本文主要介绍了在当前的向量检索业务挑战的背景下,研究了如何在内存中进行本地向量检索的探索流程,对探索的多种方案也进行了压测,最终得出了综合性能较优的SIMD-Plan9汇编方案。 但实际上向量检索的流程还有前置的向量过滤(可选流程)和后置的检索结果排序,这两个方面也有进一步优化的空间,以及整体优化后的效果将在下一篇文章《向量检索研究系列:本地向量检索(下)》中进行详细介绍。

    1.6K31编辑于 2022-09-13
  • 来自专栏铭毅天下

    Elasticsearch:普通检索和向量检索的异同?

    读者对向量检索和普通检索的区别充满了好奇,所以就有了今天的文章。 以广泛被使用的 Lucene、Elasticsearch、Solr,以及最近出来的一些类似 MeiliSearch、Redisearch 等为代表,基于词元和倒排索引所构建的普通搜索,是建立在准确的搜索内容和检索语句上的 ,他们往往通过各种方式对文档进行分词(analyze),通过诸如BKD tree等数据结构,将拆解出来的词元(token)进行倒排索引,在检索时也会对检索语句进行同样的分词处理,通过相同词元的匹配进行召回

    5.7K10编辑于 2022-02-09
  • 来自专栏铭毅天下

    Elasticsearch 8.X 向量检索和普通检索能否实现组合检索?如何实现?

    Elasticsearch:普通检索和向量检索的异同? POST image-index/_bulk { "index": {} } { "image-vector": [-5, 9, -12], "title": "Image A", "file-type 官方示例如下: POST image-index/_search { "knn": { "field": "image-vector", "query_vector": [-5, 9, 结论:并列组合检索不可行。 2.3.2 方式二:大 BOOL 组合写 按照常规逻辑的 bool 组合检索,结果发现:并不支持! 基于已有的常识组合检索是一种方式,更快的方式是结合官方文档探究。 我们既定认为的检索方式,不见得是官方推荐的方式。

    1.6K10编辑于 2024-04-11
  • 来自专栏大猪的笔记

    信息检索:布尔检索-建立倒排索引(2)

    倒排索引用来存储在全文搜索下某个单词在一个文档或者一组文档中的存储位置的映射。假定我们有3个文档:

    1.6K20发布于 2019-11-21
  • 来自专栏大猪的笔记

    信息检索:布尔检索-求交集并集(1)

    前言 布尔检索指对文档集进行布尔运算。 要实现布尔检索,关键在于建立倒排索引和求N个集合的交集,并集。在这里,首先实现两个集合的交并集简易算法。 求交集并集 要布尔检索,首先要求两个集合的交集或并集。

    1.9K11发布于 2019-11-21
  • 来自专栏AI算法与图像处理

    9篇!Transformer+多模态用于食品检索

    论文和代码整理:https://github.com/DWCTOD/CVPR2022-Papers-with-Code-Demo Updated on : 25 Apr 2022 total number : 9

    54420编辑于 2022-05-19
  • 来自专栏AI科技时讯

    图像检索:基于内容的图像检索技术(一)

    针对这些包含丰富视觉信息的海量图片,如何在这些浩瀚的图像库中方便、快速、准确地查询并检索到用户所需的或感兴趣的图像,成为多媒体信息检索领域研究的热点。 图像检索按描述图像内容方式的不同可以分为两类,一类是基于文本的图像检索(TBIR, Text Based Image Retrieval),另一类是基于内容的图像检索(CBIR, Content Based 在进行检索时,用户可以根据自己的兴趣提供查询关键字,检索系统根据用户提供的查询关键字找出那些标注有该查询关键字对应的图片,最后将查询的结果返回给用户。 基于内容的图像检索技术将图像内容的表达和相似性度量交给计算机进行自动的处理,克服了采用文本进行图像检索所面临的缺陷,并且充分发挥了计算机长于计算的优势,大大提高了检索的效率,从而为海量图像库的检索开启了新的大门 ;在医疗诊断方面,医生通过检索医学影像库找到多个病人的相似部位,从而可以协助医生做病情的诊断……基于内容的图像检索技术已经深入到了许许多多的领域,为人们的生活生产提供了极大的便利。

    4.1K21发布于 2020-03-04
  • 来自专栏Java 学习日记

    Lucene 全文检索

    基于 lucene 8 1 Lucene简介 Lucene是apache下的一个开源的全文检索引擎工具包。 1.1 全文检索(Full-text Search) 全文检索就是先分词创建索引,再执行搜索的过程。分词就是将一段文字分成一个个单词。 全文检索就将一段文字分成一个个单词去查询数据 1.2 Lucene实现全文检索的流程 ? 全文检索的流程分为两大部分:索引流程、搜索流程。 2.3.2 第二部分:创建索引 步骤说明: 采集数据 将数据转换成Lucene文档 将文档写入索引库,创建索引 2.3.2.1 第一步:采集数据 Lucene全文检索,不是直接查询数据库,所以需要先将数据采集出来

    2.1K61发布于 2019-08-19
  • 来自专栏AI科技时讯

    图像检索:基于内容的图像检索技术(三)

    大规模图像检索特点 无论是对于相同物体图像检索还是相同类别图像检索,在大规模图像数据集上,它们具有三个典型的主要特征:图像数据量大、特征维度高以及要求相应时间短。 ,研究者们在验证图像检索算法性能的时候,用得比较多是corel1k,该图像库共1000张图片,与今天同样可以用于图像检索的最流行的图像分类库imageNet数据集相比,其量级已经有了成千上万倍的增长,因而图像检索应满足大数据时代的要求 图像特征作为直接描述图像视觉内容的基石,其特征表达的好坏直接决定了在检索过程中可能达到的最高检索精度。 如果前置特征未表达好,在构建后置检索模型的时候,不但会复杂化模型的构建,增加检索查询的响应时间,而且能够提升的检索精度也是极其有限的。所以在特征提取之初,应该有意识的选取那些比较高层特征。 ,其中最成功的方法包括基于树结构的图像检索方法、基于哈希的图像检索方法和基于向量量化的图像检索方法。

    2.9K21发布于 2020-03-04
  • 来自专栏架构进阶

    Postgresql中的检索:中文分词及语义检索

    一 前言     在上一篇文章中提到,在postgresql中,使用pgvector可以实现向量存储和检索,使用pg_trgm基于三元组文本模糊匹配和相似度计算,结合GIN 索引和GiST索引实现全文检索 zhparser等分词插件的情况下,执行SELECT show_trgm('中文测试');时会发现结果为空,因此需要结合zhparser、jiebaR,或使用ElasticSearch等插件或工具实现中文分词/全文检索

    1K00编辑于 2025-06-23
  • 来自专栏Elastic Stack专栏

    改进 Elastic Stack 中的信息检索:混合检索

    Elasticsearch ®还具有强大的词汇检索功能和丰富的工具来组合不同查询的结果。在本博客中,我们介绍了混合检索的概念,并探讨了 Elasticsearch 中可用的两种具体实现。 混合检索尽管现代训练管道产生了在零样本场景中具有良好性能的检索器模型,但众所周知,词汇检索器(例如 BM25)和语义检索器(例如 Elastic Learned Sparse Encoder)在某种程度上是互补的 具体来说,如果假设检索到的相关文档之间比检索到的不相关文档之间出现更多匹配,那么结合检索方法的结果将提高相关性。 它应用于每种方法检索到的前 N ​​个文档集。如果任一方法的该集中缺少文档,则该项设置为零。介绍倒数排名融合的论文建议 k 值为 60,并且没有讨论要检索多少个文档 N。 BM25 检索通常比语义检索更快,这一事实缓解了这一问题。我们的研究结果表明,倒数排名融合可以安全地用作有效的“即插即用”策略。

    3.4K31编辑于 2023-07-20
领券