如何定义自定义分析器来使用hibernate-search和elasticsearch进行全局搜索

Question

我用hibernate-search-elasticsearch (5.9.0.Final)实现了hibernate-search-orm (5.9.0.Final)。

我在实体(请参阅beelow)上定义了一个自定义分析器，并对两个实体进行了索引：

id: "1"
title: "Médiatiques : récit et société"
abstract:...

id: "2"
title: "Mediatique Com'7"
abstract:...

当我搜索标题字段时，搜索工作得很好：

"title:médiatique" => 2 results.
"title:mediatique" => 2 results.

我的问题是，当我用重音(或不重音)进行全局搜索时：

search on "médiatique => 1 result (id:1)
search on "mediatique => 1 result (id:2)

有办法解决这个问题吗？

谢谢。

实体定义：

@Entity
@Table(name="bibliographic")
@DynamicUpdate
@DynamicInsert
@Indexed(index = "bibliographic")
@FullTextFilterDefs({
    @FullTextFilterDef(name = "fieldsElasticsearchFilter",
        impl = FieldsElasticsearchFilter.class)
})
@AnalyzerDef(name = "customAnalyzer",
tokenizer = @TokenizerDef(factory = StandardTokenizerFactory.class),
filters = {
    @TokenFilterDef(factory = LowerCaseFilterFactory.class),
    @TokenFilterDef(factory = ASCIIFoldingFilterFactory.class),
})

@Analyzer(definition = "customAnalyzer")
public class BibliographicHibernate implements Bibliographic {
  ...
  @Column(name="title", updatable = false)
  @Fields( {
    @Field,
    @Field(name = "titleSort", analyze = Analyze.NO, store = Store.YES)
  })
  @SortableField(forField = "titleSort")
  private String title;
  ...
}

搜索方法:

FullTextEntityManager ftem = Search.getFullTextEntityManager(entityManager); 
QueryBuilder qb = ftem.getSearchFactory().buildQueryBuilder().forEntity(Bibliographic.class).get();   
QueryDescriptor q = ElasticsearchQueries.fromQueryString(queryString);
FullTextQuery query = ftem.createFullTextQuery(q, Bibliographic.class).setFirstResult(start).setMaxResults(rows);

if (filters!=null){
  filters.stream().map((filter) -> filter.split(":")).forEach((f) -> {
    query.enableFullTextFilter("fieldsElasticsearchFilter")
      .setParameter("field", f[0])
      .setParameter("value", f[1]);
    }
  );
}
if (facetFields!=null){
  facetFields.stream().map((facet) -> facet.split(":")).forEach((f) ->{
    query.getFacetManager()
      .enableFaceting(qb.facet()
      .name(f[0])
      .onField(f[0])
      .discrete()
      .orderedBy(FacetSortOrder.COUNT_DESC)
      .includeZeroCounts(false)
      .maxFacetCount(10)
      .createFacetingRequest() );
    }
  );
}
List<Bibliographic> bibs = query.getResultList();

Answer 1

老实说，我更惊讶的是，文档1会完全匹配，因为在"Médiatiques“中有一个尾随的"s”，而且您没有使用任何词干器。

这里有一个特殊情况:您使用一个查询字符串并将其直接传递给Elasticsearch (这就是ElasticsearchQueries.fromQueryString(queryString)所做的)。Hibernate搜索对正在运行的查询影响很小，它只影响这里的索引内容和Elasticsearch映射。

当您在Elasticsearch上运行QueryString查询而不指定任何字段时，它将使用文档中的所有字段。我不认为在分析查询时使用的分析器与您在"title“字段中定义的分析器相同。特别是，它可能没有消除口音。

另一种解决方案是使用QueryBuilder构建一个简单的查询字符串查询。查询的语法比较有限，但通常对最终用户来说是足够的。代码将如下所示：

FullTextEntityManager ftem = Search.getFullTextEntityManager(entityManager); 
QueryBuilder qb = ftem.getSearchFactory().buildQueryBuilder().forEntity(Bibliographic.class).get();   
Query q = qb.simpleQueryString()
    .onFields("title", "abstract")
    .matching(queryString)
    .createQuery();
FullTextQuery query = ftem.createFullTextQuery(q, Bibliographic.class).setFirstResult(start).setMaxResults(rows);

用户仍然可以针对特定的字段，但只在您提供的列表中(顺便说一句，这可能更安全，否则他们可以针对排序字段等等，这可能是您不想允许的)。默认情况下，该列表中的所有字段都将成为目标。

这可能导致与查询字符串完全相同的结果，但优点是可以覆盖用于查询的分析器。例如：

FullTextEntityManager ftem = Search.getFullTextEntityManager(entityManager);
QueryBuilder qb = ftem.getSearchFactory().buildQueryBuilder().forEntity(Bibliographic.class)
        .overridesForField("title", "customAnalyzer")
        .overridesForField("abstract", "customAnalyzer")
        .get();   
Query q = qb.simpleQueryString()
    .onFields("title", "abstract")
    .matching(queryString)
    .createQuery();
FullTextQuery query = ftem.createFullTextQuery(q, Bibliographic.class).setFirstResult(start).setMaxResults(rows);

..。这将使用你的分析器当查询。

作为另一种选择，您还可以使用更高级的JSON查询，将ElasticsearchQueries.fromQueryString(queryString)替换为ElasticsearchQueries.fromJsonQuery(json)。但是，您必须自己制作JSON，采取一些预防措施以避免来自用户的任何注入(使用Gson构建Json)，并注意遵循Elasticsearch查询语法。

您可以在正式文件中找到有关简单查询字符串查询的更多信息。

注意:您可能希望将FrenchMinimalStemFilterFactory添加到自定义分析器中的令牌筛选器列表中。这不是造成问题的原因，但一旦您设法在搜索查询中使用分析器，您很快就会发现它很有用。