弹性搜索:为捷克字符配置icu_tokenizer



elasticsearch中的icu_tokenizer在遇到带有重音的字符(如Č)时似乎会将单词分段,并返回奇怪的数字标记。示例

GET /_analyze?text=OBČERSTVENÍ&tokenizer=icu_tokenizer

返回

   "tokens": [
      {
         "token": "OB",
         "start_offset": 0,
         "end_offset": 2,
         "type": "<ALPHANUM>",
         "position": 1
      },
      {
         "token": "268",
         "start_offset": 4,
         "end_offset": 7,
         "type": "<NUM>",
         "position": 2
      },
      {
         "token": "ERSTVEN",
         "start_offset": 8,
         "end_offset": 15,
         "type": "<ALPHANUM>",
         "position": 3
      }
   ]
}

我不知道捷克语,但快速谷歌显示OBČERSTVENÍ是一个单词。有没有办法配置弹性搜索,以正确地为捷克语单词工作?

我试过使用icu_noramlizer如下,但它对没有帮助

PUT /my_index_cz
{
    "settings": {
        "analysis": {
            "analyzer": {
                "my_analyzer": {
                    "char_filter": ["icu_normalizer"],
                    "tokenizer": "icu_tokenizer"                    
                }
            }
        }
    }
}
GET /my_index_cz/_analyze?text=OBČERSTVENÍ&analyzer=my_analyzer

问题是我使用了elasticsearch sense插件来查询它,但它没有正确编码数据。当我使用python客户端库编写测试时,它运行良好。

最新更新