elasticsearch中的icu_tokenizer在遇到带有重音的字符(如Č
)时似乎会将单词分段,并返回奇怪的数字标记。示例
GET /_analyze?text=OBČERSTVENÍ&tokenizer=icu_tokenizer
返回
"tokens": [
{
"token": "OB",
"start_offset": 0,
"end_offset": 2,
"type": "<ALPHANUM>",
"position": 1
},
{
"token": "268",
"start_offset": 4,
"end_offset": 7,
"type": "<NUM>",
"position": 2
},
{
"token": "ERSTVEN",
"start_offset": 8,
"end_offset": 15,
"type": "<ALPHANUM>",
"position": 3
}
]
}
我不知道捷克语,但快速谷歌显示OBČERSTVENÍ是一个单词。有没有办法配置弹性搜索,以正确地为捷克语单词工作?
我试过使用icu_noramlizer如下,但它对没有帮助
PUT /my_index_cz
{
"settings": {
"analysis": {
"analyzer": {
"my_analyzer": {
"char_filter": ["icu_normalizer"],
"tokenizer": "icu_tokenizer"
}
}
}
}
}
GET /my_index_cz/_analyze?text=OBČERSTVENÍ&analyzer=my_analyzer
问题是我使用了elasticsearch sense插件来查询它,但它没有正确编码数据。当我使用python客户端库编写测试时,它运行良好。