有没有一种方法可以执行加权元素与Vespa相似



在处理元素相似性方面的多值查询项和字段时遇到问题。例如,如果我们有一个字符串数组,比如:

field colors type array<string>
# That might have several items like: "blue", "black and purple", "green", "yellow", etc

我想查询一个项目列表:

"blue" (weight 0.5), "black" (weight 1.0)

有没有一种方法可以执行加权列表相似性,它可能看起来像:weight*elementSimilarity(蓝色(+weight*element相似性(黑色(?

我尝试了多种功能,包括nativeBank,但根据查询数组和字段数组的长度,我会得到不一致的结果。由于我也希望能够处理拼写错误;blu";应该与";蓝色"-因此我更喜欢elementSimilarity。我想我已经尝试了vespa中的大多数rank功能,但我还没有找到更好的方法来处理这个用例。

任何指导都将不胜感激!谢谢

编辑:更详细地说,在Vespa中,对我来说最大的限制可能是如何在查询中处理数组。我非常想做这样的事情:

expression {
foreach(terms,N,query(colors,N).weight*elementSimilarity(query(colors,N)),true,sum)
}

有很多方法可以实现这一点,但最好的方法取决于您是否需要自由文本样式匹配(字符串的语言处理,包括标记化和词干(。它还取决于这是否只是已经检索或用于检索文档的文档的排名信号。

如果你不需要自由文本风格匹配,而是可以在没有语言学处理的情况下使用精确匹配(例如使用固定词汇(,并且这种颜色排名只是另一个排名信号,你应该考虑使用张量排名。张量可用于对查询运算符检索到的文档进行排序,不能使用张量进行检索(使用近似近邻搜索的密集单阶张量除外(。参见张量指南https://docs.vespa.ai/en/tensor-user-guide.html.

如果您需要自由文本样式匹配,还有几种方法。在下面的示例中,我假设您希望进行文本样式匹配,并且查询术语"紫色"应该将文档与"黑色和紫色"匹配。请参阅匹配文档https://docs.vespa.ai/en/reference/schema-reference.html#match

如果你像这个一样定义字段颜色

field colors type weightedset<string>{
indexing: summary | index
match: text #This is default matching for string fields with 'index'
}

并提供文档

"colors": {
"blue":1,
"black and purple":1, 
"green": 1,
"yellow": 1
}

您可以使用以下查询进行检索和排名

{
"yql": "select * from sources * where colors contains ([{"weight":1}]"purple") or colors contains ([{"weight":2}]"yellow");",
"ranking.profile": "color-ranking"
}

参见术语权重的查询语言参考

  • https://docs.vespa.ai/en/reference/query-language-reference.html

有多种方法可以对检索到的文档进行排名,但以下假设您使用颜色排名作为唯一的排名信号。

rank-profile color-ranking {
function colorMatch() {
expression: nativeDotProduct(colors)
}
first-phase {
expression: colorMatch()
} 
}

在这里,我们使用nativeDotProduct排名功能,在我们的示例中,它将返回3(21+11(。术语权重和文档权重只能是整数,张量允许浮动。

  • https://docs.vespa.ai/documentation/reference/rank-features.html#nativeDotProduct(字段(

elementSimilarity排名功能也是一个候选功能,它允许更大的灵活性,如果您想使用max/sum以及如何组合元素权重和查询项权重,您可以进行覆盖。

  • https://docs.vespa.ai/documentation/reference/rank-features.html#elementSimilarity(姓名(
  • https://docs.vespa.ai/documentation/reference/rank-feature-configuration.html#elementSimilarity

如果这只是一个排名信号,您也可以使用rank查询运算符

{
"yql": "select * from sources * where rank(foo contains "bar", colors contains ([{"weight":1}]"purple") or colors contains ([{"weight":2}]"yellow"));",
"ranking.profile": "color-ranking"
}

在上面的查询中,我们检索一个名为"foo"的字段包含"bar"的文档,对于这些文档,将匹配颜色字段并创建排名功能(取决于排名配置文件中使用的内容(。

通常,查询是表示如何检索文档的一种方式,而排名配置文件决定了如何对检索到的文档进行排名。rank查询运算符是一种很好的方法,可以在不影响召回的情况下创建匹配(Q-D交互(排名特征。

如果您想有效地使用查询和文档中的内部点积来检索,还有其他更有效的方法,包括魔杖查询运算符。看见https://docs.vespa.ai/en/using-wand-with-vespa.html

最新更新