整个句子与动词的BERT嵌入

Question

首先，我的假设是，句子的大部分语义值是由连接所述动词的主语和宾语的动词来调节的。我知道我在这里简化了一点，因为可以有多个动词之类的。但是从中抽象出来，我很好奇BERT是否适用于为整个句子生成嵌入向量，比如&"两半成一个整体&";会更类似于一个单数动词的嵌入向量，比如"make">与动词的向量和相比.

Answer 1

为了回答你的"问题"，如果我是你，我会尝试做一个实际的测试。要想简单地使用bert进行句子嵌入，请查看这个repo:它使用起来非常简单。

一旦你有了嵌入向量，你可以使用任何相似函数来验证你的假设。

然而，就我(有限的)经验而言，我认为"make"这个向量比"eat"更相似。也只是因为"make";出现在另一个句子中，因此有助于嵌入句子。