如何从 Fastai 学习语言模型中的编码器获取句子嵌入



我能够使用快速AI微调语言模型。 我想从微调模型中提取句子嵌入以获得句子相似性。 如何获取编码器模型嵌入?还可以将嵌入与其他模型(如USE(中的其他嵌入一样与点积进行比较吗?

data_lm = TextLMDataBunch.from_df(train_df = se1, valid_df = se2, path = "",text_cols='text')
learn = language_model_learner(data_lm,drop_mult=0.7,pretrained=True,arch=AWD_LSTM)
learn.fit_one_cycle(3, 1e-01)

我的代码在上面,如何从学习中获取编码?

这应该给你编码器(这是一个嵌入层(:

learn.model[0].encoder

最新更新