我能够使用快速AI微调语言模型。 我想从微调模型中提取句子嵌入以获得句子相似性。 如何获取编码器模型嵌入?还可以将嵌入与其他模型(如USE(中的其他嵌入一样与点积进行比较吗?
data_lm = TextLMDataBunch.from_df(train_df = se1, valid_df = se2, path = "",text_cols='text')
learn = language_model_learner(data_lm,drop_mult=0.7,pretrained=True,arch=AWD_LSTM)
learn.fit_one_cycle(3, 1e-01)
我的代码在上面,如何从学习中获取编码?
这应该给你编码器(这是一个嵌入层(:
learn.model[0].encoder