文章/答案/技术大牛

发布

社区首页 >问答首页 >如何在Fastai learner语言模型中从编码器获取句子嵌入

问如何在Fastai learner语言模型中从编码器获取句子嵌入
EN

Stack Overflow用户

提问于 2019-08-15 02:25:53

回答 1查看 591关注 0票数 1

我能够使用fast ai对语言模型进行微调。我想从句子相似度的微调模型中提取句子嵌入。如何获得编码器模型嵌入？同样，嵌入可以与其他模型中的其他嵌入一样与点积进行比较吗？

data_lm = TextLMDataBunch.from_df(train_df = se1, valid_df = se2, path = "",text_cols='text')
learn = language_model_learner(data_lm,drop_mult=0.7,pretrained=True,arch=AWD_LSTM)
learn.fit_one_cycle(3, 1e-01)

我的代码在上面，我怎样才能从learn中获得编码？

machine-learning

nlp

pytorch

fast-ai

回答 1

Stack Overflow用户

回答已采纳

发布于 2019-08-19 23:44:35

这将为您提供编码器(这是一个嵌入层)：

learn.model[0].encoder

票数 1

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/57500159

复制

相似问题

问如何在Fastai learner语言模型中从编码器获取句子嵌入
EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问如何在Fastai learner语言模型中从编码器获取句子嵌入EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问如何在Fastai learner语言模型中从编码器获取句子嵌入
EN