ImportError:使用基于QRNN的预训练语言模型时，没有名为“forget_mult_cuda”的模块出现错误

Question

我正在尝试使用基于QRNN的编码器通过调整QRNN预先训练的LM来进行文本分类。

下面是qrnn的配置

emb_sz:int = 400
nh: int = 1550
nl: int = 3

qrnn_config = copy.deepcopy(awd_lstm_lm_config)
dps = dict(output_p=0.25, hidden_p=0.1, input_p=0.2, embed_p=0.02, weight_p=0.15)
qrnn_config.update({'emb_sz':emb_sz, 'n_hid':nh, 'n_layers':nl, 'pad_token':1, 'qrnn':True})
qrnn_config

我正在将配置传递给lm_learner

lm_learner = language_model_learner(data_lm, AWD_LSTM, config=qrnn_config, pretrained=False,drop_mult=.1,pretrained_fnames=(pretrained_lm_fname,pretrained_itos_fname))

我得到的是：

ImportError: No module named 'forget_mult_cuda'

Fast-ai版本是：'1.0.51.dev0‘

Answer 1

尝试使用cuda cash清洗

gc.collect()
torch.cuda.empty_cache()

Answer 2

使用此选项可将QRnn更新为true

语言模型

config = awd_lstm_lm_config.copy()
config['qrrn']=True

分类模型

config = awd_lstm_clas_config.copy()
config['qrrn']=True

config你不需要从源代码复制任何东西。

Answer 3

看起来你错过了忍者套餐。

使用：

pip install ninja

如果您正在使用笔记本电脑，请重新启动它。