HuggingFace 'TFEmbeddings‘对象没有属性'word_embeddings’

Question

试图运行这个TextualHeatmap示例时，我们在来自HuggingFace转换器库的以下代码片段中遇到'TFEmbeddings' object has no attribute 'word_embeddings'错误。任何帮助都是非常感谢的。

from transformers import TFDistilBertForMaskedLM, DistilBertTokenizer 
dbert_model = TFDistilBertForMaskedLM.from_pretrained('distilbert-base-uncased') 
dbert_tokenizer = DistilBertTokenizer.from_pretrained('distilbert-base-uncased') 
dbert_embmat = dbert_model.distilbert.embeddings.word_embeddings

Answer 1

尝试使用'.weight‘而不是'.word_embeddings’，因为拥抱面对最新的实现。对我来说很管用。

Answer 2

降级版本的变压器将有效。

pip install transformers==3.1.0