从运行在CPU上的TPU保存的pytorch模型

Question

我发现了有趣的模型-问题生成器，但不能运行它。我得到一个错误：

Traceback (most recent call last):
  File "qg.py", line 5, in <module>
    model = AutoModelWithLMHead.from_pretrained("/home/user/ml-experiments/gamesgen/t5-base-finetuned-question-generation-ap/")
  File "/home/user/.virtualenvs/hugging/lib/python3.7/site-packages/transformers/modeling_auto.py", line 806, in from_pretrained
    return model_class.from_pretrained(pretrained_model_name_or_path, *model_args, config=config, **kwargs)
  File "/home/user/.virtualenvs/hugging/lib/python3.7/site-packages/transformers/modeling_utils.py", line 798, in from_pretrained
    import torch_xla.core.xla_model as xm
ModuleNotFoundError: No module named 'torch_xla'

我用谷歌搜索了一下，发现"torch_xla“是用来训练TPU上的pytorch模型的东西。但我想在cpu上本地运行它(当然是为了推断)，当pytorch试图加载tpu绑定张量时得到这个错误。我怎么才能修复它？

这是我尝试过的模型：https://huggingface.co/mrm8488/t5-base-finetuned-question-generation-ap

Answer 1

按照@cronoik的建议，我已经从github安装了transformers库。我克隆了最新的版本，并在它的目录中执行了python3 setup.py install。此错误已修复，但在python的数据包存储库中仍未发布修复。