如何在深度Java库( Deep，DJL)中使用Pytorch模型？

Question

我想用Java运行EasyNMT。

但是，我不知道如何加载和运行模型。

我按以下方式加载了该模型：

URI uri = new URI("file:////Users/.../prior.pth");
Path modelDir = Paths.get(uri);
Model model = Model.newInstance("model.pth", Device.cpu(), "PyTorch");
model.load(modelDir);

不过，在此之后，我不知道该怎么办。

EasyNMT执行以下操作：

model.translate("Dies ist ein Satz in Deutsch.", target_lang='en', max_new_tokens=1000)

DJL如何执行翻译？

Answer 1

您需要创建自己的Translator来进行预处理和后处理。您可以找到解释这个jupyter笔记本如何在DJL中工作的这个jupyter笔记本。

对于NMT模型，您可以在DJL：translation.md中找到以下示例