将Tensorflow模型部署为Windows

Question

我想使用Tensorflow 1.4来满足我的ML建模需求。我的用例要求：

• 在GPU上训练模型<--我知道如何用TF做这个
• 将经过训练的模型部署到一个普通的盒子上--作为运行Windows的.exe on (用于推断)<--我不知道如何做到这一点。

有人能告诉我TF 1.4是否支持这一点吗?如果支持，可以告诉我指南或者解释它是如何完成的？

Answer 1

现在有点晚了，但youtube上的视频报道得很好。

他使用pyinstaller来获取所需的一切，并将其全部放入一个可执行文件中，而不需要任何其他内容，或者是一个包含exe和其他东西的文件夹。

我自己也试过了，它运行得很好，尽管由于pyinstaller将所需的所有内容都分解到一个非常大的文件夹中，所以它包括整个tensorflow库、python解释器，如果您使用tensorflow-gpu，它还包括cudnn文件，大约600 of，最终有效地为您留下了超过1gb的文件。这可以通过排除您不需要的模块来减少，我建议您创建一个虚拟环境，并从一个干净的python安装开始。

希望这能帮上忙。