如何为Windows独立应用程序部署经过Tensorflow训练的推理模型

Question

我想在Windows独立桌面应用程序中使用使用Tensorflow训练的模型。我只需要执行预测，我就可以使用Tensorflow Python来训练模型。推荐的方法是什么？

我知道有一个Windows，但是编译它真的很困难，特别是在C++上。我能找到任何预先构建的C++ Tensorflow二进制文件吗？

是否有一种以Tensorflow作为Windows安装程序先决条件的发布Python的简单方法？

我可以在另一种技术中导入Tensorflow模型并使用它进行推理吗？OpenCv DNN模块有一个从Tensorflow导入数据的函数，但我知道它有许多局限性，并且无法使用OpenCv导入和使用模型。

谢谢你帮忙！

Answer 1

我和你是在挑战同样的问题。您至少应该尝试编译它(尝试CMake，它可能更容易)

如果你仍然有困难：

• 编译器在堆空间之外
• 独立Windows Lib
• 基于C++的基本流量处理

Answer 2

我问了类似的问题，最终找到了我自己的答案。最后，我发现Tensorflow指令实际上是相当不错的(是我读的不好！)我还没有尝试使用，但是使用CMake构建Tensorflow最终效果很好。

主要问题是编译器堆空间问题。如果您使用的是32位编译器(默认)，那么这似乎总是发生在一些随机的地方。关键是确保您运行vcvarsall.bat或vcvars64.bat或任何调用64位编译器(在任务管理器中，它应该显示为cl.exe而不是cl.exe *32) --我发现让Visual使用64位编译器很难(读:不可能)，但是使用MSBuild工具在命令行上编译很好。

一旦您可以构建示例程序，您就有了一个应用程序示例，该应用程序链接到静态tensorflow库来完成它的工作。您可以为您想要的东西创建您自己的应用程序链接到这个库。