是否可以导出语法网络模型(Parsey )以使用TensorFlow服务进行服务？

Question

我让demo.sh工作得很好，我已经看过了parser_eval.py，并在某种程度上把它搞懂了。但是，我不知道如何使用TensorFlow服务来服务此模型。我可以从上面看到两个问题：

1)这些图没有导出的模型，每次调用时都会使用图构建器(例如structured_graph_builder.py)、上下文协议缓冲区和一大堆我目前还不完全理解的东西来构建图(它似乎也注册了额外的syntaxnet.ops )。所以..。有没有可能?我如何将这些模型导出为Serving和SessionBundleFactory所需的“捆绑”形式？如果没有，似乎需要在C++中重新实现图形构建逻辑/步骤，因为服务只在C++上下文中运行。

2) demo.sh实际上是两个通过UNIX管道连接在一起的模型，因此任何可服务都必须(有问题地)构建两个会话，并将数据从一个会话编组到另一个会话。这是一个正确的方法吗？或者，有没有可能构建一个包含两个模型的“大”图，并将其“修补”在一起并导出？

Answer 1

因此，经过大量的学习、研究等，我最终将tensorflow/model和syntaxnet的pull请求放在一起，从而实现了从TF服务到Parsey的目标。

https://github.com/tensorflow/models/pull/250

这里没有的是实际的“服务”代码，但与解决上述问题的工作相比，这是相对微不足道的。