tf serving部署两个模型

Question

我有两个不同的tensorflow模型A和B，模型A的输出将作为输入输入到模型B中。它们都需要与tf服务一起部署。我需要使用grpc或http requet调用两次，以获取模型B的输出。

tf服务是否仅支持一个grpc或http请求来获取模型B的输出？

Answer 1

AFAIC，tensorflow服务不支持管道模式。但我认为你可以把A和B合并成一个模型。