如何部署tensorflow系统？tensorflow服务？

Question

我已经用tf.keras建立了一个推荐系统。

我想把它部署到一个活动的环境中。

我可以做的一件事是，创建一个基于python的webserver (django)，它接受(http) rest请求，使用经过训练的模型执行prediction，并返回结果作为rest响应。

我想知道是否有比做上述更好的替代方案？

我可以猜到tensorflow服务可能和我想要做的事有关，但我无法确定.

• 我正在子类tf.keras.models.Model来创建我的模型，它不支持model.save()只支持model.save_weights。可能会影响我的选择。

Answer 1

Tesnsorflow服务是这里的出路：https://github.com/tensorflow/serving

它有一些非常好的特点：9w?t=1056和这个视频是非常丰富的关于TensorFlow服务和TFX。