文章/答案/技术大牛

发布

社区首页 >问答首页 >对象检测模型- tensorflow服务- k8s部署:耗时3-4秒

问对象检测模型- tensorflow服务- k8s部署:耗时3-4秒
EN

Stack Overflow用户

提问于 2019-10-03 13:20:47

回答 1查看 71关注 0票数 0

我有一个使用TensorFlow服务的TensorFlow对象检测模型，并部署到Azure Kubernetes集群中。我使用过Nvidia K80 GPU设备，TensorFlow/serving:1.12.3:gpu版本。

模型部署正确，响应正常，但响应时间较长，500*375 -135KB镜像的响应时间为3-4秒。

有人能帮我理解哪些地方可以改进吗？

发布于 2019-10-14 10:36:53

如果此图像是第一个预测请求，则这是正常情况。您可能需要一个热身请求。

票数 0

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/58212738

复制

相似问题

问对象检测模型- tensorflow服务- k8s部署:耗时3-4秒EN