文章/答案/技术大牛

发布

社区首页 >问答首页 >加速张量流模型

问加速张量流模型
EN

Stack Overflow用户

提问于 2019-03-06 00:37:47

回答 1查看 140关注 0票数 0

我使用mxnet框架训练了一个模型。该模型的推理时间约为9毫秒。该模型主要由卷积层组成，并使用深度可分离卷积。

我想在浏览器中运行该模型。我将模型转换为ONNX格式，然后从

ONNX -> tensorflow -> tensorflow.

tensorflowjs模型的推理时间约为129毫秒。

有什么建议可以提高模型的性能吗？

我也尝试过ONNXJS，但它的bugs似乎仍然很少。

tensorflow

mxnet

onnx

tensorflowjs-converter

回答 1

Stack Overflow用户

发布于 2019-03-06 02:16:31

重新架构将是一种可能性，因为您正在处理129ms的延迟。您将有时间将图像发送到运行高性能推理服务器的端点(EC2或SageMaker + API Gateway)。

维沙尔

票数 1

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/55007556

复制

相似问题

问加速张量流模型
EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问加速张量流模型EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问加速张量流模型
EN