在中请求TImed

Question

我已经训练了一个DL模型，并试图通过REST将其托管在Heroku服务器上，从而在互联网上公开它。

在本地，我尝试了所有的Heroku配置，测试了API，最后在Heroku上成功地部署了它。在访问该端点时，请求被超时，在heroku日志中，我可以看到以下输出：

2019-09-22T11:11:10.543181+00:00 app[web.1]: [2019-09-22 11:11:10 +0000] [48] [DEBUG] POST /analyse
2019-09-22T11:11:10.556943+00:00 app[web.1]: prediction started
2019-09-22T11:11:40.537864+00:00 heroku[router]: at=error code=H12 desc="Request timeout" method=POST path="/analyse" host=obscure-peak-46855.herokuapp.com request_id=f8f450ca-fd07-491d-aba2-433da710a3e1 fwd="103.242.239.84" dyno=web.1 connect=0ms service=30001ms status=503 bytes=0 protocol=https
2019-09-22T11:11:41.382624+00:00 app[web.1]: [2019-09-22 11:11:41 +0000] [4] [CRITICAL] WORKER TIMEOUT (pid:48)
2019-09-22T11:11:42.402385+00:00 app[web.1]: [2019-09-22 11:11:42 +0000] [49] [INFO] Booting worker with pid: 49
2019-09-22T11:12:39.861556+00:00 app[web.1]: [2019-09-22 11:12:39 +0000] [49] [DEBUG] Closing connection.

表示Python代码：

statusDict = {}
print('prediction started')
predictionResult = 1 if model.predict(inputData)[0] > 0.5 else 0
print('prediction complete')
statusDict['input comment'] = inputSentence
statusDict['status'] = 'prediction complete'
statusDict['prediction'] = predictionResult
response.update(statusDict)

在Heroku上公开您的ML模型时，是否有人遇到过类似的超时请求？我甚至在Heroku中也看不到预测完整的打印语句。

Answer 1

这是因为您的模型需要太多的时间来加载。你能告诉我们更多关于鼻涕虫大小和型号的信息吗？当您的模型的整体流程需要超过30秒的时间来呈现页面时，就会出现此错误。您能分享一下Procfile和app.py，看看它花了多少时间吗？尝试删除文件中的必要库(如果有的话)。