我有一个简单的起泡端点你好世界模型。容器在本地可以正常工作,但是当部署在Sagemaker端点时,会出现以下错误。
{
"ErrorCode": "INVALID_INFERENCE_TYPE",
"Message": "Endpoint myEndpoint does not support this inference type."
}发布于 2022-09-28 13:44:07
见上文@durga_sury的评论..。引文如下。
如果你已经有了一个经过训练的模型,你就不需要估计器了。它是否有可能被设置为异步端点?在UI上创建端点时,如果在异步调用Config部分中输入了params,则可以将其设置为异步端点。否则,您是否有可能共享代码/模型?否则很难调试。-9月21日durga_sury 22:18
似乎只是添加异步选项使端点异步!在此之后,如果您调用它进行实时预测,您将得到错误。
https://stackoverflow.com/questions/73721496
复制相似问题