Sagemaker ML -直接在lambda函数中加载Tensorflow模型端点

Question

我已经设法创建了一个从S3加载model.pb并对输入图像应用对象检测的lambda函数(已安装TensorFlow1.12)

可以在lambda函数中加载Sagemaker模型/端点配置吗？我的意思是在lambda中安装所需的所有包，而不部署端点/类似EC2的实例。

我猜推理性能会下降，但解决方案似乎更具成本效益和可伸缩性。

Answer 1

SageMaker终结点仅在配置为EndpointConfig一部分的EC2实例上运行。您不能使用SageMaker模型并将其部署到Lambda上。