在本地部署经过训练的Sagemaker Mxnet对象检测模型？

Question

我已经在AWS Sagemaker上训练了一个对象检测模型。我想在我的机器上本地使用这个模型。我下载了这个模型，它包含3个文件hyperparams.json，model-symbol.json .json和model-0000.params。我已经看过很多教程来在本地部署对象分类模型，但没有得到任何用于对象检测的教程。

Answer 1

有不同的可能性：

• 您可以将SageMaker Python SDK本地安装在您的计算机上，并使用SageMaker在本地训练和部署您的模型，因此您需要在MXNet估计器中指明train_instance_type='local‘。然后，SageMaker会将数据从S3拉入到您的本地计算机中，并在那里训练模型。然后，mxnet_estimator.deploy将在本地部署该模型。你可以在这里找到详细的描述
• 你可以使用MXNet的模型服务器。您需要将模型文件转换为模型存档(.mar)，您可以在以下way:mxnet-model-server --models mymodel=mymodel.mar

中部署它

Answer 2

正如NRauschmayr提到的，如果您还使用SageMaker的Python SDK本地模式特性在SageMaker上进行训练，那么使用它会很方便。一个细微的修正是，您会将predictor的instance_type设置为“本地”，因为您对本地部署感兴趣。您可以在此处阅读有关本地模式的更多信息：https://sagemaker.readthedocs.io/en/stable/overview.html#local-mode