Pytorch模型部署到sagemaker

Question

我已经训练了我的yolov5模型，并且拥有了weights.pt，现在我需要使用sagemaker来部署它，因为我需要创建一个端点。我遵循这个教程https://sagemaker-examples.readthedocs.io/en/latest/frameworks/pytorch/get_started_mnist_deploy.html，因为我使用的图像，我试图定制input_fn，output_fn函数，但不幸的是，当我运行推断，我总是得到错误，我的问题是，我应该遵循什么逻辑来定制这些函数？

Answer 1

每一种功能都有不同的用途。使用input_fn，您需要为您的模型所期望的输入做准备。使用model_fn，您想要加载您的pytorch模型。使用predict_fn，您希望有您的预测/推理函数代码。使用output_fn，您可以创建从端点返回的输出。请参阅本文，以便更深入地了解这些处理程序中的每个处理程序，以及示例：https://aws.plainenglish.io/adding-custom-inference-scripts-to-amazon-sagemaker-2208c3332510