是否可以为我在AWS SageMaker中创建的模型设置端点而不使用SageMaker SDK？

Question

我用自己的训练和推理循环在AWS SageMaker实例上创建了自己的模型。我想要部署它，这样我就可以调用模型，以便从AWS进行推理。

我根本没有使用SageMaker包进行开发，但是我看过的每个教程(这里是一)都是这样做的。

如何不使用SageMaker包创建端点。

Answer 1

您可以使用boto3库来完成此操作。

下面是一个伪代码的例子-

import boto3
sm_client = boto3.client('sagemaker')
create_model_respose = sm_client.create_model(ModelName=model_name, ExecutionRoleArn=role, Containers=[container] )

create_endpoint_config_response = sm_client.create_endpoint_config(EndpointConfigName=endpoint_config_name)

create_endpoint_response = sm_client.create_endpoint(EndpointName=endpoint_name, EndpointConfigName=endpoint_config_name)