在不部署的情况下测试DeepAR模型

Question

我正在训练用于时间序列预测的DeepAR模型，在训练之后，我需要将该模型部署到一个端点以进行测试。

我是否可以在不部署到端点的情况下在笔记本中进行预测？

Answer 1

如果端点不适用于您，您可以使用batch transform，它将预测存储在S3中的数据，并以S3格式输出结果。https://docs.aws.amazon.com/sagemaker/latest/dg/how-it-works-batch.html上的医生

这非常简单，看起来像这样：

batch_input = 's3://{}/{}/test/examples'.format(bucket, prefix)
batch_output = 's3://{}/{}/batch-inference'.format(bucket, prefix) 

transformer = model.transformer(instance_count=1, instance_type='ml.m4.xlarge', output_path=batch_output)

transformer.transform(data=batch_input, data_type='S3Prefix', content_type='text/csv', split_type='Line')

transformer.wait()

如果您正在寻找本地部署，则它不适用于内置algos，仅适用于内置框架(TF、MXNet等)。