顶点AI自定义容器批处理预测

Question

我已经创建了一个用于预测的自定义容器，并成功地将模型上传到顶点AI。我还能够将模型部署到端点，并成功地从端点请求预测。在自定义容器代码中，我使用parameters字段(如描述的这里 )，然后在提出在线预测请求时提供该字段。我的问题涉及从自定义容器请求批预测以进行预测。

1. 我找不到任何文档来描述当我请求批处理预测时会发生什么。例如，我使用Python中的my_model.batch_predict函数，并将instances_format设置为"csv“，并提供gcs_source。现在，我已经设置了我的自定义容器，以期待在/predict上的预测请求，如本文档所描述的那样。顶点AI是否向此路径发出POST请求，将cvs数据转换为适当的POST体？
2. 如何指定批处理预测的parameters字段，就像为在线预测指定的那样？

Answer 1

1. 是的，顶点AI发出一个POST请求，您的定制容器在批预测。
2. 不，由于我们不知道哪一列是“参数”，所以批处理预测无法传递parameter。我们把一切都放在“实例”中。