使用自定义模型返回Vertex AI批量预测的置信度得分

Question

我将预训练的scikit学习分类模型上传到Vertex AI，并对5个样本进行了批量预测。它只是返回了一个没有置信度得分的错误预测列表。我在SDK文档或Google控制台中看不到如何获得批量预测以包括置信度分数的任何地方。这是Vertex AI可以做的事情吗？

我的目的是使用以下代码自动执行批处理预测流水线。

# Predict
# "csv", ""bigquery", "tf-record", "tf-record-gzip", or "file-list"
batch_prediction_job = model.batch_predict(
    job_display_name = job_display_name,
    gcs_source = input_path,
    instances_format = "", # jsonl, csv, bigquery, 
    gcs_destination_prefix = output_path,
    starting_replica_count = 1,
    max_replica_count = 10,
    sync = True,
)

batch_prediction_job.wait()

return batch_prediction_job.resource_name

我在google控制台中进行了测试，以确保我的输入数据格式正确。

Answer 1

我不这么认为；我猜vertex提供的股票sklearn容器没有提供这样的分数。您可能需要编写custom container。