Google Cloud AI Platform:我不能使用"--accelerator“参数创建模型版本

Question

为了获得在线预测，我在ai-platform上创建了一个模型版本。它工作得很好，除非我想使用--accelerator参数。

下面是有效的命令：

    gcloud alpha ai-platform versions create [...] --model [...] --origin=[...] --python-version=3.5 --runtime-version=1.14 --package-uris=[...] --machine-type=mls1-c4-m4 --prediction-class=[...]

下面是让它无法工作的参数：

    --accelerator=^:^count=1:type=nvidia-tesla-k80

这是我得到的错误消息：

    ERROR: (gcloud.alpha.ai-platform.versions.create) INVALID_ARGUMENT: Request contains an invalid argument.

我希望它能工作，因为1)参数存在并使用这两个键(count和type)，2)我对参数使用了正确的语法，任何其他语法都会返回语法错误，3) "nvidia-tesla-k80“值存在(在--help中描述)，并且在部署模型的区域中可用。

Answer 1

确保您使用的是最新版本的Google Cloud SDK。

然后，您可以使用以下命令：

gcloud beta ai-platform versions create $VERSION_NAME \
  --model $MODEL_NAME \
  --origin gs://$MODEL_DIRECTORY_URI \
  --runtime-version 1.15 \
  --python-version 3.7 \
  --framework tensorflow \
  --machine-type n1-standard-4 \
  --accelerator count=1,type=nvidia-tesla-t4

作为参考，您可以在模型创建过程中启用日志记录：

gcloud beta ai-platform models create {MODEL_NAME} \
 --regions {REGION} 
 --enable-logging \
 --enable-console-logging

Answer 2

可以在官方documentation中查看的--accelerator参数的格式为：

--accelerator=count=1,type=nvidia-tesla-k80

我想这可能会引起你的问题，让我知道。