将BigQuery生成的BigQuery模型部署到AI平台上的问题

Question

我在将使用AutoML创建的BigQuery模型部署到人工智能平台进行在线预测时遇到了困难。

我使用标准过程通过SQL在AutoML中创建了一个BigQuery模型：

CREATE OR REPLACE MODEL `model_name`
OPTIONS
  (model_type='automl_regressor', budget_hours=2.0,
    ... ) AS
SELECT ...)

这很好，我能够成功地得到预期的结果。我现在想把它用于在线预测。为此，我通过Export Model云控制台中的BigQuery函数将模型导出到GCS桶。这给出了桶中包含以下内容的目录：

assets/
saved_model.pb
variables/

然后我转到AI平台控制台并创建了一个模型，然后使用以下预先构建的容器设置为该模型创建了一个版本：

• Python版本: 3.7
• 框架: TensorFlow
• 框架版本: 2.3.1
• ML运行时版本: 2.3

我已经使用包含上面列出的内容的目录将云存储路径设置为bucket，并继续为我的模型创建版本。在这样做之后，我会在一段时间后得到这个错误：

Create Version failed. Bad model detected with error: "Failed to load model: Loading servable: {name: default version: 1} failed: Not found: Op type not registered 'DecodeProtoSparseV2' in binary running on localhost. Make sure the Op and Kernel are registered in the binary running in this process. Note that if you are loading a saved graph which used ops from tf.contrib, accessing (e.g.) `tf.contrib.resampler` should be done before importing the graph, as contrib ops are lazily registered when the module is first accessed.\n\n (Error code: 0)"

当我认为这是我利用从BigQuery生成的ML模型的方式时，这里有点困惑。这里的台阶有什么问题吗？目前是否有可能为在线预测部署这样一个模型？如果没有，是否有一种方法可以将模型转换为可以部署？任何帮助都将不胜感激！

Answer 1

据我所知，您已经在BigQuery ML中培训了一个BigQuery模型，并且您的目标是使用人工智能平台进行在线预测。然而，根据文档的说法，不可能使用automl_regressor进行在线预测。

• 为模型类型AUTOML_REGRESSOR和AUTOML_CLASSIFIER导出的模型不支持用于在线预测的AI平台部署。

根据您的需要，您可以从BigQuery ML列表这里中选择另一个模型，该模型可用于在线预测。

此外，您还可以使用AutoML直接培训您的模型，并将其部署并用于在线预测。不过，请注意，AutoML模型用于特定的预测要求，如所描述的这里。此外，您还需要遵循文档来训练模型。

Answer 2

您还可以使用AutoML容器/Docker来部署使用文档这里进行BigQuery培训的AutoML模型。这类似于如何导出和部署直接使用AutoML表培训的模型。