写出的超参数调优指标太多

Question

云ML引擎超参数调优失败，错误信息如下：

Too many hyperparameter tuning metrics were written by Hyperparameter Tuning Trial #...

我该如何解决这个问题？

Answer 1

首先，检查以确保您确实没有写出太多的评估指标。您是否在EvalSpec中指定了适当的限制？

其次，检查损失度量。训练中的损失指标与评估中的损失指标是否相同？如果是这样的话，您的超参数调优作业正在被训练指标搞糊涂。

最简单的解决方法是定义一个新的评估指标，并使用该指标(在我的示例中为“rmse”)作为hyperparameterTag。

下面的示例展示了这两种修复方法：

# create metric for hyperparameter tuning
def my_rmse(labels, predictions):
    pred_values = predictions['predictions']
    return {'rmse': tf.metrics.root_mean_squared_error(labels, pred_values)}


# Create estimator to train and evaluate
def train_and_evaluate(output_dir):

    estimator = tf.estimator.DNNLinearCombinedRegressor(...)

    estimator = tf.contrib.estimator.add_metrics(estimator, my_rmse)

    train_spec = ...
    exporter = ...
    eval_spec = tf.estimator.EvalSpec(
        input_fn = ...,
        start_delay_secs = 60, # start evaluating after N seconds
        throttle_secs = 300,  # evaluate every N seconds
        exporters = exporter)
    tf.estimator.train_and_evaluate(estimator, train_spec, eval_spec)