如何使用Keras Tuner调整优化功能？

Question

如何使用Keras Tuner调整优化功能？我想试试SGD，Adam和RMSprop。

我试过了：

hp_lr = hp.Choice('learning_rate', values=[1e-2, 1e-3, 1e-4])
hp_optimizer = hp.Choice('optimizer', values=[SGD(learning_rate=hp_lr), RMSprop(learning_rate=hp_lr), Adam(learning_rate=hp_lr)])

model.compile(optimizer=hp_optimizer,
              loss="sparse_categorical_crossentropy",
              metrics=["accuracy"])

但是这并不像“一个Choice只能包含一种类型的值”那样工作。

Answer 1

也许最好的方法是这样做：

hp_optimizer = hp.Choice('optimizer', values=['sgd', 'rmsprop', 'adam'])

if hp_optimizer == 'sgd':
    optimizer = SGD(learning_rate=hp_lr)
elif hp_optimizer == 'rmsprop':
    optimizer = RMSprop(learning_rate=hp_lr)
elif hp_optimzier == 'adam':
    optimizer = Adam(learning_rate=hp_lr)
else:
    raise

model.compile(optimizer=optimizer,
              loss="sparse_categorical_crossentropy",
              metrics=["accuracy"])

显然，您需要一个更具描述性的异常(或者干脆不管它，因为它无论如何都不会发生)。即使不同的优化器属于同一类，IIRC hp.Choice也只允许整数、浮点数、布尔值和字符串，所以我看不到这样做的方法。