mlr3超带调谐中的配置数

Question

如何控制在mlr3中的超带调优期间评估的配置数？我注意到，当我在xgboost()中调优6个参数时，代码会评估大约9种配置。当我在catboost()中调优相同数量的参数时，代码从评估729个配置开始。在这两种情况下，我都使用eta =3。

Answer 1

超带中的采样配置数由超参数和eta的下界和上界定义。您可以预览计划和配置的数量：

mlr3hyperband::hyperband_schedule(r_min = 1, r_max = 81, eta = 3)

#>     bracket stage budget  n
#>  1:       4     0      1 81
#>  2:       4     1      3 27
#>  3:       4     2      9  9
#>  4:       4     3     27  3
#>  5:       4     4     81  1
#>  6:       3     0      3 34
#>  7:       3     1      9 11
#>  8:       3     2     27  3
#>  9:       3     3     81  1
#> 10:       2     0      9 15
#> 11:       2     1     27  5
#> 12:       2     2     81  1
#> 13:       1     0     27  8
#> 14:       1     1     81  2
#> 15:       0     0     81  5

mlr3hyperband::hyperband_n_configs(r_min = 1, r_max = 81, eta = 3)

#> 143

如果要评估更多配置，请增加超带的repetition参数。在评估最后一个括号后，Hyperband将重新启动。为这个devtools::install_github("mlr-org/mlr3hyperband")安装最新的gh版本。