TPE (来自Optuna)是否考虑了试验的数量？

Question

我正在使用optuna的TPE采样器来优化深度学习视觉模型的超参数。我想知道optuna是否适应搜索取决于试验的数量。

如果我训练1000次试验，并在500次时停止，我可以看到许多参数没有被算法尝试。如果我减少了n_trials，TPE是否会探索得更快(更不精确)？换句话说，用n_step=1000中断500的optuna与使用n_trials = 500并等到结束时相同。

我对TPE的工作原理只有基本的了解。

谢谢。

Answer 1

如果我减少了n_trials，

探索会更快(更不精确)吗？

不是的。

...使用n_step=1000中断500处的optuna是否与使用n_trials = 500并等待结束时相同。

是。

这是因为TPE (来自Optuna)不知道剩余(或总)试验的数量。