用随机抽样V1定义超参数整定中采样算法时的误差

Question

我正在尝试执行随机抽样来完成超参数调优和参数调优版本1 (v1)。我希望有机会明确地将该算法定义为采样算法。

目前正在使用下面的代码块，是否有可能在V1中显式地实现采样？如果没有，任何解决这个问题的具体程序都是有帮助的。

from azureml.train.hyperdrive import RandomParameterSampling
from azureml.train.hyperdrive import normal, uniform, choice
param_sampling = RandomParameterSampling( {
        "learning_rate": normal(10, 3),
        "keep_probability": uniform(0.05, 0.1),
        "batch_size": choice(16, 32, 64, 128)
    }
)

Answer 1

有一个称为扫描作业的显式过程。此扫描作业以超参数值表示。我们可以显式地提到使用扫描任务的随机抽样。

从azure.ai.ml.sweep进口正常、统一、RandomParameterSampling

Command_job_for_sweep = command_job(
    learning_rate = Normal(mu=value, sigma=value),
    keep_probability=Uniform(min_value= your value, max_value= value),
    batch_size = Choice(value=[.your values in list]),
)

Sweep_job = command_job_sweep.sweep(
    Computer =”cluster”,
    sampling_algorithm=”random”,
    ....
)

这将可在版本2 (v2)的超参数调优随机抽样。