在Pytorch中实现torch.optim.lr_scheduler.LambdaLR时出错

Question

我正在研究一个图像分类器，并试图实现循环学习率，以获得更好的结果。我正在使用lr_scheduler.LambdaLR在训练期间调整学习率，但我遇到一个错误，我不确定是什么原因造成的。这是我的代码：

lr_find_epochs = 2
start_lr = 1e-7
end_lr = 0.1
# Set up the model, optimizer and loss function for the experiment

optimizer = torch.optim.SGD(model.parameters(), start_lr)
criterion = nn.NLLLoss()
# LR function lambda

lr_lambda = lambda x: math.exp(x * math.log(end_lr / start_lr) / (lr_find_epochs * len( train_loader)))
scheduler = torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambda=lr_lambda)

这就是我遇到的错误：

​

lr_scheduler.py中的错误。

Answer 1

这个问题是由这里的这行引起的

scheduler = torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambda=lr_lambda)

如错误所示，您试图在赋值之前引用该值，即调用lambda函数时将其自身作为当前未赋值的参数。因此，在lr_scheduler.py中会引发错误

也许你想把其他东西传递给lambda函数。