VDM++证明了,当不同噪声强度处的损失函数权重满足单调关系时,扩散模型是最大似然模型。然而,实际训练中,往往并不采用这样的损失函数权重。 VDM++的研究表明,使用单调损失权重ω(t)实际上等同于为所有中间状态最大化ELBO。然而,单调权重并不能表征不同噪声强度任务的训练难度差异。 如前所述,图像数据通常不具备这种等变性。 从VDM++的训练损失出发: 要调节训练过程中不同噪声强度的冲突,要不改变损失函数ω (λ),要不改变采样频率P(λ)。