如何从GAN训练发电机？

Question

在阅读了GAN教程和代码示例之后，我仍然不明白生成器是如何被训练的。假设我们有一个简单的例子：-生成器输入是噪声，输出是灰度图像10x10 -鉴别器输入是图像10x10，输出是0到1(假的或真的)。

训练鉴别器很容易以输出为假，并期望0。我们用的是真正的输出尺寸--单值。

但是训练生成器是不同的--我们取假输出(1值)，并将预期输出作为一个输出。但这听起来更像是又一次培训了犯罪嫌疑人。生成器的输出是图像10x10，如何用一个单一的值来训练它？在这种情况下，反向传播是如何工作的？

Answer 1

要训练生成器，必须在冻结鉴别器的权重的同时，反向传播整个组合模型，以便只更新生成器。

为此，我们必须计算d(g(z; θg); θd)，其中θg和θd是生成器和判别器的权重。为了更新生成器，我们可以计算梯度wrt。改为∂loss(d(g(z; θg); θd)) / ∂θg，然后使用正常梯度下降更新θg。

在Keras中，这可能类似于(使用functional )：

genInput = Input(input_shape)
discriminator = ...
generator = ...

discriminator.trainable = True
discriminator.compile(...)

discriminator.trainable = False
combined = Model(genInput, discriminator(generator(genInput)))
combined.compile(...)

通过将trainable设置为False，已经编译的模型不会受到影响，只有将来编译的模型才会被冻结。因此，判别器可以作为一个独立的模型进行训练，但是冻结在组合模型中。

然后，训练你的甘：

X_real = ...
noise = ...
X_gen = generator.predict(noise)

# This will only train the discriminator
loss_real = discriminator.train_on_batch(X_real, one_out)
loss_fake = discriminator.train_on_batch(X_gen, zero_out)

d_loss = 0.5 * np.add(loss_real, loss_fake)

noise = ...
# This will only train the generator.
g_loss = self.combined.train_on_batch(noise, one_out)

Answer 2

我想理解发电机培训过程的最好方法是修改所有的训练循环。

每一个时代：

1. 更新鉴别器：

- forward real images mini-batch pass through the Discriminator;
- compute the Discriminator loss and calculate gradients for the backward pass;
- generate fake images mini-batch via the Generator;
- forward generated fake mini-batch pass through the Discriminator;
- compute the Discriminator loss and derive gradients for the backward pass;
- add (real mini-batch gradients, fake mini-batch gradients)
- update the Discriminator (use Adam or SGD).

​

1. 更新生成器：

- flip the targets: fake images get labeled as real for the Generator. Note: this step ensures using cross-entropy minimization for the Generator. It helps overcome the problem of Generator's vanishing gradients if we continue implementation of the GAN minmax game.
- forward fake images mini-batch pass through the updated Discriminator;
- compute Generator loss based on the updated Discriminator output, e.g.:

损失函数(利用判别器估计假图像的概率，1)。

注意:这里1表示假图像的生成器标签是真实的。

- update the Generator (use Adam or SGD)

​

我希望这能帮到你。从训练过程中你可以看到，GAN玩家在某种程度上是“合作的”，即判别器估计数据与模型分布密度的比率，然后与生成器自由地分享这些信息。从这个角度来看，判别器更像是教师指导生成器如何提高而不是对手“(引用自I.Goodfellow教程)。