为什么我的变分自动编码器只产生正值？

Question

我复制了这个例子来构建一个变分自动编码器(VAE)。该示例使用图像，但我将其用于包含负值的信号。训练后，自动编码器只重建信号的正部分，不产生负值。有人能找出问题的所在或解释为什么会这样吗？

Answer 1

如果您使用示例中所示的确切代码，那么在解码器的末尾有x = torch.sigmoid(self.decConv2(x))，它取实数行，输出0，1之间的数字。这就是为什么网络无法输出负数的原因。如果要将模型更改为输出负数，请移除sigmoid函数。

当然，这意味着您还必须更改用于训练模型的损失函数，因为BCE损失仅对0，1范围内的输出有好处。

作为推荐，我建议任何人使用带对数损失的BCE并避免在解码器中使用乙状结肠，因为这种方法以更稳定的数字方式合并了乙状结肠和BCE损耗。