什么是神经结构学习中的“对抗性扰动”？

Question

最近在tensorflow 2.0中引入了神经结构学习(NSL)。我在tensorflow站点上通过了NSL上的本指南，以及关于“图像分类的对抗性正则化”的本教程。从概念上讲，我不清楚这是如何工作的。如何生成额外的对抗性样本，对抗性培训意味着什么，以及它如何帮助实现更高的准确性/性能？额外的代码确实很短，但是这段代码在幕后做什么还不清楚。会感激从外行人的角度一步一步的解释。

Answer 1

通常，对抗性示例是通过获取输出w.r.t的梯度创建的。输入，然后最大限度的损失。例如，如果您有一个猫和狗的分类任务，并且您想要创建对抗性示例，您可以在网络中输入一个256 x 256的猫图像，得到丢失w.r.t的梯度。输入，也将是一个256 x 256张量，然后添加负梯度(扰动)到你的图像，直到网络分类为狗。通过使用正确的标签对这些生成的图像进行再次训练，网络对噪声/扰动的鲁棒性更强。

还有其他更复杂的方法。例如，本论文解释了输入中的模式如何破坏光流估计网络的输出。