从cleverhans攻击模型生成对抗性数据

Question

我想要一个代码示例，说明如何从聪明的hans的对抗性攻击中生成训练数据。

adv_x = fgsm.generate_np(X_test, **fgsm_params)

这会生成对抗性的x数据，但我如何获得y呢？

adv_pred = model.predict_classes(adv_x)

这会给出“被愚弄”的结果，对吧？

我想要的是正确地显示生成的x，y，被愚弄的y(我指的是模型预测的结果，因为攻击可能是错误的)。我用的是Mnist，如果有用的话。

Answer 1

根据您共享的代码片段，我提出两个建议：

• 在测试数据上对模型进行培训通常不是一个好主意(如果以后要使用这些测试数据来评估其性能)，所以我将在第一行中用X_test代替X_train。
• 要获得对抗性示例的标签，可以使用培训数据的原始标签或原始培训数据model.predict_classes(X_train)上的模型预测(这假设对抗性示例不足以更改输入的标签)。