基于CleverHans的随机森林黑匣子

Question

我对这种东西很陌生，并试图用黑盒FGSM攻击兰登森林(来自聪明的汉斯)

但我不知道该如何实施。他们有一个Mnist数据的黑匣子示例，但我不知道我应该把我的随机森林放在哪里，我应该在哪里攻击。任何帮助都将不胜感激。

Answer 1

在本教程中，黑匣子模型是一个用TensorFlow实现的神经网络，它的预测(标签)被用来训练替代模型(黑匣子模型的副本)。然后，替代模型被用来制作对抗性的例子，然后转移到黑匣子模型。

在您的例子中，您必须在

bbox_val = batch_eval(sess, [x], [bbox_preds], [x_sub_prev],
                        args=eval_params)[0]

通过对随机森林的预测，对替代训练数据的numpy数组进行x_sub_prev。

您可以在以下文章中找到有关本教程中实现的攻击的更多信息：https://arxiv.org/abs/1602.02697