对抗性机器学习的直观解释

Question

你如何解释对抗性机器学习的简单外行术语为非STEM的人？对抗性机器学习的主要思想是什么？

Answer 1

考虑到两个人之间正在玩的游戏，为了简单起见，我们假设这个游戏是区分一只熊猫的真实图片和一张假熊猫图片。第一个玩家会把画拿给第二个玩家看，如果第二个玩家猜得对不对，他们会得到奖励，如果没有。双方都在玩游戏，目的是最大化他们的回报。

再深入一点，但让它与对抗性ML的上下文稍微相关一些。我们可以进一步假设两个玩家都是从对熊猫的零知识开始的。你可能会想，玩家1只是在画布上随意抛出颜色，试图说服玩家2，而玩家2只是随机猜测，慢慢地建立他们对熊猫是什么的直觉。

经过几个小时/天/年，我们可能会发现，这两个球员都是非常熟练的，画熊猫和识别假熊猫分别。

简而言之，这就是对抗性ML的意义所在。目标是有两个具有竞争报酬的代理人，其中他们的最优解是某种形式的混合策略纳什均衡。