建立物流逆向竞争样本

Question

我用logistic回归进行了二值分类。

我的目标是：

我知道超平面方程y = wTx + b的系数w。我想要做的是通过扰乱我的观点来创造相反的例子，这样它们就会在我的超平面后面出现。

这就是说，确保分类为0的点数变为1，而被分类为1的点数变为0。

我想找出允许这样做的最小扰动，也就是正交投影点比超平面远一点的微扰。

Answer 1

在logistic回归中，假设一些参数为p(\text{class } y\!=\!1|x) = \sigma(w^\top\!x+b) ( w，b )，这些参数可以从数据中估计。通常，点x分配给y\!=\!1类，如果是\sigma(w^\top\!x+b)>0.5，则为y\!=\!0。决策边界是x，其中\sigma(w^\top\!x+b)=0.5或简单的w^\top\!x+b =0 (与w正交的超平面，与w^\top\!x=-b)。

给出了模型标记为x的y\!=\!1 (即w^\top\!x+b >0)，通过减去向量w的某些量(\lambda)，将其投影到决策边界上的最近点x'，因为这与决策边界是正交的。也就是说，\lambda满足0=w^\top\!x'+b =w^\top\!(x\!-\!\lambda w)+b。

重新排列，给出\lambda = \tfrac{w^\top\!x+b}{w^\top w} \ ，所以\ x' = x\!-\!\tfrac{w^\top\!x+b}{w^\top w} w\ 是x在决策边界上的投影。选择一个较大的\lambda会给出一个通过决策边界的点，这个边界被分配给类y\!=\!0。(请注意，\lambda = \tfrac{w^\top\!x+b}{w^\top w}必须是正的，因为w^\top\!x+b对于给定的x是正的，而w^\top\!w总是正的)。

因此，对于x标记的y\!=\!1，最近的点x^*标记的y\!=\!0 (用欧几里德距离表示)是\ x^* = x-\lambda^* w\ ，其中\ \lambda^*=\tfrac{w^\top\!x+b}{w^\top w}+\delta\ 和\delta\!>\!0都很小。