概述¶

基于微分进化differential evolution的单像素点对抗样本生成

有趣的新发现、目标，方法不新颖

$$ x+\epsilon \operatorname{sign} (\nabla_{x} J(\theta, x, y)) $$

且知 $\epsilon$取值一般极小， 就能骗过神经网络。

如果只修改少量甚至就一个像素的值，能否成功呢？

数学定义如下：

$$ \begin{array}{ll}{\underset{e(\mathbf{x})^{*}}{\operatorname{maximize}}} & {f_{a d v}(\mathbf{x}+e(\mathbf{x}))} \ {\text { subject to }} & {|e(\mathbf{x})|_{0} \leq d}\end{array} $$

方法¶

作者使用微分进化differential evolution， 一种进化算法来寻找图片中的像素点。