mnist_challenge

最近，针对神经网络的对抗攻击取得了很大进展，例如 cleverhans 库和 Carlini 和 Wagner 的代码。我们现在通过提出一个 攻击挑战 来补充这些进展，该挑战针对 MNIST 数据集（我们最近发布了 CIFAR10 版本的此挑战）。我们训练了一个鲁棒的网络，目标是找到一组对抗样本，在这些样本上，该网络的准确率仅为低水平。为了训练一个对抗攻击鲁棒的网络，我们遵循了我们最近论文中的方法：

Aleksander Madry, Aleksandar Makelov, Ludwig Schmidt, Dimitris Tsipras, Adrian Vladu https://arxiv.org/abs/1706.06083. 作为挑战的一部分,我们公开了训练代码和网络架构,但保留了网络权重的秘密。我们邀请任何研究人员对我们的模型提交攻击(请参阅下面的详细说明)。我们将在接下来的两个月内维护最佳攻击的排行榜,然后公布我们的秘密网络权重。

我们挑战的目标是明确 MNIST 上的对抗性鲁棒性的最新进展。此外，我们希望未来的防御机制研究采用类似的挑战格式，以提高可重复性和实证比较。

** 2017-10-19 更新：** 我们发布了我们的秘密模型，您可以通过运行 Python fetch_model.py secret 来下载它。截至 10 月 15 日，我们不再接受黑盒挑战提交。我们很快将设置一个排行榜，以跟踪白盒攻击。非常感谢所有参与的人！