论文题目：Improved Adversarial Robustness by Reducing Open Space Risk via Tent Activations
论文地址：https://arxiv.org/pdf/1908.02435.pdf
论文题目：Thermometer encoding: One hot way to resist adversarial examples
论文地址：https://openreview.net/pdf?id=S18Su--CW
--------------------------
论文题目：Improved Adversarial Robustness by Reducing Open Space Risk via Tent Activations
论文地址：https://arxiv.org/pdf/1908.02435.pdf
摘要：通过离散化，这篇文章把CIFAR-10上的robust accuracy从对抗训练的41.8%提升到73.5%。（这个我是持怀疑态度的。请看https://github.com/MadryLab/robustness）。
这篇文章的motivation是：当输入远离训练时样本，来自未知分布的风险增加。所以，应该抑制输入远离训练样本这种情况。而这篇文章想到的方法是，使用一个新的激活函数。例如，使用一个帐篷激活函数替换ReLU函数。
关于攻击的超参数设置：the adversary is limited to 7 iterations, the maximum l∞ of perturbations is 0.032 (= 8.16 in [0, 255] pixel-value range) while the step-size for iterations is set to 0.008. As before, for evaluation, we use the default settings of ART, however, we change the l∞ limit for perturbations to 0.032 and the step-size to 0.008 for applicable adversaries.
在这个参数下：https://github.com/MadryLab/robustness的结果为53.49% / 53.29%。不过网络结构与本文作者所用的网络结构不一致 。如果用作者的网络，说不定更高。
不过，总体来说，这个文章的性能确实不错。不知为会没有什么人follow。好像也是从2019年放Arxiv之后（似乎投的是neurip没中），再也没有发表。
-----------------------------------
论文题目：Thermometer encoding: One hot way to resist adversarial examples
论文地址：https://openreview.net/pdf?id=S18Su--CW
文章发表在iclr上。这个正是一个有趣的离散化。
普通离散化：[0, 0.1] -> 0.1; [0.1, 0.2] -> 0.2, …, [0.9, 1.0] -> 1.0
One hot离散化，[0, 0.1] -> 1000000000， [0.1, 0.2] -> 0100000000, …,[0.9, 1.0] -> 000000001
温度计离散化：[0, 0.1] -> 011111111， [0.1, 0.2] -> 0011111111, …,[0.9, 1.0] -> 1111111111，也就是大于这个位置的全为1.
这个文章和上述帐篷激活函数效果非常不错。
但是icml 2018 best paper: Obfuscated Gradients Give a False Sense of Security: Circumventing Defenses to Adversarial Examples指出，只有用恰当的连续函数来替换离散函数。这一切都可以被攻击。这个best paper一口气攻击了好多个方法。包括本文的温度计离散化方法。
-----------------------------------
大家好，我来自fast lab。我开始不定时公开写作。这些写作主要通过两个渠道公布：一是FAST LAB官方网站；一是印象识堂（微信可访问）。欢迎大家订阅。谢谢！
FAST Lab的官方网址为：https://wanggrun.github.io/projects/fast
除此外，还可以关注我的小伙伴王广润：https://wanggrun.github.io/
王广聪： https://wanggcong.github.io/
石阳：https://www.linkedin.com/in/%E9%98%B3-%E7%9F%B3-381b521a4/
有时候这些网站打不开，请耐心多点几次。
多谢大家关注。