当前位置:体坛均波-有意思吧 > 大乐透17101期预测

大乐透17101期预测

发布时间:2018年11月11日6时26分15秒

MIT在读博士生质疑ICLR2018防御论文很水?IanGoodfellow跟帖回应|跟帖|推特|推文_新浪科技_新浪网新浪首页新闻体育财经娱乐科技博客图片专栏更多汽车教育时尚女性星座健康房产历史视频收藏育儿读书佛学游戏旅游邮箱导航移动客户端新浪微博新浪新闻新浪体育新浪娱乐新浪财经新浪博客新浪视频新浪游戏天气通我的收藏注册登录新浪科技滚动新闻正文新闻图片博客视频MIT在读博士生质疑ICLR2018防御论文很水?IanGoodfellow跟帖回应MIT在读博士生质疑ICLR2018防御论文很水?IanGoodfellow跟帖回应2018年02月03日22:06雷锋网缩小字体放大字体收藏微博微信分享腾讯QQQQ空间雷锋网AI科技评论:这是一名MITCS在读博士生在推特上引发的争论。

谷歌大脑负责人JeffDean日前在推特上转了一篇名字为AnishAthalye的推文,立刻引起了整个机器学习学术圈的关注,被誉为「GANs之父」的IanGoodfellow也接连跟帖回复。

AnishAthalye:我们研究了ICLR论文,结果并不令人满意到底是什么言论惊动了众多AI界大牛,我们先来看看这篇推文:防御对抗样本仍然是一个尚未解决的问题,三天前公布的ICLR接收论文里,八篇关于防御论文里已经有七篇被我们攻破。

(只有「aleks_madry」等人的论文中提到的方法在攻击中准确率保持了47%,没有被攻破)AnishAthalye也贴出了自己的GitHub地址,https://github.com/anishathalye/obfuscated-gradients,其中有详细的说明。

雷锋网发现在他的GitHub中展示了一个对抗样本的例子,对一只猫的图像加入轻微的干扰就可以使分类器Inceptionv3判别错误,将猫头像错认为为「果酱」。

他称这样的「欺骗性图像」很容易使用梯度下降法生成。

根据GitHub中的介绍,AnishAthalye等人近期的论文《ObfuscatedGradientsGiveaFalseSenseofSecurity:CircumventingDefensestoAdversarialExamples》(https://arxiv.org/abs/1802.00420)研究了ICLR2018收录的八篇关于防御的论文中的防御对抗样本的鲁棒性,发现其中有七种防御鲁棒性都很有限,可以通过改进的攻击技术攻破。

下面是论文中的一个表格,展示了多种对抗性样本防御方法在攻击下的鲁棒性。

(加*表示的这些防御方法建议结合对抗性训练使用)根据AnishAthalye等人的研究,八篇论文中唯一一篇显著提高对抗样本防御的鲁棒性的论文是:《TowardsDeepLearningModelsResistanttoAdversarialAttacks》(即上述表格中的准确率47%那篇)。

除了使用威胁模型以外,没有办法攻破这种防御。

即便如此,这种防御方法也是难以扩展大乐透17101期预测到ImageNet规模的。

其余的七篇论文无论是有意还是无意都在依赖于「混淆梯度」。

一般的攻击利用梯度下降法使给定图像网络损失最大化,从而在神经网路上产生对抗样本,这种优化方法需要有用的梯度信号才能成功。

基于混淆梯度的防御会破坏这种梯度信号,并导致优化方法失效。

AnishAthalye等人定义了三种基于混淆梯度的防御方式,并构建了绕过每一种攻击的方法。

新的攻击方法适用于任何有意的、无意的、包括不可微分操作或以其他方式防止梯度信号流经网络的任何防御。

研究员们希望用此方法进行更彻底的安全评估。

《TowardsDeepLearningModelsResistanttoAdversarialAttacks》论文摘要我们意识到「混淆梯度」给防御对抗样本带来的是一种虚假的安全感现象,尽管基于混淆梯度的防御可以打败基于优化的攻击,但我们发现依靠这种效果的防御仍然可以被攻破。

对于我们发现的三种混淆梯度类型中的每一种,我们都会描述展示这种效果的防御指标,并开发攻击技术来攻破它。

在样本研究中,我们试验了ICLR2018接收的所有防御措施。

我们发现混淆梯度是常见现象,其中8个防御中的7个依靠混淆梯度。

使用我们新的攻击技术,成功攻破了7个。

论文地址:https://arxiv.org/abs/1802.00420IanGoodfellow:你们其实只研究了一部分论文JeffDean转发后,很快引起了整个机器学习学术圈的注意。

难道这是在质疑ICLR2018收录的论文质量很水吗?由于Anish的表态主要是针对对抗性样本的防御问题,很快便吸引了GANs的发明者、以及长期研究对抗性样本的IanGoodfellow围观,并在推特评论区接连跟帖回应。

Goodfellow回应称,ICLR2018实际上至少收录有11篇关于防御的论文,其他三篇没有提到,却说只有Madry一篇中提到的方法没有被攻破,这是不公平的。

Goodfellow:ICRL实际上至少有11篇防御论文,而不是8篇。

(另外三篇里,)实际上有2篇已被证明可防御,还有1篇他们没有研究。

他们(论文的作者)应该说「所有未经认证的白盒防御」而不是「全部防御」。

另外,Goodfellow认为这篇论文中提出的「混淆梯度」简直就像是给「梯度掩码」换了个名字而已。

为了让大家对「梯度掩码」的概念更加了解,Goodfellow还推荐了相关文献。

与此同时,Goodfellow还丢出了一篇ICLR2018论文(Goodfellow是作者之一),称已经专门解决了梯度解码的问题了。

论文题目:EnsembleAdversarialTraining:AttacksandDefenses论文地址:https://arxiv.org/pdf/1705.07204.pdf不过这一观点截至目前暂未被发出这条震惊学术圈推文的AnishAthalye所承认。