G.O.S.S.I.P 阅读推荐 2024-06-27 Why I attack

今天看到一篇吵架帖，当然要把这个分享给大家：

这篇博客文章的作者Nicholas Carlini是Google DeepMind的研究科学家，他写这篇文章的原因是芝加哥大学的Ben Zhao老师（头衔是Neubauer Professor of Computer Science）发了一个引战的话题（如上图中所示）。

最早大概在密码学领域里面，对于设计一个算法和攻破一个算法这种事情，大家是非常习以为常的，密码学研究社区的人甚至担心，其他领域的科学家在看到本领域在开会的时候出现那种台下的听众去把台上的演讲者的算法攻破了的情况，会不会觉得很冒犯。

然后是系统安全研究领域，攻防双方通过bounty这种方式，巧妙地找到了平衡（当然乌云网这种不算）。帮忙找安全漏洞（尽管一般来说只是提提修复意见，很少有依赖找漏洞的人来负责修复漏洞这种说法），至少大家目前认为算是个好事。

但是最近几年，突然之间开发者社区开始不爽了，觉得这些人不是在找我们的代码的漏洞，是在找我们的麻烦。在安全研究社区这边，现在动不动就要求考虑Ethics的政治正确，也反映出来了一些变化。

今天这个博客文章出来，终于看到AI社区也被卷入到了attack and defense的争论，各位密码和安全攻防研究人员，搬好小板凳来吃瓜吧。

原文：

https://nicholas.carlini.com/writing/2024/why-i-attack.html

原文始发于微信公众号（安全研究GoSSIP）：G.O.S.S.I.P 阅读推荐 2024-06-27 Why I attack