OpenAI核心安全团队解散,安全到底保护了什么?

admin 2024年5月22日20:55:01评论2 views字数 1650阅读5分30秒阅读模式
你知道你的农场里有一座火山。
火山可能下一秒爆发,也可能永远不会爆发。
你雇佣一个专家来保护你的农场,但他不能保证这座火山永远不会爆发。
于是你每次辛苦劳作时,心中都会有一片阴影:
火山会爆发吗?专家在干活吗?也许她扔下你走了,也许她一直在偷懒?
你受不了了,你解雇了专家:我不能完全安全,那这样的保障有何必要?
你觉得身上的负担变轻,走向农田,身后是火山隆隆作响。

. . . * . * ☄️. * . * . 🔆 .* . * . 🧶 * . * . . .

01 | 团队解散,负责人出走

这件事情实际上起因于5月14日。由于OpenAI内部的斗争,首席科学家伊尔亚·苏茨克维于此日宣布离职,几小时后OpenAI安全团队“超级对齐”负责人杨·莱克(下称杨)也宣布离职,“超级对齐”被解散。

其实这也平常。高层权力斗争非常常见,但不平常的是5月17日,杨突然在X上怒发多条推文,such as:

OpenAI核心安全团队解散,安全到底保护了什么?

我加入是因为我认为OpenAI将是世界上进行这项研究的最佳场所。

然而,很长一段时间以来,我一直不同意OpenAI领导层对公司核心优先事项的看法,直到我们最终达到了一个临界点。

OpenAI核心安全团队解散,安全到底保护了什么?

但在过去的几年里,安全文化和流程(意思应该是对产品安全的推进工作)已经为“光芒四射”的产品让步。

OpenAI核心安全团队解散,安全到底保护了什么?

OpenAI必须成为一家安全第一的AGI公司。

还有好几条,后面的比较场面话我就不截图了,放上原链接,感兴趣的读者可以自行查看:

⛓️https://x.com/janleike/status/1791498187313963308

当然最引人瞩目的还是最后一条,貌似在说:OpenAI没有这么重视安全,没有把安全视作第一。

作为目前AI行业的第一,OpenAI确实也深受网络攻击之苦,其招牌产品GPT就不止一次曝出存在漏洞,造成用户信息大范围泄露等。那么,为什么即使如此,OpenAI也不那么注重安全呢?

02 | 安全,总是不安全

正如我文章开头所说的,企业就是农场主,安全负责人则是守着火山的专家。世界上没有永远的安全,这句话是真理,但不是每个人都能对这道铁律屈身稽颡。

OpenAI核心安全团队解散,安全到底保护了什么?

正如这张图所言,专家往往更不敢向客户保证安全二字

花了钱却不能保证安全,这导致很多厂商因此对安全二字敬而远之。甲方们即使有专门的安全团队也不会重视网络安全,安全部门多数处于有事背锅无事混吃等死的尴尬地位。

长此以往,安全部门经费不足又要背锅,自然也会心生不满(我想这是大多数甲方同僚们的日常),毕竟公司想当齐宣王安全也不想当钟无艳呀,又要马儿跑又要马儿不吃草,时不时还送点马蹲号子,你不仁我不义,不如摸鱼咯。

自然,公司这边也有很多理由:经费不足,安全又不产出——饭都吃不饱了还要喂你们安全?更有甚者,摆出一副“说不定是你们监守自盗”的样子,笔者真的见过这样的客户,感觉如果负责网安的同志不在肯定把我一脚踹出门了- -。

于是两方谁都理解不了谁,又迫于监管压力(这种压力真的非常必要,有些厂商没有监管真不敢想象能怎么乱搞)绑在一起,这就是大多数厂商和安全部门的日常。

03 | 网络安全如何守护

首先我们需要明晰一个事实:守护网络安全是关乎所有人利益也需要所有人参与的日常行为

关乎所有人利益我相信不用解释,毕竟谁也不想自己的交易数据、身份信息被人肆意盗取倒卖。

需要所有人参与则是指要培养个人的网络安全意识,包括但不限于:不点击不明链接、不泄露密码、不散布涉密信息等。千里之堤溃于蚁穴,很多数据并非由漏洞攻击泄露,而败在社工钓鱼攻击之下。

日常行为则是指网络安全意识需要长期培养,且日常遵守;针对网络攻击的防守和演练也需要定期进行。原因也很简单:网络拉近了每个人的距离,自然也拉近了和每个贼的距离。守护网络安全比起物理上的安全更需要打起十二分精神。

. . . * . * 🌟  * . * . . .

由于很多人问我微信群的事情,所以我建了一个小微信群。现在可以在公众号菜单里选择合作交流->交流群获取交流群二维码,希望大家和谐交流,为更好更友善的行业环境贡献自己的力量。

原文始发于微信公众号(重生之成为赛博女保安):OpenAI核心安全团队解散,安全到底保护了什么?

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年5月22日20:55:01
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   OpenAI核心安全团队解散,安全到底保护了什么?https://cn-sec.com/archives/2767425.html

发表评论

匿名网友 填写信息