首个公开针对AI工作负载的大规模攻击：数千台服务器被黑

前情回顾·生成式AI安全动态

• 警惕！生成式AI将推动网络物理攻击时代来临

• 全球首个AI蠕虫面世：可在AI系统之间自动传播

• 如何操纵AI大模型？研究发现一种隐蔽的供应链投毒方法

• OpenAI反复修补未果的ChatGPT数据泄露漏洞是什么？

安全内参3月29日消息，OpenAI、优步和亚马逊所使用的AI计算框架Ray发现了一个已被报告的漏洞，该漏洞遭到持续攻击，导致数千台存储AI工作负载和网络凭证的服务器被黑。据了解，这些攻击已经持续了7个月。

攻击者不仅篡改了AI模型，还泄露了访问内部网络和数据库的网络凭证，并获取了OpenAI、Hugging Face、Stripe和Azure等平台帐号的访问令牌。除了破坏模型和窃取凭证，攻击者还在能够提供大量算力的被侵入基础设施上安装了加密货币挖矿软件，并设置了反向shell，通过这种基于文本的界面实现对服务器的远程控制。

我们非常认真地考虑过这样做是否合理。到目前为止，我们还没有实施这一变更，因为我们担心用户可能会过分信任这种机制——它可能只能实现表面上的安全，并没有像他们想象的那样真正保护集群。

尽管如此，我们认识到，这是个见仁见智的问题。我们仍然认为组织不应该依赖Ray内部的隔离控制手段，如身份验证。但这些手段在进一步实施深度防御策略的某些情境中可能是有价值的。因此，我们决定将在未来的版本中将其作为一个新功能实施。