微软破获出售非法 Azure AI 权限事件，并公布黑客身份

点击上方蓝字关注我们

像被追踪代号为 Storm-2139 的这类组织，已经在想办法绕过生成式人工智能（GenAI）服务的防护措施，而微软则发起了一场 “点名羞辱” 行动予以反击，旨在捣毁他们的网络犯罪勾当。

微软数字犯罪部门指名道姓地揭露了四名男子，分别是伊朗人阿里安・亚德加尼亚、英国人艾伦・克里西亚克、香港的阮某某（Ricky Yuen）以及越南的潘德发（Phát Phùng Tấn ）。他们在售卖未经授权访问 Azure 人工智能服务的权限，还提供一步步的操作指南，教用户如何生成名人及其他人的低俗图片。

微软数字犯罪部门助理总法律顾问史蒂文・马萨达在一份声明中表示：“这种行为违反了我们生成式人工智能服务的使用条款，而且需要故意绕过我们的安全防护措施才能做到。我们没有提及具体的名人姓名，是为了保护他们的隐私，并且在提交的文件中没有包含合成图像和提示词，以防止有害内容的进一步传播。”

他解释称，微软上个月对该组织成员提起了诉讼，并成功查封了这一非法活动背后的一个网站。随后，微软的律师遭到了 “人肉搜索”，个人信息被公开张贴以作报复。

作为回应，微软提交了一份修正起诉书，并公开了他们认为是此次名为 “大语言模型劫持”（LLMjacking）网络攻击背后的人员信息。

大语言模型劫持的运作方式

大语言模型劫持类似于代理劫持和加密劫持，指的是未经授权使用他人的计算资源以作私用。在大语言模型劫持中，恶意行为者利用 OpenAI、Anthropic 或其他生成式人工智能服务提供商的大语言模型（LLMs）来生成非法图像，在此过程中无视了诸多法律法规。中国的生成式人工智能服务提供商兆言科技（DeepSeek）今年就已经多次遭遇大语言模型劫持。

对 Azure 人工智能服务的攻击本也可能发生在众多其他大语言模型上。此次攻击源于从公开渠道获取的客户暴露凭证。在这起事件中，Storm-2139 发现了暴露的 API 密钥，从而得以劫持生成式人工智能服务。

据微软称，Storm-2139 由三个部分构成。创作者开发出可用于滥用人工智能生成服务的非法工具；供应商对这些工具进行修改并提供给终端用户，且通常提供多层级的服务。然后，客户使用这些工具生成非法内容。

Keeper Security 公司负责安全与架构的副总裁帕特里克・蒂凯在一封电子邮件声明中表示：“攻击者不仅转售未经授权的访问权限，还积极操纵人工智能模型生成有害内容，绕过内置的安全机制。各机构必须认识到，生成式人工智能平台是网络犯罪分子眼中的香饽饽。安全团队必须实施最小权限访问原则，进行强身份验证，并将 API 密钥安全存储在数字保险库中，以防滥用。”

一旦攻击者售出访问权限，他们的客户就能想出各种利用人工智能进行的诈骗手段。

Oasis Security 的研究主管伊拉德・卢兹在一份声明中谈到大语言模型劫持诈骗时称：“从威胁行为者那里购买这些生成式人工智能服务的第三方，往往会违反服务条款，从事诸如‘人工智能女友’聊天（色情对话）、生成色情图片或制作有害内容等活动。这类内容通常是被禁止的，或者会让为 API 注册的服务提供商对相关机构的合法使用产生疑虑。”

SlashNext 邮件安全公司的现场首席技术官 J・斯蒂芬・科夫斯基在一封电子邮件声明中警告，除了这些人工智能诈骗的最初受害者之外，大语言模型劫持所产生的影响远远超出了最初的攻击范围。

科夫斯基说：“大语言模型劫持的主要危险在于它会引发多米诺骨牌效应，最初的凭证被盗会导致多个不良行为者广泛滥用，这些人购买受攻击的人工智能系统的访问权限。最令人担忧的是，一旦凭证在非法市场上被出售，就无法预测后续会造成什么损害，因为不同动机的各类犯罪分子都可能在受害者毫不知情的情况下使用其人工智能基础设施。”

Apono 公司首席执行官罗姆・卡梅尔在一份声明中表示，为保护人工智能模型免受大语言模型劫持网络攻击，关键是要了解其带来的网络风险，并严格防范滥用情况。

卡梅尔说：“随着各机构采用人工智能工具来推动发展，他们使用的包含敏感数据的应用程序也扩大了攻击面。为了安全地利用人工智能和云服务，应基于实际使用需求限制对敏感系统的访问，尽可能减少恶意行为者可乘之机。”

来源：darkreading

喜欢此文的话，可以点赞、转发、在看 一键三连哦！

原文始发于微信公众号（星尘安全）：微软破获出售非法 Azure AI 权限事件，并公布黑客身份