开源 AI/ML 平台中发现的严重漏洞

在过去的一个月里，人工智能 (AI) 和机器学习 (ML) 的 Huntr 漏洞赏金平台的成员在 MLflow、ClearML 和 Hugging Face 等流行解决方案中发现了多个严重漏洞。

CVSS 得分为 10，其中最严重的问题是 MLflow 中的四个关键问题，MLflow 是一个用于简化 ML 开发的平台，提供一组支持现有 ML 应用程序和库的 API。

其中一个问题 CVE-2023-6831 被描述为根源于工件删除的路径遍历错误，该操作在使用前对路径进行规范化，允许攻击者绕过验证检查并删除服务器上的任何文件。第二个漏洞CVE-2024-0520存在于 mlflow.data模块中，该漏洞可被精心设计的数据集滥用，生成未经清理的文件路径，从而允许攻击者访问信息或覆盖文件，并可能实现远程代码执行 (RCE) 。第三个严重缺陷 CVE-2023-6977 被描述为路径验证绕过，可能允许攻击者读取服务器上的敏感文件，而第四个严重缺陷 CVE-2023-6709 可能导致在加载恶意软件时远程执行代码。配方配置。

MLflow 2.9.2中解决了所有四个漏洞，该漏洞还修复了一个高严重性的服务器端请求伪造 (SSRF) 错误，该错误可能允许攻击者访问内部 HTTP(S) 服务器并可能在受害者计算机上实现 RCE。Hugging Face Transformers 中发现了另一个严重缺陷，它提供了用于构建 ML 应用程序的工具。

该问题 CVE-2023-7018 的存在是因为用于从远程存储库自动加载 vocab.pkl 文件的函数没有实施任何限制，这可能允许攻击者加载恶意文件并实现 RCE。Transformers版本 4.36 解决了该漏洞。Huntr 社区的成员还发现ClearML中存在高严重性的存储跨站脚本 (XSS) 缺陷，ClearML 是一个用于在统一环境中自动化 ML 实验的端到端平台。

该问题被追踪为 CVE-2023-6778，是在项目描述和报告部分的 Markdown 编辑器组件中发现的，如果将未经过滤的数据传递给该组件，则允许注入恶意 XSS 有效负载，从而可能导致用户帐户泄露。

Protect AI 尚未公开有关严重性Paddle命令注入漏洞 (CVE-2024-0521) 的详细信息，该公司表示，所有漏洞均在报告发布前 45 天报告给项目维护人员。

（来源：安全客 - 有思想的安全新媒体）