AI Python 包中存在缺陷 Llama Drama ,威胁软件供应链

admin 2024年5月23日19:21:51评论71 views字数 839阅读2分47秒阅读模式

AI Python 包中存在缺陷 Llama Drama ,威胁软件供应链聚焦源代码安全,网罗国内外最新资讯!

编译:代码卫士

Checkmarx 公司的安全团队在报告中提到,看似可信的AI模型在安装后门。该漏洞被称为“LIama drama”,影响 llama_cpp_python 包,可能导致攻击者执行任意代码并攻陷数据和操作。

该漏洞影响可信平台如 Hugging Face 上的6000多个AI模型,凸显AI平台和开发人员解决供应链安全挑战的必要性。值得注意的是,该漏洞是由一名网络安全研究员率先发现的。

该漏洞的编号是CVE-2024-34359,是因对 “llama_cpp_python” 包中的 Jinja2 模板引擎滥用导致的严重漏洞。它位于模板数据处理中,后者并未获得正确的安全措施如沙箱等防护措施。尽管 Jinja2 支持沙箱,但本案例并未使用,从而导致攻击者可在主机系统上执行任意代码。

Jinja2 是用于模板渲染和HTML生成的一个 Python 库,但如未得到正确配置,则可能成为安全风险。相反,llama_cpp_python 包轻松集成 Python 易用性和 C++ 性能。它是复杂AI模型处理大量数据的理想工具,不过也可遭模板注入攻击。

AI Python 包中存在缺陷 Llama Drama ,威胁软件供应链
风险评估

该漏洞的重要性在于,AI系统会处理敏感数据集。这类漏洞会导致AI系统面临越权操作、数据盗取、系统攻陷和运营中断风险,从而影响个人隐私和组织机构的完整性。

AI系统的安全至关重要,因为它们的供应链依赖于第三方库和框架。鉴于AI系统通过系统集成攻击面得到扩展,因此,单个组件中的漏洞可影响整个系统。不过好在该漏洞已在0.2.72版本中修复,并额外添加了沙箱和输入验证措施。建议组织机构及时更新确保系统安全。

这一事件凸显了不断互联的世界中的风险。很多AI模型都会在AI共享,而如果其中一个模型中存在弱点,则会向病毒一样传播。它提醒开发人员和AI平台警惕软件供应链安全漏洞。烹饪之前要检查食物成分,同样也应确保所用软件是安全的。

原文始发于微信公众号(代码卫士):AI Python 包中存在缺陷 “Llama Drama” ,威胁软件供应链

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年5月23日19:21:51
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   AI Python 包中存在缺陷 Llama Drama ,威胁软件供应链https://cn-sec.com/archives/2770906.html

发表评论

匿名网友 填写信息