聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士网络安全公司 Wiz.io 发现,AI即服务(即 AI Cloud)平台如 Hugging Face 等易受严重风险,可导致攻击者提升权限、获得跨租户...
2024年AI安全相关动态分析
近日,关于人工智能在网络安全中的不良应用引起了广泛关注。首先,JFrog 的安全团队发现了Hugging Face平台上至少100个恶意人工智能机器学习模型实例。这些模型中的一些可以在受害...
AI模型库 : 下一个大型供应链攻击目标
像 Hugging Face 这样的AI模型平台,很容易受到攻击者多年来通过 npm、PyPI 和其他开源存储库成功执行的同类攻击的影响Hugging Face 等AI模型存储库为攻击者提供了与 np...
Hugging Face平台惊现100多个恶意AI/ML模型
As many as 100 malicious artificial intelligence (AI)/machine learning (ML) models have been discove...
AI供应链安全:Hugging Face 恶意ML模型事件分析
01 Hugging Face供应链攻击事件分析事件背景近期由JFrog安全团队监控发现,Hugging Face平台上的某些机器学习模型可能被用于对用户环境进行攻击。这些恶意的模型在加载时会导致代码...
Hugging Face 任意大模型仓库劫持 - 无声的破坏
摘要在这篇博客中,我们展示了攻击者如何攻击Hugging Face的Safetensors转换空间及其相关的服务机器人。这些服务是一个在Hugging Face上广受欢迎的服务,专门用于将不安全的机器...
全球知名AI 平台Hugging Face 惊现上百个恶意ML模型
左右滑动查看更多近日,JFrog 的安全团队发现Hugging Face 平台上至少 100 个恶意人工智能 ML 模型实例,其中一些可以在受害者的机器上执行代码,为攻击者提供了一个持久的后门,构成了...
Hugging Face转换服务存在高风险漏洞
安全公司 HiddenLayer 发现 Hugging Face 的 Safetensors 转换服务中存在一个漏洞,攻击者可以利用该漏洞拦截用户上传的 AI 模型并危及供应链。 根据 HiddenL...
AI模型可被劫持,Hugging Face转换服务存在高风险漏洞
网络安全公司HiddenLayer上周三在一份报告中表示,他们发现Hugging Face Safetensors转换工具存在着漏洞,可能被利用来劫持AI模型并发动供应链攻击。 Hugging Fac...
如何操纵AI大模型?研究发现一种隐蔽的供应链投毒方法
关注我们带你读懂网络安全通过破坏Hugging Face Safetensors格式转换服务,攻击者可以劫持用户提交的模型,造成供应链攻击。前情回顾·大模型安全动态OpenAI反复修补未果的ChatG...
Hugging Face API令牌暴露,大批生成式AI模型岌岌可危
Lasso Security的研究人员近日在代码存储库中发现了1681个暴露的Hugging Face API令牌,这使谷歌、Meta、微软和VMware等厂商面临潜在的供应链攻击。Lasso Sec...
【AI】Hugging Face datasets开源组件供应链攻击复现分析
0x01 前言供应链攻击已经是老生常谈了,但是利用大模型做供应链你听说过吗?下面一起来复现一下吧:作为“AI领域的GitHub“,全球最具影响力的AI开源社区,Hugging Face 提供了大量高质...