01 Hugging Face供应链攻击事件分析事件背景近期由JFrog安全团队监控发现,Hugging Face平台上的某些机器学习模型可能被用于对用户环境进行攻击。这些恶意的模型在加载时会导致代码...
Hugging Face 任意大模型仓库劫持 - 无声的破坏
摘要在这篇博客中,我们展示了攻击者如何攻击Hugging Face的Safetensors转换空间及其相关的服务机器人。这些服务是一个在Hugging Face上广受欢迎的服务,专门用于将不安全的机器...
全球知名AI 平台Hugging Face 惊现上百个恶意ML模型
左右滑动查看更多近日,JFrog 的安全团队发现Hugging Face 平台上至少 100 个恶意人工智能 ML 模型实例,其中一些可以在受害者的机器上执行代码,为攻击者提供了一个持久的后门,构成了...
Hugging Face转换服务存在高风险漏洞
安全公司 HiddenLayer 发现 Hugging Face 的 Safetensors 转换服务中存在一个漏洞,攻击者可以利用该漏洞拦截用户上传的 AI 模型并危及供应链。 根据 HiddenL...
AI模型可被劫持,Hugging Face转换服务存在高风险漏洞
网络安全公司HiddenLayer上周三在一份报告中表示,他们发现Hugging Face Safetensors转换工具存在着漏洞,可能被利用来劫持AI模型并发动供应链攻击。 Hugging Fac...
如何操纵AI大模型?研究发现一种隐蔽的供应链投毒方法
关注我们带你读懂网络安全通过破坏Hugging Face Safetensors格式转换服务,攻击者可以劫持用户提交的模型,造成供应链攻击。前情回顾·大模型安全动态OpenAI反复修补未果的ChatG...
Hugging Face API令牌暴露,大批生成式AI模型岌岌可危
Lasso Security的研究人员近日在代码存储库中发现了1681个暴露的Hugging Face API令牌,这使谷歌、Meta、微软和VMware等厂商面临潜在的供应链攻击。Lasso Sec...
【AI】Hugging Face datasets开源组件供应链攻击复现分析
0x01 前言供应链攻击已经是老生常谈了,但是利用大模型做供应链你听说过吗?下面一起来复现一下吧:作为“AI领域的GitHub“,全球最具影响力的AI开源社区,Hugging Face 提供了大量高质...
挖出被暴露的1500+APT令牌,破解近千家公司的LLM仓库
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士专栏·供应链安全数字化时代,软件无处不在。软件如同社会中的“虚拟人”,已经成为支撑社会正常运转的最基本元素之一,软件的安全性问题也正在成为...
帮助在云端部署 AI 和 ML 应用程序的平台
导读:人工智能(AI)和机器学习(ML)正在影响当今几乎每个行业。本文重点介绍了这些技术在我们日常生活中的各种使用方式,以及一些开源云平台如何实现其部署。本文字数:3119,阅读时长大约:...
2