MCP越来越火,对其风险的关注也越来越多。Invariantlabs在模型上下文协议 (MCP) 中发现了一个严重漏洞,该漏洞允许“工具中毒攻击”(Tool Poisoning Attacks)。许多...
模型上下文协议(MCP)中的工具投毒攻击
字数 2680,阅读大约需 14 分钟简介Invariant 发现了模型上下文协议 (Model Context Protocol, MCP) 存在严重安全漏洞,可导致"工具投毒攻击"。Anthrop...
GitHub 上的投毒攻击事件剖析
Solara Executor 是一款针对 Roblox 平台的脚本执行器,宣称具备卓越的脚本执行能力、出色的性能以及简洁直观的操作界面,还强调与 Roblox 的最新版本完全兼容,为游戏玩家、开发人...
美国NIST发布保护AI系统免受对抗性攻击最新指南
编者按美国国家标准与技术研究所(NIST)3月24日正式发布保护AI系统免受对抗性攻击的最新指南《对抗性机器学习:攻击和缓解的分类和术语》(NIST AI 100-2e2025)。该指南描述了对抗性机...
当AI被下毒:一文看懂大模型数据投毒攻击
一、惊魂时刻:AI突然"发疯"为哪般?2024年6月,某科技巨头的医疗大模型突然将**"青霉素过敏"标注为"建议使用",险些酿成重大医疗事故。调查发现,攻击者仅用0.7%的污染数据就成功让模型"中毒"...
聊聊近期三大软件供应链安全威胁
写在前面前几天我一直在预告2.18号,也就是本周二晚19:30,我会在我的视频号(白帽子章华鹏)带来一档全新的直播节目《软件供应链安全问题与解》,顾名思义,主要是聊企业所面临的软件供应链安全威胁以及解...
NPM仓库出现针对多个加密货币交易平台的投毒攻击
NEWS近日,墨菲安全实验室监测发现针对加密货币交易平台的供应链投毒攻击呈上升趋势。攻击者利用NPM 仓库发布包含交易所名称的恶意组件,通过广撒网、多阶段利用的攻击方式,获取交易所、加密货币相关开发者...
供应链安全之:供应链劫持的安全防护与处置
一、基本信息 供应链劫持是普遍存在的一种供应链污染,涉及捆绑恶意代码、下载劫持、网络劫持、物流链劫持、升级劫持等。近期发生的“黎巴嫩通信设备爆炸事件”就是典型的供应链劫持攻击。供应链劫持利用供应商与...
供应链投毒预警 | 恶意NPM包内嵌木马程序开展投毒攻击
概述近两周(2024.11.10~11.19),悬镜供应链安全情报中心在NPM官方仓库(https://npmjs.com)中连续捕获多起针对Windows NPM开发者的恶意木马投毒攻击事件。来自多...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)
全文共23526字,阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习(AML)分类和术语,用以保护AI应用,防止被敌方操控。广义上讲,AI系统分为两类:预测式和生成...
人工智能的头号威胁:投毒攻击
随着掌管数字生活入口的万亿美元俱乐部企业——苹果公司跳入人工智能(AI)赛道,AI技术民主化的大幕正式拉开,同时也将AI安全问题推向舆论的风口浪尖。根据瑞银本周一的智能手机调查报告,在中国以外的智能手...
单一漏洞如何摧毁JavaScript生态系统
引言在软件开发的世界里,我们经常理所当然地认为我们日常依赖的工具和平台是安全和可靠的。我们假设我们下载的包和我们使用的注册表是安全和值得信赖的。然而,在Lupin & Holmes,我们最近发...