对GitHub等目录中9695个MCP服务器分析发现,数千台服务器存在任意文件访问、命令注入、SSRF等严重漏洞,且流行度、活跃度等可信指标与安全性无关,凸显AI供应链系统性风险。数千台广泛用于将大型...
Gaslight Stealer 嵌入虚假系统消息以误导 AI 恶意软件分析师
GaslightStealer是一种针对macOS的新型窃取程序,据信源于朝鲜,通过虚假会议软件等社交工程诱骗用户。它嵌入伪造的系统消息,旨在误导AI安全分析工具,实现数据窃取和后门功能,威胁Web3...
解读 Anthropic 的 AI Agent零信任框架
本文解读Anthropic发布的AI Agent零信任框架,指出当治理对象从人类变为自主AI系统时,零信任原则“永不信任,始终验证”面临指数级复杂挑战。文章剖析了企业实施零信任的现状困境——技术债务、...
AI安全现状:AI 漏洞风险是传统软件 2.7 倍,修复差距高达 25 倍
文章揭示了AI应用的安全现状:高风险发现率是传统软件的2.7倍,且三年未改善;AI漏洞修复率仅38.4%,远低于Web应用,形成严重的修复赤字。修复难点在于专业知识断层、LLM特有攻击向量(如提示注入...
2026下半年,渗透测试已经彻底变了——再抱着老套路,洞都让别人捡完了
2026下半年渗透测试已从传统爆破转向云资产、小程序API、AI辅助JS审计、越权逻辑漏洞、供应链攻击及免杀行为对抗。AI提示注入等新攻击面成为高赏金来源,需掌握新思路。去年这时候,我挖洞还是靠 Bu...
A安全基础知识
本文介绍AI安全基础知识,涵盖AI安全与传统安全的对比、六边形RAI原则、三层AI架构及共同责任模型。详细讲解了OWASP、MITRE ATLAS、NIST、ISO四大安全框架,以及AI越狱、提示注入...
面试必问:大模型安全攻防8问8答(OWASP LLM Top 10全梳理)
本文基于OWASP LLM Top10框架,精选8道大模型安全面试高频考题,涵盖提示词注入(直接/间接注入)、越狱攻击、不安全输出处理、训练数据投毒、模型拒绝服务等核心威胁,并给出学术严谨的参考答案,...
AI红队演练详解:如何测试LLM漏洞(2026)
2026年,AI红队演练成为应对LLM独特漏洞的关键安全实践。本指南详解其与传统渗透测试的区别、OWASP LLM Top10漏洞分类、结构化方法论及攻击技术(如提示注入、越狱、模型提取等),并涉及欧...
Amazon Q Developer:通过提示注入实现远程代码执行
本文揭示了Amazon Q Developer VSCode扩展中存在间接提示注入漏洞,攻击者可通过源码注释等不受信数据诱导AI执行任意命令。该扩展将find命令错误归类为readonly,绕过人工确...
新的HalluSquatting攻击可能会诱使AI编码助手安装僵尸网络恶意软件
本文介绍了一种名为HalluSquatting的新型攻击方式,利用AI编码助手的幻觉特性,攻击者先识别AI常编造的假名并注册,当助手拉取资源时隐藏恶意指令,诱使助手安装僵尸网络恶意软件。该攻击无需传统...
严重漏洞暴露 GitHub Agentic Workflows 面临提示注入风险
NomaLabs警告称,GitHub Agentic Workflows存在严重提示注入漏洞(GitLost),攻击者无需认证或技能,仅需在公共仓库发布恶意Issue即可触发AI代理泄露私有仓库数据。...
大模型Top 1威胁和智能体Top 1威胁有何关系
本文探讨OWASP大模型Top1威胁“提示注入”与智能体Top1威胁“目标劫持”的关系。二者并非简单换名,而是继承与放大:提示注入利用自然语言无法区分指令与数据的弱点,影响单次模型响应;目标劫持则将同...
22

