模型上下文协议(MCP)的原理与安全挑战随着大型语言模型(LLM)在各行业的广泛应用,如何高效、安全地将LLM与外部数据源和工具集成成为了关键问题。为此,Anthropic于2024年11月推出了模型...
智能汽车安全-漏洞挖掘到控车攻击
文章作者:奇安信攻防社区(OYyunshen)文章来源:https://forum.butian.net/share/42881►前言随着人工智能、5G通信与车联网技术的深度融合,智能网联汽车正从理论...
无人集群的网络安全挑战与应对
编者荐语本文深度拆解无人集群在超低成本、动态组网、失控风险等致命挑战下的防护困局,揭示美军“幽灵舰队”背后的安全逻辑,还提出颠覆性思路:将数据销毁芯片植入无人机心脏,遭遇劫持即启动物理熔断,让敌方缴获...
智能汽车漏洞挖掘案例分享
声明:请勿利用文章内的相关技术从事非法测试,由于传播、利用此文所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,作者不为此承担任何责任。关注公众号,设置为星标,不定期有宠粉福利前言...
复杂多阶段攻击:Agent Tesla、Remcos RAT和XLoader新实例揭示网络安全挑战
1. 复杂多阶段攻击:Agent Tesla、Remcos RAT和XLoader的新实例 最近,Palo Alto Networks Unit 42的研究人员报告了一种新的多阶段恶意软件攻击,使用A...
大模型与安全|第二弹:大模型AI Agent的工作原理与安全挑战
1、引言智能体(AI Agent)作为大语言模型技术(LLM)的具体应用形式,突破了传统语言模型仅限于文字输入与输出的局限性。其通过感知环境、规划决策及执行行动的闭环机制,实现了对现实世界任务的高效处...
MCP服务普及中的安全挑战
引言MCP(Model Context Protocol)是Anthropic在2024年11月推出并开源的开放协议,旨在实现AI与外部工具的无缝对话。随着MCP的普及,其应用范围不断扩大,从浏览器操...
面向可信大语言模型智能体的安全挑战与应对机制
论文引用格式:张熙, 李朝卓, 许诺, 等. 面向可信大语言模型智能体的安全挑战与应对机制[J]. 信息通信技术与政策, 2025, 51(1): 33-37.面向可信大语言模型智能体的安全挑战与应对...
【大模型与安全】第二弹:大模型AI Agent的工作原理与安全挑战
01 引言智能体(AI Agent)作为大语言模型技术(LLM)的具体应用形式,突破了传统语言模型仅限于文字输入与输出的局限性。其通过感知环境、规划决策及执行行动的闭环机制,实现了对现实世界任务的高效...
DeepSeek遭遇黑客会怎样?揭秘大模型的7个致命安全漏洞
在人工智能飞速发展的今天,DeepSeek、文心一言等大型语言模型(LLM)已经成为我们日常生活的一部分。然而,当我们惊叹于AI的神奇能力时,你是否想过:这些看似智能的"大脑"也存在安全漏洞?今天就让...
专题解读 | RAG模型的安全挑战:针对RAG的攻击算法
RAG模型的安全挑战:针对RAG的攻击算法随着人工智能技术的飞速发展,大型语言模型(LLMs)在自然语言处理领域的应用日益广泛。其中,检索增强型生成(RAG)模型以其强大的信息检索和文本生成能力,成为...
揭秘黑客真实战术:AI炒作之外的安全挑战
AI是否真的正在重塑网络威胁格局?还是说,无休止的炒作掩盖了现实中更实际的威胁?Picus Labs发布《2025年红色报告》,对超过100万份恶意软件样本进行了分析,迄今为止,AI驱动的攻击并未出现...