1. 复杂多阶段攻击:Agent Tesla、Remcos RAT和XLoader的新实例 最近,Palo Alto Networks Unit 42的研究人员报告了一种新的多阶段恶意软件攻击,使用A...
大模型与安全|第二弹:大模型AI Agent的工作原理与安全挑战
1、引言智能体(AI Agent)作为大语言模型技术(LLM)的具体应用形式,突破了传统语言模型仅限于文字输入与输出的局限性。其通过感知环境、规划决策及执行行动的闭环机制,实现了对现实世界任务的高效处...
MCP服务普及中的安全挑战
引言MCP(Model Context Protocol)是Anthropic在2024年11月推出并开源的开放协议,旨在实现AI与外部工具的无缝对话。随着MCP的普及,其应用范围不断扩大,从浏览器操...
面向可信大语言模型智能体的安全挑战与应对机制
论文引用格式:张熙, 李朝卓, 许诺, 等. 面向可信大语言模型智能体的安全挑战与应对机制[J]. 信息通信技术与政策, 2025, 51(1): 33-37.面向可信大语言模型智能体的安全挑战与应对...
【大模型与安全】第二弹:大模型AI Agent的工作原理与安全挑战
01 引言智能体(AI Agent)作为大语言模型技术(LLM)的具体应用形式,突破了传统语言模型仅限于文字输入与输出的局限性。其通过感知环境、规划决策及执行行动的闭环机制,实现了对现实世界任务的高效...
DeepSeek遭遇黑客会怎样?揭秘大模型的7个致命安全漏洞
在人工智能飞速发展的今天,DeepSeek、文心一言等大型语言模型(LLM)已经成为我们日常生活的一部分。然而,当我们惊叹于AI的神奇能力时,你是否想过:这些看似智能的"大脑"也存在安全漏洞?今天就让...
专题解读 | RAG模型的安全挑战:针对RAG的攻击算法
RAG模型的安全挑战:针对RAG的攻击算法随着人工智能技术的飞速发展,大型语言模型(LLMs)在自然语言处理领域的应用日益广泛。其中,检索增强型生成(RAG)模型以其强大的信息检索和文本生成能力,成为...
揭秘黑客真实战术:AI炒作之外的安全挑战
AI是否真的正在重塑网络威胁格局?还是说,无休止的炒作掩盖了现实中更实际的威胁?Picus Labs发布《2025年红色报告》,对超过100万份恶意软件样本进行了分析,迄今为止,AI驱动的攻击并未出现...
EDR在企业网络安全中的作用
以签名为核心的传统防病毒软件仍然是当前众多企业防范端点风险的重要手段,但现在这一方式已经跟不上网络攻击的发展形势。端点检测和响应(EDR)系统应运而生,在帮助企业应对新端点安全挑战上发挥着越来越重要的...
CSO:混合云安全挑战到了至暗时刻
近日,Mirantis 的首席执行官 Alex Freedland 在采访中分享了个人对于未来发展的展望,他认为随着多云和混合环境成为常态,CISOs 需要解决的云安全挑战。其中,扩大的攻击面、一致安...
大模型安全挑战:全生命周期的原生构建与风险应对
11月15日,云安全联盟大中华区大会将在北京举行,欢迎扫码报名参会!如何在安全挑战中构建大模型稳健防线?如何在复杂生命周期中确保大模型安全无虞?如何在AI技术飞速发展中应对新型安全威胁?2024年11...
2024入坑指南——渗透测试的新兴考点之云(1)
2024年,渗透测试领域的最新趋势主要围绕云安全、新兴技术和自动化渗透测试展开。随着企业加速向云端迁移,云原生技术的复杂性带来了新的安全挑战,使得云渗透测试成为必不可少的技能。同时,零信任架构的普及和...