编者按美国国家标准与技术研究所(NIST)3月24日正式发布保护AI系统免受对抗性攻击的最新指南《对抗性机器学习:攻击和缓解的分类和术语》(NIST AI 100-2e2025)。该指南描述了对抗性机...
【AI偷走你的声音怎么办?】
来源:人民法院报,作者:北京知识产权法院 赵瑞罡,北京互联网法院田涵 当前,人工智能技术快速发展,对经济社会发展和人类文明进步产生深远影响,也带来难以预知的各种风险和复杂挑战。在日常生活中,利用人...
AI大模型危机:多维对抗时代的网络安全与隐私困局
当前,AI大模型正在推动全球数字生态重构,在此进程中引发的一系列安全风险正以非线性速率突破传统防御体系承载阈值,进一步加剧网络安全形势的复杂性。本文通过剖析大模型全生命周期安全威胁图谱,揭示AI深度融...
人工智能网络钓鱼数量惊人
浏览器安全不容忽视。人们大部分工作时间都花在浏览器上,而攻击者主要攻击的也是浏览器。统计数据来自Menlo Security 对过去12个月内检测到的75万起基于浏览器的网络钓鱼攻击的分析,这些攻击针...
某安全团队警告称 AI 模型易遭破解用于生成恶意软件
Tenable Research指出了与 DeepSeek R1 相关的潜在安全风险,DeepSeek R1 是一种生成式人工智能模型,可被操控用于生成恶意软件。和许多生成式人工智能(GenAI)模型...
【 AI 译粹】《乌克兰人工智能自主战争研究:10个经典案例》(2025年CSIS报告)
关注 ▲蓝军开源情报▲ 和10000情报研究员,一起成长【导读】现代无人系统在多大程度上真正实现了自主性?人工智能在乌克兰战争中多大程度上增强了无人系统的自主性?将军用无人系统从雄心勃勃的理论概念转变...
新的CCA越狱方法可对抗大多数AI模型
两位微软研究人员设计了一种全新的、无需优化的越狱方法,可以有效绕过大多数人工智能系统的安全机制。该方法被称为上下文合规攻击 (CCA),利用了许多已部署的 gen-AI 解决方案中存在的基本架构漏洞,...
2025 AI大模型安全防护:AI安全部署实战指南
本文14296字 阅读约需 37分钟自 2025 年初以来,人工智能的发展速度令人震撼。企业在广泛采用 AI 时仍面临诸多挑战,包括成本、幻觉、以及安全隐患等问题。目前,企业正处于重要的十字路口:...
专家解读|从技术规则到技术标准:人工智能治理的标识管理
国家互联网信息办公室等部门联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》)及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》),旨在防范人工智能生...
生成式AI如何用于认知战?
2024年12月,加拿大国际治理创新中心(Centre for International Governance Innovation,简称CIGI)发布报告《为下一代信息战做好准备:生成式AI的应用...
英国物联网网络安全公司协助乌克兰保护军用无人机
编者按:英国物联网网络安全公司Periphery将向乌克兰军方提供军用级网络安全技术,利用其人工智能驱动的威胁管理系统,协助乌克兰保护军用无人机抵御网络安全威胁,从而支持乌克兰战场行动。无人机已成为现...
100个AI相关术语及通俗解释
探寻合规之道,共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。点击 "合规社" > 点击右上角“···” > 设为星标⭐1. 人工智...