关注我们 带你读懂网络安全 面对人工智能安全相关工具、平台、法规、应用和服务的快速增长,在推出大语言模型十大漏洞TOP10列表后,OWASP近日又推出了AI开源网络安全知识库框架——AI Exchan...
生成式人工智能对网络安全的影响
根据调查,近四分之一的受访者表示,他们在工作中使用生成式人工智能(GenAI)工具来完成专业任务。11%的受访者将聊天机器人融入了他们的日常工作中,近30%的受访者对人工智能驱动的工作岗位可能将被取代...
美国首席信息安全官关注十大重点方向
来自美国多家机构的首席信息安全官 (CISO) 对2024 年主要安全趋势进行探讨,涉及一系列主题,其中包括不断变化的威胁形势、最新合规要求、数据隐私挑战、产品和关键基础设施保护问题,以及安全战略、领...
四大攻击类型并存,NIST 警告人工智能系统带来的安全和隐私风险
美国国家标准与技术研究院 (NIST) 近日发布了有关对抗性机器学习 (AML) 攻击和缓解措施指南, 呼吁人们再度关注近年来人工智能 (AI) 系统部署增加所带来的隐私和安全挑战,并表示这类系统目前...
关注 │ 美国首席信息安全官关注十大重点方向
本文3557字 阅读约需 10分钟来自美国多家机构的首席信息安全官 (CISO) 对2024 年主要安全趋势进行探讨,涉及一系列主题,其中包括不断变化的威胁形势、最新合规要求、数据隐私挑战、产品和...
Mandiant 的X账户被黑、法国黑客在美判入狱
Mandiant 周三透露,其在社交媒体平台 X(前身为 Twitter)上的帐户遭到黑客攻击,这是加密货币盗窃活动的一部分,该活动为网络犯罪分子带来了至少 90 万美元的损失。 Mandiant 的...
如何应对深度伪造和合成媒体对网络安全的影响?
在过去的几年里,由于深度伪造(Deepfakes)技术的出现,数字领域的现实与虚拟之间的界限已经缓慢而稳步地变得越来越模糊。复杂的、人工智能驱动的合成媒体(Synthetic Media)已经从好莱坞...
恐怖组织已开始尝试利用生成式人工智能
恐怖组织已经开始尝试使用人工智能,尤其是利用生成式人工智能,以制造大量新的宣传内容。专家们担心,这些组织越来越多地使用生成式人工智能工具,可能会颠覆科技巨头们近年来为阻止其进入互联网而做的努力。科技反...
Callisto:一款基于人工智能实现的二进制代码漏洞分析工具
关于Callisto Callisto是一款基于人工智能实现的二进制代码漏洞分析工具,该工具的主要目的是通过自动化方式反编译研究人员输入的二进制代码文件,并通过输出的伪代码进行迭代分析,以查找C伪...
2024年十大数字技术趋势与其安全挑战
站在2024年的起点,我们回顾过去一年,见证了大语言模型,尤其是以 ChatGPT 为代表的生成式人工智能工具,如何改变全球。这些工具不再是遥不可及的梦想,而是成为了互联网用户日常生活的一部分,展现了...
美国家安全局发布《2023年网络安全年度回顾》
点击蓝字,关注我们12月19日,美国家安全局(NSA)发布了《2023年网络安全年度回顾》报告。该报告详细介绍了该机构在网络安全方面的工作,其中一些关键要点包括:揭露和减轻外国威胁与美国网络安全和基础...
LLM强化防线:大模型敏感信息的泄露检测和风险评估
01 概述 随着大语言模型(LLM)及相关技术的迅猛发展,越来越多的人开始将其视为提升工作效率的有力工具,但与此同时,人们对于LLM敏感信息泄漏问题的担忧与日俱增。在《LLM安全警报:六起真实案例剖析...
111