目前最热门的技术是人工智能——更具体地说,是生成式人工智能。这一趋势如此流行,以至于每个会议和网络研讨会演讲者都觉得有义务提及某种形式的人工智能,无论其领域如何。人工智能带来的创新和风险既令人兴奋又令...
OWASP AI Exchange,一份人工智能安全指南
随着网络从业者争先恐后地提高自己在人工智能(AI)安全方面的技能,以及他们的组织快速采用人工智能工具、平台、应用程序和服务,业内出现了各种资源来帮助从业者处理不断变化的情况。其中或许最有用的是开放式全...
OpenAI正在帮助美国军方提升网络安全能力
OpenAI正在帮助美国军方提升网络安全能力据英国The Register1月16日报道,OpenAI实验室的高管本周在达沃斯世界经济论坛(WEF)上表示,OpenAI正在帮助美国军方提升其人工智能驱...
网络安全趋势:IBM对2024年的预测
从世界大事到经济,2023年是不可预测的一年。网络安全并没有偏离这个主题,带来了一些意想不到的转折。随着组织开始规划 2024 年的安全战略,现在是时候回顾前一年并推断未来可能会发生什么了。这一年伊始...
大语言模型面临的威胁—概览
本系列文章,主要是从外部威胁者视角下讲述大语言模型及大语言模型相关应用面临的威胁,以及一些建议,助力大语言模型健康发展。前言 2023年最火的公司无疑是openai,最火的产品也无疑是c...
OWASP发布开源AI网络安全知识库框架AI Exchange
关注我们 带你读懂网络安全 面对人工智能安全相关工具、平台、法规、应用和服务的快速增长,在推出大语言模型十大漏洞TOP10列表后,OWASP近日又推出了AI开源网络安全知识库框架——AI Exchan...
生成式人工智能对网络安全的影响
根据调查,近四分之一的受访者表示,他们在工作中使用生成式人工智能(GenAI)工具来完成专业任务。11%的受访者将聊天机器人融入了他们的日常工作中,近30%的受访者对人工智能驱动的工作岗位可能将被取代...
美国首席信息安全官关注十大重点方向
来自美国多家机构的首席信息安全官 (CISO) 对2024 年主要安全趋势进行探讨,涉及一系列主题,其中包括不断变化的威胁形势、最新合规要求、数据隐私挑战、产品和关键基础设施保护问题,以及安全战略、领...
四大攻击类型并存,NIST 警告人工智能系统带来的安全和隐私风险
美国国家标准与技术研究院 (NIST) 近日发布了有关对抗性机器学习 (AML) 攻击和缓解措施指南, 呼吁人们再度关注近年来人工智能 (AI) 系统部署增加所带来的隐私和安全挑战,并表示这类系统目前...
关注 │ 美国首席信息安全官关注十大重点方向
本文3557字 阅读约需 10分钟来自美国多家机构的首席信息安全官 (CISO) 对2024 年主要安全趋势进行探讨,涉及一系列主题,其中包括不断变化的威胁形势、最新合规要求、数据隐私挑战、产品和...
Mandiant 的X账户被黑、法国黑客在美判入狱
Mandiant 周三透露,其在社交媒体平台 X(前身为 Twitter)上的帐户遭到黑客攻击,这是加密货币盗窃活动的一部分,该活动为网络犯罪分子带来了至少 90 万美元的损失。 Mandiant 的...
如何应对深度伪造和合成媒体对网络安全的影响?
在过去的几年里,由于深度伪造(Deepfakes)技术的出现,数字领域的现实与虚拟之间的界限已经缓慢而稳步地变得越来越模糊。复杂的、人工智能驱动的合成媒体(Synthetic Media)已经从好莱坞...
109