01利用损坏的word文件钓鱼新的钓鱼攻击手法正在利用微软的Word文件恢复功能,通过发送损坏的文档作为电子邮件附件,以规避安全软件的检查,同时仍能被用户恢复。这种策略旨在欺骗收件人通过与钓鱼网站链接...
只需一个暗号,即可戳穿语音克隆骗局
GoUpSec点评:在AI语音克隆骗局层出不穷的背景下,“暗号”是普通人唯一可以与科技黑暗面抗衡的利器。 近年来,随着生成式人工智能的飞速发展,语音克隆、图片克隆甚至视频克隆(数字人)等深度伪造技术不...
漏洞挖掘 | 挖SRC的新思路?一文详解国内AI场景漏洞挖掘
2023年3月30号受邀参加HackinClub北京线下AI+网络安全主题会议,在台上给大家分享了《实践挖掘国内AI场景漏洞:科技前沿与安全探索》议题,受到了各位挖挖洞师傅的喜欢。同时也有很多师傅加了...
2024年OWASP LLM安全漏洞年度报告
市场概述在生成式AI技术迅猛发展的2024年,企业对AI技术的采用呈现爆发式增长。根据Menlo Ventures发布的最新市场数据显示,2024年AI相关投资规模已达到138亿美元的历史新高,较20...
黑客将利用机器学习发起攻击的 10 种方式
机器学习和人工智能(AI)正成为威胁检测和响应工具的核心技术。实时学习和自动适应不断变化的网络威胁的能力为网络安全团队提供了优势。根据 Sapio Research 代表 Vanta 进行的一项调查,...
AI 大模型安全实践指南
当前正处于人工智能飞速发展的黄金时期,以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式,加速了知识的传播,并为社会变革注入了新的动力。在我国,大语言模型(Large Languag...
超越ChatGPT:代理型人工智能的崛起及其对安全的影响
生成式人工智能(genAI)和大型语言模型(LLMs)的出现,如ChatGPT,引发了一场波及每个行业和企业的变革。这些技术不仅带来新的能力、效率和可能性,还动摇了现有的结构、流程、治理和运营活动。许...
社工诈骗席卷北美金融机构,深伪与AI加剧安全威胁
NEWSBioCatch最新的研究报告显示:2024年北美金融机构收到的社会工程诈骗举报数量是去年同期的十倍。数据显示,这类诈骗目前已占所有数字银行欺诈案件的23%。1威胁深伪技术与生成式AI诈骗日益...
AI安全 | 大模型时代下的安全隐患规避
当前正处于人工智能飞速发展的黄金时期,以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式,加速了知识的传播,并为社会变革注入了新的动力。在我国,大语言模型(Large Languag...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)三生成式AI分类生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属性:生成式...
深化人工智能安全监管研究
前言确保人工智能安全、可靠、可控,有利于人类文明进步,是人工智能发展必须解决的重要课题。党的二十届三中全会《决定》作出“建立人工智能安全监管制度”“完善生成式人工智能发展和管理机制”等重要部署。如何加...
以AI鉴别技术守护数字内容真实性
11月15日,云安全联盟大中华区大会将在北京举行,欢迎扫码报名参会!如何应对AI合成内容泛滥?如何有效鉴别和管理AI合成内容?2024年11月15日,北京第八届云安全联盟大中华区大会将为您带来答案。围...
29