2.预测性人工智能分类2.1. 攻击分类图1根据攻击者的目标和目的、能力和知识,介绍了PredAI系统上AML攻击的分类。图1.PredAI系统攻击的分类攻击者的目标显示为不连贯的圆圈,每个圆圈的中心...
对抗性机器学习-攻击和缓解的分类和术语(三)
3.生成性人工智能分类GenAI是人工智能的一个分支,它开发的模型可以生成与训练数据具有相似属性的内容(例如图像、文本和其他媒体)。GenAI包括几种不同类型的人工智能技术,它们具有不同的起源、建模方...
对抗性机器学习-攻击和缓解的分类和术语
发布说明:本标准原文全文127页,发布将通过连载方式分三次发布完成,PDF版与全文发布地址将在最后一期提供。由于受到公众号限制,本次发布不包含所有的尾注,将会大大降低可读性。PDF版将包含“译者注”和...
Google DeepMind推出利用人工智能网络弱点的框架
强大的防御源自于攻击敌人的弱点。Google DeepMind 开发了一个评估框架,可以突出显示对抗性 AI 最薄弱的领域,从而让防御者可以优先考虑他们的防御策略。DeepMind 致力于人工智能的前...
美国NIST发布保护AI系统免受对抗性攻击最新指南
编者按美国国家标准与技术研究所(NIST)3月24日正式发布保护AI系统免受对抗性攻击的最新指南《对抗性机器学习:攻击和缓解的分类和术语》(NIST AI 100-2e2025)。该指南描述了对抗性机...
发现对抗性LDAP Tradecraft
TrustedSec 研究主管Carlos Perez和 Binary Defense 研究主管Jonathan Johnson撰写的文章。最初发布在Binary Defense 页面上。介绍虽然发现...
面向GPTs的提示词注入攻击分析
在去年的时候OpenAI推出了可以为特定目的创建的定制版ChatGPT——称为GPTs。GPTs是任何人都可以创建一个定制版本的ChatGPT,以帮助他们在日常生活中、特定任务、工作或家庭中更加有用,...
FuzzyAI:用于自动化 LLM 模糊测试的开源工具
FuzzyAI Fuzzer 是一款功能强大的自动化 LLM 模糊测试工具。它旨在帮助开发人员和安全研究人员识别和缓解其 LLM API 中的潜在安全漏洞。 FuzzyAI 为组织提供了一种系统化的方...
警惕AI网络安全应用的毒蘑菇陷阱
GoUpSec点评:被“投毒”的AI应用在现实生活中险些毒死十几人,对AI应用的迷信和过度依赖正带来巨大的健康和网络安全风险。近年来,人工智能(AI)技术在多个领域展现了巨大潜力,从医疗诊断到农业自动...
人工智能时代可能的网络安全职业
周末时候OWASP2024年度安全技术论坛我们提到了人工智能和安全职位,在这里我们将展开聊一聊:2025 年及以后,人工智能将继续主导网络安全相关新闻,你可以接受并适应或者被淘汰! 传统的网络安...
警惕AI网络安全应用的毒蘑菇陷阱
GoUpSec点评:被“投毒”的AI应用在现实生活中险些毒死十几人,对AI应用的迷信和过度依赖正带来巨大的健康和网络安全风险。近年来,人工智能(AI)技术在多个领域展现了巨大潜力,从医疗诊断到农业自动...
通过生成式人工智能绕过面部识别认证
扫码领资料获网安教程来Track安全社区投稿~ 赢千元稿费!还有保底奖励~(https://bbs.zkaq.cn) 如何欺骗面部识别系统将照片中的我的脸识别为xxx的人脸绕过系统验证。 ...