对抗性 - 第 2 | CN-SEC 中文网

人工智能安全

【论文速读】| 攻击图谱：从实践者的角度看生成式人工智能红队测试中的挑战与陷阱

基本信息原文标题：Attack Atlas: A Practitioner’s Perspective on Challenges and Pitfalls in Red Teaming GenAI原...

10月23日50 views评论

阅读全文

人工智能安全

AI安全的尝试

背景以大模型为代表的人工智能技术持续快速发展、应用不断泛化和深化，为生产生活充分注入前所未有的新动能、新活力，激发广泛关注。然而，正如双刃剑之喻，人工智能在加快应用的同时，面临的安全挑战和风险也与日俱...

10月23日18 views评论

阅读全文

信息情报

如何在互联网开展禁毒情报搜集工作

随着信息技术的不断发展，网络涉毒问题愈加严重。各大网站、论坛都可以成为毒品犯罪分子发布违法犯罪信息的工具。各种各样的聊天软件为毒品犯罪提供了便利，网络支付平台的不断完善以及物流寄递行业的快速发展，使得...

10月19日59 views评论

阅读全文

安全闲碎

G.O.S.S.I.P 阅读推荐 2024-09-27 Certifiable Black-box Attack 可验证黑盒攻击

今天给大家推荐近期被CCS 2024接收的论文Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking ...

09月28日36 views评论

阅读全文

安全新闻

DebugBlocker技术一个有意思的对抗性样本分析

DebugBlocker技术 -- 一个有意思的对抗性样本分析近期在分析样本时发现一个比较有意思的debugblocker样本，分享一下。平淡无奇一波静态分析定位到关键函数 sub_402970，看到...

09月22日13 views评论

阅读全文

安全文章

DebugBlocker技术一个有意思的对抗性样本分析

09月13日11 views评论

阅读全文

人工智能安全

【论文速读】| SEAS：大语言模型的自进化对抗性安全优化

本次分享论文：SEAS: Self-Evolving Adversarial Safety Optimization for Large Language Models基本信息原文作者: Muxi D...

08月30日97 views评论

阅读全文

制度法规

网络安全知识体系：人工智能安全隐私之简介

1、简介‍机器学习（ML）已迅速成为支撑无数应用的基础技术，从自然语言处理和计算机视觉到欺诈检测和个性化推荐.近年来，人们对如何在安全环境中使用ML的理解越来越多，从而开发了用于检测和预防恶意活动的高...

07月17日14 views评论

阅读全文

人工智能安全

【公益译文】大语言模型安全测试方法

一前言世界数字技术院（WDTA）开发和发布了“大语言模型安全测试方法”，这表明相关人员始终致力于推进关键进展，保证人工智能技术的可信和安全使用。大语言模型等人工智能系统逐渐成为社会各个领域中不可或缺的...

06月25日175 views评论

阅读全文

安全新闻

洞见RSAC 2024｜AI安全分析与挑战

随着人工智能（AI）技术的迅速发展，其在各个领域的广泛应用已经成为现实。然而，随之而来的是AI系统安全性的不断凸显，特别是在大规模语言模型（LLMs）和企业自动化领域。本文将针对2024 RSA大会中...

06月07日45 views评论

阅读全文

人工智能安全

多模态大语言模型的致命漏洞：语音攻击

OpenAI近日发布的GPT-4o多模态大语言模型震惊了世界，该模型可以通过传感器感知世界并与人类通过语音进行无缝交流，完成各种复杂任务（例如给孩子辅导数学），将科幻电影中的智能机器人场景带入现实。G...

05月17日74 views评论

阅读全文

IoT工控物联网

自动驾驶环境下对抗性攻击的可行性 BMW

点击上方蓝色字体，关注我们/ 技术交流群 /添加微信15021948198，申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......

05月14日33 views评论

阅读全文

在线咨询

微信