GoUpSec点评:被“投毒”的AI应用在现实生活中险些毒死十几人,对AI应用的迷信和过度依赖正带来巨大的健康和网络安全风险。近年来,人工智能(AI)技术在多个领域展现了巨大潜力,从医疗诊断到农业自动...
人工智能时代可能的网络安全职业
周末时候OWASP2024年度安全技术论坛我们提到了人工智能和安全职位,在这里我们将展开聊一聊:2025 年及以后,人工智能将继续主导网络安全相关新闻,你可以接受并适应或者被淘汰! 传统的网络安...
警惕AI网络安全应用的毒蘑菇陷阱
GoUpSec点评:被“投毒”的AI应用在现实生活中险些毒死十几人,对AI应用的迷信和过度依赖正带来巨大的健康和网络安全风险。近年来,人工智能(AI)技术在多个领域展现了巨大潜力,从医疗诊断到农业自动...
通过生成式人工智能绕过面部识别认证
扫码领资料获网安教程来Track安全社区投稿~ 赢千元稿费!还有保底奖励~(https://bbs.zkaq.cn) 如何欺骗面部识别系统将照片中的我的脸识别为xxx的人脸绕过系统验证。 ...
【论文速读】| 攻击图谱:从实践者的角度看生成式人工智能红队测试中的挑战与陷阱
基本信息原文标题:Attack Atlas: A Practitioner’s Perspective on Challenges and Pitfalls in Red Teaming GenAI原...
AI安全的尝试
背景以大模型为代表的人工智能技术持续快速发展、应用不断泛化和深化,为生产生活充分注入前所未有的新动能、新活力,激发广泛关注。然而,正如双刃剑之喻,人工智能在加快应用的同时,面临的安全挑战和风险也与日俱...
如何在互联网开展禁毒情报搜集工作
随着信息技术的不断发展,网络涉毒问题愈加严重。各大网站、论坛都可以成为毒品犯罪分子发布违法犯罪信息的工具。各种各样的聊天软件为毒品犯罪提供了便利,网络支付平台的不断完善以及物流寄递行业的快速发展,使得...
G.O.S.S.I.P 阅读推荐 2024-09-27 Certifiable Black-box Attack 可验证黑盒攻击
今天给大家推荐近期被CCS 2024接收的论文Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking ...
DebugBlocker技术 一个有意思的对抗性样本分析
DebugBlocker技术 -- 一个有意思的对抗性样本分析近期在分析样本时发现一个比较有意思的debugblocker样本,分享一下。平淡无奇一波静态分析定位到关键函数 sub_402970,看到...
DebugBlocker技术 一个有意思的对抗性样本分析
DebugBlocker技术 -- 一个有意思的对抗性样本分析近期在分析样本时发现一个比较有意思的debugblocker样本,分享一下。平淡无奇一波静态分析定位到关键函数 sub_402970,看到...
【论文速读】| SEAS:大语言模型的自进化对抗性安全优化
本次分享论文:SEAS: Self-Evolving Adversarial Safety Optimization for Large Language Models基本信息原文作者: Muxi D...
网络安全知识体系:人工智能安全隐私之简介
1、简介机器学习(ML)已迅速成为支撑无数应用的基础技术,从自然语言处理和计算机视觉到欺诈检测和个性化推荐.近年来,人们对如何在安全环境中使用ML的理解越来越多,从而开发了用于检测和预防恶意活动的高...
5