01 行业动态为何AI系统比以往任何时候都更需要红队测试AI系统正逐渐成为我们生活的重要组成部分,但它们并不完美。红队测试有助于发现AI系统中的弱点,使其更安全、更可靠。随着技术的不断发展,进行全面测...
逐步突破大语言模型限制
重要声明: 本文档中的信息和工具仅用于授权的安全测试和研究目的。未经授权使用这些工具进行攻击或数据提取是非法的,并可能导致严重的法律后果。使用本文档中的任何内容时,请确保您遵守所有适用的法律法规,并获...
生成式AI红队测试:如何有效评估大语言模型
OWASP最新指南为组建生成式AI红队或调整现有红队以适应新技术提供了详细的指导。红队测试是一种经过时间检验的网络安全系统测试和加固方法,但它需要不断适应技术的演变。近年来,生成式AI和大语言模型(L...
浅谈AI在攻防渗透和红队测试中的应用
前言世间所有的相遇,都是久别重逢。愿你我各自安好,破除前路的迷障,江湖路远,从此不再回头。免责声明:本篇文章仅用于技术交流学习和研究的目的,严禁使用文章中的技术用于非法目的和破坏,否则造成一切后果与发...
红队必看:生成式AI安全的八大实战教训
GoUpSec点评:AI会取代红队人员吗?生成式AI安全威胁颠覆了哪些传统攻防思维?微软通过“百模大战”为AI安全红队总结了宝贵的经验教训。随着ChatGPT和DeepSeek应用的野火燎原,生成式A...
AI安全 | AI红队体系思考
随着 AI 热度的不断攀升,人们对 AI 安全性的担忧也日益加剧。在此背景下,红队测试被寄予厚望,被视为解决 AI 安全问题的关键手段之一,但在与朋友交流过程中,发现许多被冠以 “红队评估” ,却存在...
Shadow Dumper 是一款用于转储 LSASS 内存的强大工具,渗透测试和红队测试中经常用到
Shadow Dumper 是一款功能强大的工具,用于转储 LSASS(本地安全机构子系统服务)内存,渗透测试和红队活动经常需要用到。它为用户提供灵活的选项,并使用多种高级技术转储内存,...
【论文速读】| 攻击图谱:从实践者的角度看生成式人工智能红队测试中的挑战与陷阱
基本信息原文标题:Attack Atlas: A Practitioner’s Perspective on Challenges and Pitfalls in Red Teaming GenAI原...
14款被严重低估的安全红队测试工具推荐
工具往往可以决定网络安全渗透测试或红队演练活动的成败。虽然Kali中的许多工具都已经过验证且稳定可靠,但并不能适合所有渗透测试场景。对于安全红队而言,需要在不同测试需求下,确保有足够的装备来实现测试目...
充分利用ATT&CK框架的5个典型用例与实践建议
MITRE ATT&CK框架已成为现代企业组织开展网络安全防护工作的宝贵资源,提供了基于真实世界观察的网络攻击战术、技术和流程的全面映射,能够帮助企业安全运营团队更加有效地应对这...
微软发布针对AIGC的红队测试开源工具
近日,微软发布了PyRIT(用于生成式人工智能的Python风险识别工具包)红队测试工具,通过自动化帮助识别生成式人工智能中的风险。这是一个开源的红队测试工具,旨在帮助安全专业人员和机器学习工程师识别...
全新WiFi安全漏洞曝光,可能影响全球23亿安卓用户
《中华人民共和国保守国家秘密法》修订发布,5月1日正式实行保护国家秘密是维护国家权益、维护国家尊严和维护国家长治久安的必然要求。来源: FreeBuf联邦调查局和 CISA 警告美国医院将遭受有针对性...