巴西数据保护机构国家数据保护局(ANPD)暂时禁止 Meta处理用户的个人数据以训练该公司的人工智能(AI)算法。ANPD表示,发现“有证据表明,个人数据处理基于不充分的法律假设、缺乏透明度、数据主体...
可诱导AI生成各种有害内容,微软揭示一种强大的人工智能越狱技术
微软近日详细介绍了一种名为“Skeleton Key”的越狱技术,可绕过多个领先的人工智能模型的安全防护措施(其中包括来自OpenAI、谷歌的模型)。“Skeleton Key”攻击允许用户规避伦理准...
自动化主机渗透工具
关于Shennina Shennina是一款功能强大的自动化主机渗透/漏洞利用框架,该项目的主要目的是使用人工智能技术来实现安全扫描、漏洞扫描/分析和漏洞利用开发的完全自动化。Shennina整合...
移动视野:人工智能的响应式和基于风险的监管框架
随着人工智能 (AI) 能力的不断发展,其监管不能再只是一种优化和缓解措施,或者最大限度地利用创新机会并最大限度地降低危害风险。人工智能相互交织的社会经济和法律影响需要动态治理安排来识别、应对和预测不...
微软详细介绍万能钥匙人工智能越狱技术
网络安全等级保护政策+技术汇总0624本周,微软披露了一种人工智能越狱技术的细节,该科技巨头的研究人员已成功使用该技术攻克了多个生成式人工智能模型。 这款名为Skeleton Key 的AI 越狱工具...
DarkGPT:基于GPT-4-200k设计的人工智能OSINT助手
DarkGPT是一款功能强大的人工智能安全助手,该工具基于GPT-4-200k设计并实现其功能,可以帮助广大研究人员针对泄露数据库进行安全分析和数据查询相关的OSINT操作。工具要求 openai==...
微软详细介绍Skeleton Key(万能钥匙)人工智能越狱技术,使AI输出原本禁止提供的信息
导 读本周,微软披露一种人工智能越狱技术的细节,研究人员成功使用该技术攻克多个生成式人工智能模型。这款名为Skeleton Key 的AI 越狱工具之前在 Microsoft Build 大会演讲中被...
SherlockChain:基于高级AI实现的智能合约安全分析框架
关于SherlockChainSherlockChain是一款功能强大的智能合约安全分析框架,该工具整合了Slither工具(一款针对智能合约的安全工具)的功能,并引入了高级人工智能模型...
突发!OpenAI终止对中国提供服务
OpenAI宣布终止对中国提供API服务6月25日凌晨,多个用户收到OpenAI的推送邮件,信中称,自今年7月9日起,将开始阻止来自非支持国家和地区的API(应用程序接口)服务。目前OpenAI共支持...
网络安全知识:大模型攻击之什么是即时注入攻击?
什么是即时注入攻击? 提示注入是针对大型语言模型(LLM)的一种网络攻击。黑客将恶意输入伪装成合法提示,操纵生成式人工智能系统 (GenAI) 泄露敏感数据、传播错误信息,甚至造成更糟的情况。 最基...
OpenAI将停止中国等不支持的国家和地区的API使用
AITrust社区文末扫码订阅,AI和数据合规专题CAIM报名点击42001AI管理体系实践落地课程CAIL报名点击欧盟人工智能法合规落地课程6月25日,OpenAI官网信息显示,OpenAI将采取额...
【公益译文】大语言模型安全测试方法
一前言世界数字技术院(WDTA)开发和发布了“大语言模型安全测试方法”,这表明相关人员始终致力于推进关键进展,保证人工智能技术的可信和安全使用。大语言模型等人工智能系统逐渐成为社会各个领域中不可或缺的...
105