点击上方蓝色字体,关注我们/ 技术交流群 /添加微信15021948198,申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......
《2024年网络弹性风险指数报告》:92%的组织并未准备好应对AI安全挑战
网络弹性是一个比传统网络安全更大、更重要的范例,拥有有效网络弹性能力的组织能在承受网络攻击、技术故障或故意篡改企图后迅速恢复正常业务运营。近日,Absolute security公司发布的《2024年...
AI安全:36种AI攻击手法与五种AI安全策略
前几天看到刺总公司发起了国内第一份AI安全法律的起草议案和两会也在谈论关于AI安全的研究培养,但发现有关AI安全攻击介绍的资料实在太少,索性自己翻阅国内外各大资料进行了分析总结在此介绍一系列针对AI模...
AI安全|LLM 01 提示词注入
0x01 前言接下来会连续更新关于 LLM OWASP TOP 10 的内容每一个漏洞我这边都会写一篇详细文章进行说明。这篇文章我们从 LLM OWASP TOP 10 其中的 LLM 01 提示词注...
全球首份《AI系统安全开发准则》发布,提出4方面安全监管要求
2023年11月26日 ,美国、英国、澳大利亚等18个国家的网络安全监管部门联合发布了全球首份《AI系统安全开发准则》,旨在实现保护人工智能模型不被恶意篡改,并敦促人工智能公司在开发或使用人工智能模型...
AI安全未来发展与监管的平衡
随着生成模型,尤其是大模型(LLM)的出现,以及ChatGPT的迅速蹿红,人们再次呼吁加强安全监管。 01安全不是靠监管出来的不出所料,面对未经详细研究的新技术,人们的第一反应就是恐惧,而恐...
安全研究发现:AI安全护栏形同虚设
事实证明,为了防止OpenAI的GPT-3.5 Turbo等大语言模型(LLM)生成有害的内容而创建的“护栏”机制非常脆弱,形同虚设。一群来自美国普林斯顿大学、弗吉尼亚理工大学、IBM研究院和斯坦福大...
AI安全发展概述and入门了解
AI安全发展概述 人工智能概述 人工智能基本概念 1956 年,在美国达特茅斯会议上,科学家麦卡锡首次提出“人工智能”:人工智能就是要让机器的行为看起来更像人所表现出的智能行为一样。在人工智能概念提出...
AI安全爆发:谷歌发布网络安全大语言模型
本周二4月25日在旧金山举行的2023年RSA大会上,谷歌云发布了谷歌云安全人工智能工作台,基于专为网络安全设计的大语言模型Sec-PaLM。Sec-PaLM是谷歌现有大语言模型PaLM的定制版本,能...