AI安全 | CN-SEC 中文网

人工智能安全

AI安全 | Prompt越狱手册第一版发布

微信公众号有字数限制，无法放下如此大的篇幅。正文部分仅有目录以及如下部分的内容。 Prompt越狱框架越狱框架的潜力越狱框架，打造专属你的漏洞助手米斯特漏洞助手设计源代码公开：本文参考资料：...

11月26日19 views评论

阅读全文

安全文章

ai安全漏洞挖掘初探

分享几个案例，简单的看一下ai关于内容上的一些漏洞LLM提示词注入我们篡改了他的数据库，可能通过给他大量发消息，自己创建个博客写的自己很权威让他检索到，直接对话让他记住等等会产生一个提示词的注入类似这...

10月08日54 views评论

阅读全文

安全文章

src收录范围的ai安全赏金挖掘初探

如今各厂也有自己的ai，src也开始收录一些关于ai的漏洞，那么我们如何去赚一些关于ai的赏金呢?我分享几个案例LLM提示词注入我们篡改了他的数据库，可能通过给他大量发消息，自己创建个博客写的自己很权...

10月07日12 views评论

阅读全文

安全文章

有趣的AI安全-数据污染导致敏感信息泄露

今天看到一个有趣的AI安全问题原文是：https://promptarmor.substack.com/p/data-exfiltration-from-writercom整个漏洞的触发流程是这样的：...

06月27日19 views评论

阅读全文

人工智能安全

AI安全白皮书 - 华为

点击上方蓝色字体，关注我们/ 技术交流群 /添加微信15021948198，申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......

05月03日12 views评论

阅读全文

安全新闻

《2024年网络弹性风险指数报告》：92%的组织并未准备好应对AI安全挑战

网络弹性是一个比传统网络安全更大、更重要的范例，拥有有效网络弹性能力的组织能在承受网络攻击、技术故障或故意篡改企图后迅速恢复正常业务运营。近日，Absolute security公司发布的《2024年...

04月26日22 views评论

阅读全文

人工智能安全

AI安全：36种AI攻击手法与五种AI安全策略

前几天看到刺总公司发起了国内第一份AI安全法律的起草议案和两会也在谈论关于AI安全的研究培养，但发现有关AI安全攻击介绍的资料实在太少，索性自己翻阅国内外各大资料进行了分析总结在此介绍一系列针对AI模...

04月22日149 views评论

阅读全文

人工智能安全

AI安全｜LLM 01 提示词注入

0x01 前言接下来会连续更新关于 LLM OWASP TOP 10 的内容每一个漏洞我这边都会写一篇详细文章进行说明。这篇文章我们从 LLM OWASP TOP 10 其中的 LLM 01 提示词注...

03月29日72 views评论

阅读全文

安全新闻

全球首份《AI系统安全开发准则》发布，提出4方面安全监管要求

2023年11月26日，美国、英国、澳大利亚等18个国家的网络安全监管部门联合发布了全球首份《AI系统安全开发准则》，旨在实现保护人工智能模型不被恶意篡改，并敦促人工智能公司在开发或使用人工智能模型...

11月28日61 views评论

阅读全文

安全新闻

AI安全未来发展与监管的平衡

随着生成模型，尤其是大模型（LLM）的出现，以及ChatGPT的迅速蹿红，人们再次呼吁加强安全监管。 01安全不是靠监管出来的不出所料，面对未经详细研究的新技术，人们的第一反应就是恐惧，而恐...

11月01日15 views评论

阅读全文

安全新闻

安全研究发现：AI安全护栏形同虚设

事实证明，为了防止OpenAI的GPT-3.5 Turbo等大语言模型（LLM）生成有害的内容而创建的“护栏”机制非常脆弱，形同虚设。一群来自美国普林斯顿大学、弗吉尼亚理工大学、IBM研究院和斯坦福大...

10月26日5 views评论

阅读全文

SecIN安全技术社区

AI安全发展概述and入门了解

AI安全发展概述人工智能概述人工智能基本概念 1956 年，在美国达特茅斯会议上，科学家麦卡锡首次提出“人工智能”：人工智能就是要让机器的行为看起来更像人所表现出的智能行为一样。在人工智能概念提出...

07月12日11 views已关闭评论

阅读全文

在线咨询

微信