“ AI安全。”看到了,关注一下不吃亏啊,点个赞转发一下啦,WP看不下去的,可以B站搜:标松君,UP主录的打靶视频,欢迎关注。顺便宣传一下星球:重生者安全, 里面每天会不定期更新OSCP知识点,车联网...
2025年关于AI的5个预测-AI安全
2025年1月1日,一辆特斯拉Cybertruck在拉斯维加斯特朗普国际酒店外发生爆炸,导致一人死亡,七人受伤。调查显示,嫌疑人在策划袭击时,利用生成式人工智能工具ChatGPT获取了制造爆炸物的相关...
如何快速掌握AI安全
通过网盘分享的文件:LLM_AI_Security_and_Governance_Checklist-v1.1.pdf链接: https://pan.baidu.com/s/1MLF0TxcbyG9_...
AI安全 | Prompt越狱手册第一版发布
微信公众号有字数限制,无法放下如此大的篇幅。正文部分仅有目录以及如下部分的内容。 Prompt越狱框架 越狱框架的潜力 越狱框架,打造专属你的漏洞助手 米斯特漏洞助手设计 源代码公开: 本文参考资料:...
ai安全漏洞挖掘初探
分享几个案例,简单的看一下ai关于内容上的一些漏洞LLM提示词注入我们篡改了他的数据库,可能通过给他大量发消息,自己创建个博客写的自己很权威让他检索到,直接对话让他记住等等会产生一个提示词的注入类似这...
src收录范围的ai安全赏金挖掘初探
如今各厂也有自己的ai,src也开始收录一些关于ai的漏洞,那么我们如何去赚一些关于ai的赏金呢?我分享几个案例LLM提示词注入我们篡改了他的数据库,可能通过给他大量发消息,自己创建个博客写的自己很权...
有趣的AI安全-数据污染导致敏感信息泄露
今天看到一个有趣的AI安全问题原文是:https://promptarmor.substack.com/p/data-exfiltration-from-writercom整个漏洞的触发流程是这样的:...
AI安全白皮书 - 华为
点击上方蓝色字体,关注我们/ 技术交流群 /添加微信15021948198,申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......
《2024年网络弹性风险指数报告》:92%的组织并未准备好应对AI安全挑战
网络弹性是一个比传统网络安全更大、更重要的范例,拥有有效网络弹性能力的组织能在承受网络攻击、技术故障或故意篡改企图后迅速恢复正常业务运营。近日,Absolute security公司发布的《2024年...
AI安全:36种AI攻击手法与五种AI安全策略
前几天看到刺总公司发起了国内第一份AI安全法律的起草议案和两会也在谈论关于AI安全的研究培养,但发现有关AI安全攻击介绍的资料实在太少,索性自己翻阅国内外各大资料进行了分析总结在此介绍一系列针对AI模...
AI安全|LLM 01 提示词注入
0x01 前言接下来会连续更新关于 LLM OWASP TOP 10 的内容每一个漏洞我这边都会写一篇详细文章进行说明。这篇文章我们从 LLM OWASP TOP 10 其中的 LLM 01 提示词注...
全球首份《AI系统安全开发准则》发布,提出4方面安全监管要求
2023年11月26日 ,美国、英国、澳大利亚等18个国家的网络安全监管部门联合发布了全球首份《AI系统安全开发准则》,旨在实现保护人工智能模型不被恶意篡改,并敦促人工智能公司在开发或使用人工智能模型...