这篇博文深入研究了称为“提示泄漏”的漏洞类别及其随后通过“提示注入”进行的利用,该漏洞在 LLM 渗透测试期间允许通过 Python 代码注入未经授权地执行系统命令。在详细的案例研究中,我们将探讨这些...
增强rpa agent webarena分析
今天所见今天看了一个库,说是用来解决llm连接现实的agent,也就是rpa的网页增强。其实我之前也想写,但是写到一半我看到别人也在写,我就停下来了,然后看看别人怎么写的。这个库是https://gi...
Meta AI实验室 | 大型语言模型安全风险的基准评估套件
原文标题:CYBERSECEVAL 2: A Wide-Ranging Cybersecurity Evaluation Suite for Large Language Models原文作者:Man...
白泽SAST团队:将LLM织入SAST程序分析流程的实践
SAST在国内外市场,静态应用安全测试(SAST)已经取得了初步的成功,但随着DevSecOps、安全左移等安全理念的出现和普及,对SAST产品在效果效率、功能易用性上需求也在不断提高。 静态程序分析...
基于OpenAI API 的 LLM 驱动的蜜罐
TL;DR:Galah(/ɡəˈlɑː/ - 发音为“guh-laa”)是一个由 LLM(大型语言模型)驱动的 Web 蜜罐,目前与 OpenAI API 兼容,能够模仿各种应用程序并...
实验性 Morris II 蠕虫病毒可以利用流行的人工智能服务窃取数据并传播恶意软件
导 读研究人员创造了一个生成式人工智能蠕虫,它能够通过互连的人工智能系统传播,并可能造成大规模破坏。该项目由 Ben Nassi、Stav Cohen 和 Ron Bitton 组成的康奈尔科技团队领...
[AI安全论文] (32)南洋理工大学刘杨教授——网络空间安全和AIGC整合之道学习笔记及强推(InForSec)
首先祝大家五一节快乐!《娜璋带你读论文》系列主要是督促自己阅读优秀论文及听取学术讲座,并分享给大家,希望您喜欢。由于作者的英文水平和学术能力不高,需要不断提升,所以还请大家批评指正,非常欢迎大家给我留...
owasp大模型应用威胁视图理解大模型应用目前所面临的主要安全威胁
由于微信公众号推送机制的改变避免错过文章麻烦您将公众号设为星标感谢您的支持!想要学习:【漏洞挖掘,内网渗透OSCP,车联网,二进制】的朋友欢迎加入知识星球一起学习。如果不满意,72小时内可在APP内无...
专为在个人设备本地运行而设计,苹果推出小型开源AI模型OpenELM
科技巨头苹果公司最近又新推出了一款名为OpenELM的开源大语言模型,与市面上其他LLM产品不同的是,OpenELM设计为直接在本地设备上运行,而无需云计算。以往LLM产品常为用户所诟病的一点就是隐私...
[译文] LLM安全:1.黑客如何读取您与ChatGPT或微软Copilot的聊天内容
这是作者新开的一个专栏,主要翻译国外知名安全厂商的技术报告和安全技术,了解它们的前沿技术,学习它们威胁溯源和恶意代码分析的方法,希望对您有所帮助。当然,由于作者英语有限,会借助LLM进行校验和润色,最...
Google如何利用生成式AI加速事件响应流程
本文主要介绍了谷歌如何将生成式AI技术应用到网络安全事件响应流程中,特别是在撰写事件总结和高管更新报告方面。通过对比试验,他们发现AI生成的事件总结在质量和效率上都优于人工撰写。报告还讨论了应用AI的...
开源、离线、免费商用的大模型知识库:Langchain-Chatchat
你是否也有这样的桌面?为了方便找材料,全部放到了桌面,最后结果就是“用起一时爽,找起火葬场”。 (图片来源于网络) 你是否也是盘即个人电脑磁使再怎么不够用,也舍不得删除几年前做的运维方案、架构方案、设...
44