本次分享论文:Prompt Fuzzing for Fuzz Driver Generation基本信息原文作者:Yunlong Lyu, Yuxuan Xie, Peng Chen, Hao Che...
owasp大模型应用威胁视图理解大模型应用目前所面临的主要安全威胁
由于微信公众号推送机制的改变避免错过文章麻烦您将公众号设为星标感谢您的支持!想要学习:【漏洞挖掘,内网渗透OSCP,车联网,二进制】的朋友欢迎加入知识星球一起学习。如果不满意,72小时内可在APP内无...
【论文速读】|理解基于大语言模型的模糊测试驱动程序生成
本次分享论文:Understanding Large Language Model Based Fuzz Driver Generation基本信息原文作者:Cen Zhang, Mingqiang ...
基于ChatGPT大语言模型,通过聊天机器人自动创建vulhub的漏洞靶机环境
免责声明:由于传播、利用本公众号李白你好所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,公众号李白你好及作者不为此承担任何责任,一旦造成后果请自行承担!如有侵权烦请告知,我们会立...
LLM 安全 | 大语言模型应用安全入门
一、背景2023年以来,LLM 变成了相当炙手可热的话题,以 ChatGPT 为代表的 LLM 的出现,让人们看到了无限的可能性。ChatGPT能写作,能翻译,能创作诗歌和故事,甚至能一定程度上做一些...
【论文速读】| 针对红队攻击和防御大模型的攻击提示生成
本次分享论文:Attack Prompt Generation for Red Teaming and Defending Large Language Models基本信息原文作者:Boyi Den...
号称最强大的免费开源AI模型,Meta发布Llama 3
4月18日,Meta公司宣布推出最新一代大语言模型 Llama 3,并将之称为人们所能免费使用到的最智能的AI助手。据了解,Llama 3有两种参数大小可供选择:80亿(8B)和700亿(70B),均...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)-概述
前言 从本周开始考虑连载关于大模型安全的文章名字就叫做《大语言模型(LLM)攻防实战手册》,主要基于owasp llm top 10所整理的框架进行编写,并辅以案例、代码进行完善,希望我能有精力持续更...
【论文速读】| MASTERKEY:大语言模型聊天机器人的自动化越狱
本次分享论文为:MASTERKEY: Automated Jailbreaking of Large Language Model Chatbots基本信息原文作者:Gelei Deng, Yi Li...
【论文速读】| 大语言模型平台安全:将系统评估框架应用于OpenAI的ChatGPT插件
本次分享论文为:LLM Platform Security: Applying a Systematic Evaluation Framework to OpenAI’s ChatGPT Plugin...
研究发现 AI 代理 GPT-4 大语言模型 (LLM) 代理利用相关CVE的安全漏洞
LLM客户端可以自主利用 One-day 漏洞LLMs无论是在良性用途还是恶意用途方面,都变得越来越强大。随着能力的提高,研究人员对他们利用网络安全漏洞的能力越来越感兴趣。特别是,最近的工作对LLM代...
【论文速读】| CHEMFUZZ: 大语言模型辅助模糊测试用于量子化学软件缺陷检测
本次分享论文为:CHEMFUZZ: Large Language Models-assisted Fuzzing for Quantum Chemistry Software Bug Detectio...
15