由于微信公众号推送机制的改变避免错过文章麻烦您将公众号设为星标感谢您的支持!想要学习:【漏洞挖掘,内网渗透OSCP,车联网,二进制】的朋友欢迎加入知识星球一起学习。如果不满意,72小时内可在APP内无...
专为在个人设备本地运行而设计,苹果推出小型开源AI模型OpenELM
科技巨头苹果公司最近又新推出了一款名为OpenELM的开源大语言模型,与市面上其他LLM产品不同的是,OpenELM设计为直接在本地设备上运行,而无需云计算。以往LLM产品常为用户所诟病的一点就是隐私...
实战解读:Llama 3 安全性对抗分析
近日,腾讯朱雀实验室、科恩实验室和上海人工智能实验室 司南 OpenCompass 团队针对 Llama 3 安全性做了进一步解读。 2024 年 4 月 18 日,Meta 更新了旗下用于保护和加固...
【论文速读】|理解基于大语言模型的模糊测试驱动程序生成
本次分享论文:Understanding Large Language Model Based Fuzz Driver Generation基本信息原文作者:Cen Zhang, Mingqiang ...
【论文速读】|大语言模型(LLM)智能体可以自主利用1-day漏洞
本次分享论文: LLM Agents can Autonomously Exploit One-day Vulnerabilities 基本信息 原文作者:Richard Fang, Rohan Bi...
【Vidar论文研读分享】一种更安全的LLM指令层次结构
今天是世界读书日,我们一起来简短地读一篇轻松惬意的LLM安全相关的文章。来自OpenAI团队,发布于4月19日,非常的热乎。Intro现代大语言模型 (LLM) 不再单纯得被设计为简单的auto-co...
【论文速读】| 针对红队攻击和防御大模型的攻击提示生成
本次分享论文:Attack Prompt Generation for Red Teaming and Defending Large Language Models基本信息原文作者:Boyi Den...
号称最强大的免费开源AI模型,Meta发布Llama 3
4月18日,Meta公司宣布推出最新一代大语言模型 Llama 3,并将之称为人们所能免费使用到的最智能的AI助手。据了解,Llama 3有两种参数大小可供选择:80亿(8B)和700亿(70B),均...
使用零信任掌控 LLM 人工智能
模型能干的事情越多,干错事的风险就越大,所以必须给它们设置点规矩,就好比给孙大圣带上紧箍咒。如果一个模型能生成一个Envelope并调用REST API,听着是不是很牛?但这也意味着,如果有人想入侵我...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)-概述
前言 从本周开始考虑连载关于大模型安全的文章名字就叫做《大语言模型(LLM)攻防实战手册》,主要基于owasp llm top 10所整理的框架进行编写,并辅以案例、代码进行完善,希望我能有精力持续更...
【论文速读】| MASTERKEY:大语言模型聊天机器人的自动化越狱
本次分享论文为:MASTERKEY: Automated Jailbreaking of Large Language Model Chatbots基本信息原文作者:Gelei Deng, Yi Li...
【论文速读】| 大语言模型平台安全:将系统评估框架应用于OpenAI的ChatGPT插件
本次分享论文为:LLM Platform Security: Applying a Systematic Evaluation Framework to OpenAI’s ChatGPT Plugin...
30