前言监测都一个好玩的绕过gpt的方式 1 发现一个故事类型绕过gpt问题的方式,把GPT当成某次事件的一群幸存者.A plane crashed into a snow for...
[AI安全论文] (35)TIFS24 MEGR-APT:基于攻击表示学习的高效内存APT猎杀系统
年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安...
【论文速读】| 利用大语言模型在灰盒模糊测试中生成初始种子
基本信息论文标题: Harnessing Large Language Models for Seed Generation in Greyb0x Fuzzing作者: Wenxuan Shi, Yu...
探秘 Prompt 世界:从基础构建到越狱实战
点击蓝字关注我们PART.01一、Prompt 基础认知 Prompt 是我们向 AI 输入的指令、问题或描述,它清晰地指示 AI 执行特定任务或生成期望的输出。例如,当我们输入 “写一篇关于人...
LLM越狱防御术
点击蓝字 关注我们LLM越狱防御术Defending LLMs against Jailbreaking序言当前,越狱注入漏洞已成为 LLM 应用程序中备受关注且攻击手段迭代迅速的关键漏洞。从攻击者角...
专题解读|大语言模型在图学习中的中段信息丢失现象
专题解读|大语言模型的中段信息丢失现象一、简介近年来,以大语言模型为代表的“预训练-微调”、“预训练-适配”范式得到了广泛的认可,其不仅能通过大量的预训练获得通用性能力,还能通过下游的适配单元适应各式...
山石说AI|突破模糊测试极限:大模型驱动的软件漏洞深度挖掘
【山石说AI】•第15篇大模型在网络安全中的最新应用进展(四)软件漏洞的发现向来是一场与时间的赛跑,而大模型的引入为模糊测试注入了全新的智慧动力。跳脱传统随机变异的局限,大模型精准的语言和逻辑推理能力...
【AI安全】AI安全之提示词注入攻击
背景介绍近年来随着人工智能技术,尤其是大模型(例如:GPT类模型、BERT类模型等)的不断发展,这些模型已被广泛集成到各类应用中,从数字助手到AI驱动的新闻产业,几乎覆盖了各行各业。大模型的应用逐渐成...
AI安全 | 用文字攻击 AI
扫码领资料获网安教程来Track安全社区投稿~ 赢千元稿费!还有保底奖励~(https://bbs.zkaq.cn)什么是提示(Prompt)?提示是用户或程序向 LLM AI 提供的输入或查询,用...
如何组织搜索词可以搜的全面,大模型举一反三来帮忙
TL;DR:使用搜索引擎进行文献检索或资料收集时,由于操作者的背景不同,会使用不同的搜索词,从而导致搜索结果具有了差异性,因此搜索行为具有了一定的技巧性。使用大模型可以对搜索关键词进行同义枚举,增强知...
【AI安全】大模型多轮越狱技术分析与实现
背景介绍大语言模型的 “越狱” 是指用户通过一些巧妙设计的指令或手段,绕过语言模型预先设置的安全策略和使用规则,让模型生成不符合伦理道德、包含有害内容(如暴力、歧视、违法信息等)的内容。而 “多轮越狱...
来和大模型斗智斗勇(四)(完结)
大模型提示词工程是一个技术活,可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。继续对之前发现的项目LLM Riddles进行解谜,本篇为完结篇。系列历史文章来...
63