大模型提示词工程是一个技术活,可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。继续对之前发现的项目LLM Riddles进行解谜。系列历史文章来和大模型斗智斗...
来和大模型斗智斗勇(一)
大模型提示词工程是一个技术活,可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。最近发现了一个好玩的项目LLM Riddles,特此开个系列来玩一玩,提高一下咱...
Google 的 XRefer:复杂恶意软件分析的终极工具
为了加快恶意软件逆向工程的进程,Mandiant FLARE 发布了 XRefer,这是一个在Google Gemini上运行的 IDA Pro 开源插件。 XRefer 解决了浏览复杂恶意软件的挑战...
KDD25 | 大语言模型能否提高图神经网络的对抗鲁棒性?
Can Large Language Models Improve the Adversarial Robustness of Graph NeuralNetworks?作者:张中健,王啸,周辉池,于...
浅谈利用AI对微信群聊侦查分析(三)附prompt+工具零成本实操
工欲善其事,必先利其器前段时间发布了《浅谈AI对微信群聊的侦查分析》这篇文章我在侦查要素分解中,首次采用提示工程使用AI对侦查要素进行概念分解,以帮助我发现群聊信息中的关键线索,补充可能存在的信息茧房...
LLM 安全与安全性研究 第一部分:我该做什么?
Research LLM Security & Safety Part 1. What should I do 0. 引言两年前,OpenAI 发布了 ChatGPT 3.5,随后,LLM 充...
VelLMes-AI-Honeypot:一款大语言模型LLM的蜜罐工具
关于VelLMes-AI-HoneypotVelLMes-AI-Honeypot是一款大语言模型LLM的蜜罐工具,该工具可以通过使用LLM创建交互式、动态且逼真的蜜罐。该工具旨在帮助广大研究人员搭建部...
专题解读 | 大语言模型上下文窗口扩展方法
大语言模型上下文窗口扩展方法一、简介上下文窗口(context window)是大语言模型(LLM)的一个重要概念,指模型在一次推理或生成过程中可以处理的文本长度。大语言模型的上下文窗口大小取决于预训...
AI机器人的头号威胁:大模型越狱
随着ChatGPT等AI聊天机器人以及基于大语言模型的应用席卷全球,越来越多的公司开始将这种技术引入机器人控制。然而,最新研究发现,黑客可以通过自动化方式轻松绕过AI系统的安全防护,甚至能够操控机器人...
专题解读 | 大语言模型在推荐场景的实践
大语言模型在推荐场景的实践一、简介随着大语言模型(LLMs)的不断发展,工业界大量探索LLM在实际推荐场景的应用。本文介绍小红书在笔记推荐场景应用LLM的探索,以及字节应用LLM在抖音业务上的实践。二...
AI安全漏洞之VLLM反序列化漏洞分析与保姆级复现(附批量利用)
前期准备 环境需要:Linux(这里使用kali)、Anaconda 首先安装Anaconda 前言:最好使用linux,如果使用windows可能会产生各种报错(各种各种各种!!!),最好使用Ana...
FuzzyAI:用于自动化 LLM 模糊测试的开源工具
FuzzyAI Fuzzer 是一款功能强大的自动化 LLM 模糊测试工具。它旨在帮助开发人员和安全研究人员识别和缓解其 LLM API 中的潜在安全漏洞。 FuzzyAI 为组织提供了一种系统化的方...
42