在科技迅猛发展的今天,基于大模型的AIGC产品如ChatGPT等无疑是最耀眼的明星。AI技术的升级不仅推动了科技的迅猛发展,更深刻地影响了我们的生活和工作方式。这场以大模型为核心的技术革命,正在以前所...
大模型开发工作手册详细指南
作者:rhino自 “Prompt工作手册” 发布以来,我持续研究大模型能力的应用及研发方法,结合产业发展,在研发框架和模型应用上有了新的思考,并形成了新的方法论,希望我们的能力不仅仅停留在模型研发的...
ChatGPT 大模型可以解决的 7 个网络安全中恶意程序分析问题
序最近ChatGPT在信息安全圈的关注度迅速攀升,出现了一系列文章描述了ChatGPT如何被用来自动化各种网络安全任务。本文我们将展示 ChatGPT 如何为逆向和恶意软件分析带来价值,无论是刚进入这...
LLMSecOps|LLM和GenAI的安全解决方案
如果你也想在网络安全上全栈,点击下方名片关注我,助你离目标更近一步!引言:随着生成式AI的采用、使用和应用程序开发的增长,新的安全风险也随之而来,影响着企业或组织的战略规划和投资。当然,对应的消减方案...
[论文翻译]多步骤越狱隐私攻击对ChatGPT的影响
https://arxiv.org/pdf/2304.05197Multi-step Jailbreaking Privacy Attacks on ChatGPT多步骤越狱隐私攻击对ChatGPT的...
专题解读 | 大模型增强图推荐的两类主流方法
大模型增强图推荐的两类主流方法一、简介大型语言模型(LLMs)的快速发展展示了其在生成、推理和建模世界知识方面的卓越能力。推荐系统也预计将从LLMs的发展中获得显著的好处。最近的研究努力已经将LLMs...
有意思的ChatGPT-Bypass
前言监测都一个好玩的绕过gpt的方式 1 发现一个故事类型绕过gpt问题的方式,把GPT当成某次事件的一群幸存者.A plane crashed into a snow for...
[AI安全论文] (35)TIFS24 MEGR-APT:基于攻击表示学习的高效内存APT猎杀系统
年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安...
【论文速读】| 利用大语言模型在灰盒模糊测试中生成初始种子
基本信息论文标题: Harnessing Large Language Models for Seed Generation in Greyb0x Fuzzing作者: Wenxuan Shi, Yu...
探秘 Prompt 世界:从基础构建到越狱实战
点击蓝字关注我们PART.01一、Prompt 基础认知 Prompt 是我们向 AI 输入的指令、问题或描述,它清晰地指示 AI 执行特定任务或生成期望的输出。例如,当我们输入 “写一篇关于人...
LLM越狱防御术
点击蓝字 关注我们LLM越狱防御术Defending LLMs against Jailbreaking序言当前,越狱注入漏洞已成为 LLM 应用程序中备受关注且攻击手段迭代迅速的关键漏洞。从攻击者角...
专题解读|大语言模型在图学习中的中段信息丢失现象
专题解读|大语言模型的中段信息丢失现象一、简介近年来,以大语言模型为代表的“预训练-微调”、“预训练-适配”范式得到了广泛的认可,其不仅能通过大量的预训练获得通用性能力,还能通过下游的适配单元适应各式...
73