本次分享论文为:Large Language Models Based Fuzzing Techniques: A Survey基本信息原文作者:Linghan Huang, Peizhou Zhao...
「人脑替代计划-6」LLM是什么?
大型语言模型在生成人工智能中的应用如何?我们以ChatGPT为例来直观地理解一下。ChatGPT 的众多功能中,其中之一就是理解人类语言(用简单的话提出问题)。它还可以产生我们人类可以理解的反应。Ch...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)- 间接提示词注入
前言 这一节内容比较多,原因是因为间接提示词注入衍生内容比较多,为了内容的完整性,所以文字较多各位看官见谅。另外文章欢迎转载,只是希望能加个微信公众号二维码,谢谢各位了。另外在查找资料过程中发现大量的...
LLM安全 | 大语言模型应用安全入门
一、背景2023年以来,LLM 变成了相当炙手可热的话题,以 ChatGPT 为代表的 LLM 的出现,让人们看到了无限的可能性。ChatGPT能写作,能翻译,能创作诗歌和故事,甚至能一定程度上做一些...
是不是该考虑轻量级大语言模型LLLM了?
长文本时代到了?随着人工智能领域的迅速发展,大型语言模型正在不断推动更大的数据量和更长的文本处理能力。过去一年里,超长上下文窗口的大模型发展趋势表现出显著的进步和创新。研究人员提出了多种方法来扩展大模...
大模型如何赋能企业安全;重要文件的保护措施有哪些 | FB甲方群话题讨论
▎各位 Buffer 晚上好,FreeBuf 甲方群话题讨论第 233 期来了!FB甲方社群不定期围绕安全热点事件、前沿技术、运营体系建设等话题展开讨论,Kiki 群助手每周整理精华、干货讨论内容,为...
【论文速读】| 对大语言模型解决攻击性安全挑战的实证评估
本次分享论文为:An Empirical Evaluation of LLMs for Solving Offensive Security Challenges基本信息原文作者:Minghao Sh...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)- 直接提示词注入(越狱)
前言 由于时间以及人生琐事,所以原本打算每周两更得事情无法满足,所以只能退而求其次周更了。另外由于大语言模型安全本身是个较为新的内容,所以为了怕误人子弟因此所需了解和学习的资料较多也导致了行文速度较慢...
警惕!全球APT组织正在使用大模型辅助网络攻击
关注我们带你读懂网络安全微软和OpenAI通过监测大模型使用记录,找出全球APT组织的使用痕迹,并对相关帐号和资产进行封禁。前情回顾·大模型滥用威胁态势杭州破获重大勒索病毒案:犯罪团伙借助ChatGP...
应对注入攻击,Cloudflare 在大模型前设置防火墙!
为迎接大模型应用的安全风险挑战,Cloudflare发布了一项“人工智能防火墙”服务,该服务专门为云和安全服务商的高级企业客户提供应用安全服务。客户在将来能够“创建自己的定制指纹”,并且可以根据自身的...
WWW 2024 | GraphTranslator: 将图模型对齐大语言模型
论文链接:https://arxiv.org/pdf/2402.07197.pdf代码链接:https://github.com/alibaba/GraphTranslator引言图模型(GM)如图神...
警惕!全球APT组织正在使用大模型辅助网络攻击
关键词网络攻击微软和OpenAI通过监测大模型使用记录,找出全球APT组织的使用痕迹,并对相关帐号和资产进行封禁。安全内参消息称,过去几年来,网络威胁生态系统的发展揭示了一个共同主题,即威胁行为者与企...
15