本次分享论文为:Large Language Models Based Fuzzing Techniques: A Survey基本信息原文作者:Linghan Huang, Peizhou Zhao...
「人脑替代计划-6」LLM是什么?
大型语言模型在生成人工智能中的应用如何?我们以ChatGPT为例来直观地理解一下。ChatGPT 的众多功能中,其中之一就是理解人类语言(用简单的话提出问题)。它还可以产生我们人类可以理解的反应。Ch...
LLM安全 | 大语言模型应用安全入门
一、背景2023年以来,LLM 变成了相当炙手可热的话题,以 ChatGPT 为代表的 LLM 的出现,让人们看到了无限的可能性。ChatGPT能写作,能翻译,能创作诗歌和故事,甚至能一定程度上做一些...
大模型如何赋能企业安全;重要文件的保护措施有哪些 | FB甲方群话题讨论
▎各位 Buffer 晚上好,FreeBuf 甲方群话题讨论第 233 期来了!FB甲方社群不定期围绕安全热点事件、前沿技术、运营体系建设等话题展开讨论,Kiki 群助手每周整理精华、干货讨论内容,为...
【论文速读】| 对大语言模型解决攻击性安全挑战的实证评估
本次分享论文为:An Empirical Evaluation of LLMs for Solving Offensive Security Challenges基本信息原文作者:Minghao Sh...
VL-Trojan:针对多模态模型的后门攻击
一.视觉语言模型与指令微调视觉语言模型(Visual Language Models,VLMs)在图像和自然语言两种模态数据上进行学习,能够理解与解释图像、文本间的关联,常被用于目标检测、语义分割等视...
【论文】生成式人工智能对社交机器人的影响与治理对策研究
文章来源:《情报杂志》网络首发时间:2024-03-25 12:57:51网络首发地址:https://link.cnki.net/urlid/61.1167.G3.20240321.1758.002...
警惕!全球APT组织正在使用大模型辅助网络攻击
关注我们带你读懂网络安全微软和OpenAI通过监测大模型使用记录,找出全球APT组织的使用痕迹,并对相关帐号和资产进行封禁。前情回顾·大模型滥用威胁态势杭州破获重大勒索病毒案:犯罪团伙借助ChatGP...
应对注入攻击,Cloudflare 在大模型前设置防火墙!
为迎接大模型应用的安全风险挑战,Cloudflare发布了一项“人工智能防火墙”服务,该服务专门为云和安全服务商的高级企业客户提供应用安全服务。客户在将来能够“创建自己的定制指纹”,并且可以根据自身的...
警惕!全球APT组织正在使用大模型辅助网络攻击
关键词网络攻击微软和OpenAI通过监测大模型使用记录,找出全球APT组织的使用痕迹,并对相关帐号和资产进行封禁。安全内参消息称,过去几年来,网络威胁生态系统的发展揭示了一个共同主题,即威胁行为者与企...
i-am-a-bot:一款基于多个大语言模型的验证码系统安全评估工具
关于i-am-a-boti-am-a-bot是一款基于多个大语言模型的验证码安全评估工具,该工具提供了一个使用了多模态大语言模型(LLM)的自动化解决方案,可以帮助广大研究人员测试各种类型验证码机制的...
【论文速读】| 增强静态分析以实现实用漏洞检测:一种集成大语言模型的方法
本次分享论文为:Enhancing Static Analysis for Practical Bug Detection: An LLM-Integrated Approach基本信息原文作者:Ha...
30