一、背景2023年以来,LLM 变成了相当炙手可热的话题,以 ChatGPT 为代表的 LLM 的出现,让人们看到了无限的可能性。ChatGPT能写作,能翻译,能创作诗歌和故事,甚至能一定程度上做一些...
是不是该考虑轻量级大语言模型LLLM了?
长文本时代到了?随着人工智能领域的迅速发展,大型语言模型正在不断推动更大的数据量和更长的文本处理能力。过去一年里,超长上下文窗口的大模型发展趋势表现出显著的进步和创新。研究人员提出了多种方法来扩展大模...
大模型如何赋能企业安全;重要文件的保护措施有哪些 | FB甲方群话题讨论
▎各位 Buffer 晚上好,FreeBuf 甲方群话题讨论第 233 期来了!FB甲方社群不定期围绕安全热点事件、前沿技术、运营体系建设等话题展开讨论,Kiki 群助手每周整理精华、干货讨论内容,为...
【论文速读】| 对大语言模型解决攻击性安全挑战的实证评估
本次分享论文为:An Empirical Evaluation of LLMs for Solving Offensive Security Challenges基本信息原文作者:Minghao Sh...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)- 直接提示词注入(越狱)
前言 由于时间以及人生琐事,所以原本打算每周两更得事情无法满足,所以只能退而求其次周更了。另外由于大语言模型安全本身是个较为新的内容,所以为了怕误人子弟因此所需了解和学习的资料较多也导致了行文速度较慢...
警惕!全球APT组织正在使用大模型辅助网络攻击
关注我们带你读懂网络安全微软和OpenAI通过监测大模型使用记录,找出全球APT组织的使用痕迹,并对相关帐号和资产进行封禁。前情回顾·大模型滥用威胁态势杭州破获重大勒索病毒案:犯罪团伙借助ChatGP...
应对注入攻击,Cloudflare 在大模型前设置防火墙!
为迎接大模型应用的安全风险挑战,Cloudflare发布了一项“人工智能防火墙”服务,该服务专门为云和安全服务商的高级企业客户提供应用安全服务。客户在将来能够“创建自己的定制指纹”,并且可以根据自身的...
WWW 2024 | GraphTranslator: 将图模型对齐大语言模型
论文链接:https://arxiv.org/pdf/2402.07197.pdf代码链接:https://github.com/alibaba/GraphTranslator引言图模型(GM)如图神...
警惕!全球APT组织正在使用大模型辅助网络攻击
关键词网络攻击微软和OpenAI通过监测大模型使用记录,找出全球APT组织的使用痕迹,并对相关帐号和资产进行封禁。安全内参消息称,过去几年来,网络威胁生态系统的发展揭示了一个共同主题,即威胁行为者与企...
i-am-a-bot:一款基于多个大语言模型的验证码系统安全评估工具
关于i-am-a-boti-am-a-bot是一款基于多个大语言模型的验证码安全评估工具,该工具提供了一个使用了多模态大语言模型(LLM)的自动化解决方案,可以帮助广大研究人员测试各种类型验证码机制的...
【论文速读】| 增强静态分析以实现实用漏洞检测:一种集成大语言模型的方法
本次分享论文为:Enhancing Static Analysis for Practical Bug Detection: An LLM-Integrated Approach基本信息原文作者:Ha...
2024 人工智能安全报告
近日,奇安信集团对外发布《2024人工智能安全报告》(以下简称《报告》)。据悉,这是我国首份人工智能安全报告。《报告》认为,人工智能是新一轮科技革命和产业变革的核心技术,被誉为下一个生产力前沿。具有巨...
6