网安人必收!2024年度报告&白皮书、安全标准与技术方案全汇总2024年度大盘点:网络安全必读资料大集合在这个AI技术日新月异的时代,大规模语言模型(LLM)正以前所未有的速度重塑各行各业。从...
专题解读 | 大模型增强图推荐的两类主流方法
大模型增强图推荐的两类主流方法一、简介大型语言模型(LLMs)的快速发展展示了其在生成、推理和建模世界知识方面的卓越能力。推荐系统也预计将从LLMs的发展中获得显著的好处。最近的研究努力已经将LLMs...
【论文速读】| 利用大语言模型在灰盒模糊测试中生成初始种子
基本信息论文标题: Harnessing Large Language Models for Seed Generation in Greyb0x Fuzzing作者: Wenxuan Shi, Yu...
专题解读|大语言模型在图学习中的中段信息丢失现象
专题解读|大语言模型的中段信息丢失现象一、简介近年来,以大语言模型为代表的“预训练-微调”、“预训练-适配”范式得到了广泛的认可,其不仅能通过大量的预训练获得通用性能力,还能通过下游的适配单元适应各式...
新型 AI 越狱方法Bad Likert Judge将攻击成功率提升 60% 以上
导 读网络安全研究人员揭示了一种新的越狱技术,该技术可用于突破大型语言模型 (LLM) 的安全护栏并产生潜在的有害或恶意响应。这种多回合(又称多次攻击)攻击策略被Palo Alto Networks ...
小型语言模型:AI领域的新热点
多年来,谷歌等科技巨头和OpenAI等初创公司,一直在不遗余力地利用海量在线数据,打造更大、更昂贵的人工智能(AI)模型。这些大型语言模型(LLM)被广泛应用于ChatGPT等聊天机器人中,帮助用户处...
多模态大模型安全评估基准MultiTrust
由清华大学、北京航空航天大学、上海交通大学和RealAI联合研究的MultiTrust框架[1]是一个针对多模态大模型的可信评估基准,从真实性、安全性、鲁棒性、公平性和隐私性对多模态大模型安全进行综合...
如何组织搜索词可以搜的全面,大模型举一反三来帮忙
TL;DR:使用搜索引擎进行文献检索或资料收集时,由于操作者的背景不同,会使用不同的搜索词,从而导致搜索结果具有了差异性,因此搜索行为具有了一定的技巧性。使用大模型可以对搜索关键词进行同义枚举,增强知...
【AI安全】大模型多轮越狱技术分析与实现
背景介绍大语言模型的 “越狱” 是指用户通过一些巧妙设计的指令或手段,绕过语言模型预先设置的安全策略和使用规则,让模型生成不符合伦理道德、包含有害内容(如暴力、歧视、违法信息等)的内容。而 “多轮越狱...
使用LLM混淆恶意 JavaScript,88%的恶意样本可以逃避检测
基于大语言模型的对抗性攻击与防御:以恶意JavaScript为例我们开发了一种对抗性机器学习算法,利用大语言模型(LLM)来大规模生成恶意JavaScript代码的变体。通过这项研究,我们提升了对野外...
【ADLab】以大模型为目标的威胁攻击与安全思考
更多安全资讯和分析文章请关注启明星辰ADLab微信公众号及官方网站(adlab.venustech.com.cn)一、概 述自2023年以来,以ChatGPT为代表的大语言模型(LLM)向人们展现出...
学术 | 大语言模型的幻觉问题研究
图片由AI模型生成大语言模型的幻觉问题研究综述摘要:随着以Transformer为代表的预训练模型等深度学习技术的发展,大型语言模型(LLM)日益展现出强大的理解力和创造力,对抽象摘要、对话生成、机器...
30