知识蒸馏再升级:用大语言模型赋能图神经网络一、背景介绍知识蒸馏(Knowledge Distillation)作为一种模型压缩方法,通过将复杂教师模型(Teacher Model)的知识传递给较轻量的...
【论文速读】| 针对大语言模型的可转移集成黑盒越狱攻击
基本信息原文标题:Transferable Ensemble Black-box Jailbreak Attacks on Large Language Models原文作者:Yiqi Yang, H...
专题解读 | 大语言模型在可解释推荐领域的应用
LLM 在可解释推荐领域的应用一、简介大语言模型(LLM)在推动可解释推荐系统的发展中发挥了关键作用。它们具备强大的自然语言处理和生成能力,能够理解复杂的用户行为和项目特征,并将其转化为类人解释。LL...
vulnhuntr:基于大语言模型和静态代码分析的漏洞扫描与分析工具
关于vulnhuntr vulnhuntr是一款基于大语言模型和静态代码分析的安全漏洞扫描与分析工具,该工具可以算得上是世界上首款具备自主AI能力的安全漏洞扫描工具。 Vulnhuntr 利用 LLM...
AI 大模型安全实践指南
当前正处于人工智能飞速发展的黄金时期,以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式,加速了知识的传播,并为社会变革注入了新的动力。在我国,大语言模型(Large Languag...
【论文速读】| 通过良性数据镜像对大语言模型进行隐蔽越狱攻击
基本信息原文标题:Stealthy Jailbreak Attacks on Large Language Models via Benign Data Mirroring原文作者:Honglin M...
专题解读 | 大语言模型在序列推荐中的应用
大语言模型在序列推荐中的应用一、简介序列推荐技术通过分析用户的过往交互历史,能够有效挖掘出用户可能感兴趣的项目,对于提升各类应用的服务质量具有重要作用。近期,大语言模型(LLMs)的发展在应对复杂的推...
AI安全 | 大模型时代下的安全隐患规避
当前正处于人工智能飞速发展的黄金时期,以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式,加速了知识的传播,并为社会变革注入了新的动力。在我国,大语言模型(Large Languag...
大语言模型安全,到底是什么的安全
什么是AI安全自ChatGPT问世以来,市场上涌现出了众多大型语言模型和多样化的AI应用。这些应用和模型在为我们的生活带来便利的同时,也不可避免地面临着安全挑战。AI安全,即人工智能安全,涉及在人工智...
Obsidian文字转语音插件(Text to speech)
Obsidian笔记软件有一个插件,可以将笔记中的文字转成语音播放出来。当写完一篇的时候,就可以的用语音将笔记的内容播放出来,中文、英文、日语都可以试一下。在Mac系统上,用Obsidian插件的播放...
【论文速读】| RePD:通过基于检索的提示分解过程防御越狱攻击
基本信息原文标题:RePD: Defending Jailbreak Attack through a Retrieval-based Prompt Decomposition Process原文作者...
从Naptime到Big Sleep:通过大语言模型捕获真实代码中的漏洞
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士如下是谷歌 Project Zero 发布的一篇文章,详述了 Big Sleep 项目如何发现了传统模糊测试无法发现的0day漏洞,探讨了大语言模型在...
15