聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士既然犯罪分子已经意识到无需训练自己的大模型 (LLMs) 实现任何恶意目的,因为窃取凭据之后破解现有凭据更便宜快捷,那么使用生成式AI的大规模供应链攻...
AI+Security系列第4期(二):LLM辅助的模糊测试增强技术
近日,“AI+Security” 系列第 4 期线下活动于北京成功举办,聚焦 “洞” 见未来:AI 驱动的漏洞挖掘新范式,汇聚了安全领域的众多专家。水木羽林技术专家张强博士以“LLM辅助的模糊测试增强...
强制解码越狱大模型
文章首发奇安信社区:https://forum.butian.net/share/3966前言安全对齐(Safety Alignment)在人工智能(AI)和大规模语言模型(LLM)的研究中,指的是确...
KDD25 | 大语言模型能否提高图神经网络的对抗鲁棒性?
Can Large Language Models Improve the Adversarial Robustness of Graph NeuralNetworks?作者:张中健,王啸,周辉池,于...
华中科技大学 | 大模型供应链研究路线图
原文标题:Large Language Model Supply Chain: A Research Agenda原文作者:王申奥,赵彦杰,侯心怡,王浩宇(通讯作者)作者单位:华中科技大学Securi...
代码审查自动化中的大型语言模型
一、介绍1.1代码审查的演变代码审查长期以来一直是软件开发的基石,是确保代码质量,检测错误和保持项目一致性的关键步骤。传统上,这个过程涉及同行评审,开发人员手动评估彼此的代码错误,遵守编码标准和优化机...
超越ChatGPT:代理型人工智能的崛起及其对安全的影响
生成式人工智能(genAI)和大型语言模型(LLMs)的出现,如ChatGPT,引发了一场波及每个行业和企业的变革。这些技术不仅带来新的能力、效率和可能性,还动摇了现有的结构、流程、治理和运营活动。许...
LLMs在供应链投毒检测中的应用
LLMs在供应链投毒检测中的应用■ ■ ■○○01概述供应链投毒检测并不是一种新兴技术,尽管已经存在多种检测方法和技术。然而,在复杂场景下,无论是静态检测还是动态识别,仍然面临着许多影响检测准确率的问...
【论文速读】| F2A:一种利用伪装安全检测智能体进行提示注入的创新方法
基本信息原文标题:F2A: An Innovative Approach for Prompt Injection by Utilizing Feign Security Detection Agen...
【论文速读】| RePD:通过基于检索的提示分解过程防御越狱攻击
基本信息原文标题:RePD: Defending Jailbreak Attack through a Retrieval-based Prompt Decomposition Process原文作者...
利用LLMs进行 0-Day 发现的方法
本文阅读大约需要20分钟;自2023年ChatGPT震撼发布以来,我一直在关注人工智能在网络安全领域的前沿技术资讯和研究动态。坦率的说这一年多以来,在AI与网络安全创新领域并没有能够令人兴奋和激动的创...
【论文速读】| 针对大语言模型的有效且具有规避性的模糊测试驱动越狱攻击
基本信息原文标题:Effective and Evasive Fuzz Testing-Driven Jailbreaking Attacks against LLMs原文作者:Xueluan Gon...
7