原文标题:Large Language Model Supply Chain: A Research Agenda原文作者:王申奥,赵彦杰,侯心怡,王浩宇(通讯作者)作者单位:华中科技大学Securi...
代码审查自动化中的大型语言模型
一、介绍1.1代码审查的演变代码审查长期以来一直是软件开发的基石,是确保代码质量,检测错误和保持项目一致性的关键步骤。传统上,这个过程涉及同行评审,开发人员手动评估彼此的代码错误,遵守编码标准和优化机...
超越ChatGPT:代理型人工智能的崛起及其对安全的影响
生成式人工智能(genAI)和大型语言模型(LLMs)的出现,如ChatGPT,引发了一场波及每个行业和企业的变革。这些技术不仅带来新的能力、效率和可能性,还动摇了现有的结构、流程、治理和运营活动。许...
LLMs在供应链投毒检测中的应用
LLMs在供应链投毒检测中的应用■ ■ ■○○01概述供应链投毒检测并不是一种新兴技术,尽管已经存在多种检测方法和技术。然而,在复杂场景下,无论是静态检测还是动态识别,仍然面临着许多影响检测准确率的问...
【论文速读】| F2A:一种利用伪装安全检测智能体进行提示注入的创新方法
基本信息原文标题:F2A: An Innovative Approach for Prompt Injection by Utilizing Feign Security Detection Agen...
【论文速读】| RePD:通过基于检索的提示分解过程防御越狱攻击
基本信息原文标题:RePD: Defending Jailbreak Attack through a Retrieval-based Prompt Decomposition Process原文作者...
利用LLMs进行 0-Day 发现的方法
本文阅读大约需要20分钟;自2023年ChatGPT震撼发布以来,我一直在关注人工智能在网络安全领域的前沿技术资讯和研究动态。坦率的说这一年多以来,在AI与网络安全创新领域并没有能够令人兴奋和激动的创...
【论文速读】| 针对大语言模型的有效且具有规避性的模糊测试驱动越狱攻击
基本信息原文标题:Effective and Evasive Fuzz Testing-Driven Jailbreaking Attacks against LLMs原文作者:Xueluan Gon...
【论文速读】|PROMPTFUZZ:利用模糊测试技术对大语言模型中的提示注入进行鲁棒性测试
基本信息原文标题: PROMPTFUZZ: Harnessing Fuzzing Techniques for Robust Testing of Prompt Injection in LLMs原文...
【生物安全】人工智能和生物误用:大型语言模型和生物设计工具风险
【摘要】随着人工智能(AI)的进步,也推动了生命科学的进步,它们也可能使生物制剂的武器化和滥用成为可能。本文区分了构成此类生物安全风险的两类人工智能工具:大型语言模型(LLMs)和生物设计工具(BDT...
如何使用大型语言模型(LLMs)自动检测BOLA漏洞
本文介绍了对一种名为 BOLABuster 的方法所进行的研究,该方法使用大型语言模型 (LLM) 来检测对象级授权损坏(BOLA)漏洞。通过大规模自动化 BOLA 检测,我们将在识别开源项目中的这些...
【论文速读】| SEAS:大语言模型的自进化对抗性安全优化
本次分享论文:SEAS: Self-Evolving Adversarial Safety Optimization for Large Language Models基本信息原文作者: Muxi D...
7