2024年8月,美国国防部高级研究计划局 DARPA 发起的 AIxCC 人工智能网络安全挑战赛将迎来半决赛。该赛事将大语言模型等最新AI技术引入网络安全竞赛,希望验证大语言模型技术在智能攻防领域的应...
基于LLM的被动扫描工具:burpGpt
基于LLM的被动扫描工具: burpGpt 随着人工智能技术的快速发展,chatgpt这类生成式AI应用已经逐渐渗透进社会的方方面面。作为渗透测试人员,我们也在思考该如何使用大语言模型提高我们的测试效...
【论文速读】| JADE:用于大语言模型的基于语言学的安全评估平台
本次分享论文:JADE : A Linguistics-based Safety Evaluation Platform for Large Language Models基本信息原文作者:Mi Zh...
专题解读 | 大语言模型中的记忆设计
大语言模型中的记忆设计前言Wang 等人[1]提出基于 LLM 的自主智能体架构设计应该包括四个组成部分:分析模块、记忆模块、规划模块和动作模块(如图1所示)。记忆模块在智能体架构设计中起着非常重要的...
什么是提示词注入攻击?大语言模型为Web安全带来的新风险!
在Web安全领域,最基础的一课就是防范注入攻击。注入攻击是指攻击者在应用程序接收用户输入的地方注入自己精心构造的攻击代码,以达到执行任意操作、篡改数据或者获取敏感信息的目的。注入攻击是 Web 应用程...
【论文速读】|MEDFUZZ:探索大语言模型在医学问题回答中的鲁棒性
本次分享论文:MEDFUZZ: EXPLORING THE ROBUSTNESS OF LARGE LANGUAGE MODELS IN MEDICAL QUESTION ANSWERING基本信息原...
【论文速读】| LLAMAFUZZ:大语言模型增强的灰盒模糊测试
本次分享论文:LLAMAFUZZ: Large Language Model Enhanced Greybox Fuzzing基本信息原文作者:Hongxiang Zhang, Yuyang Rong...
大语言模型 C/C++ 代码漏洞检测效能的实证研究
摘要代码漏洞检测是软件安全领域的研究热点,涌现出了大量的工具与算法,但受制于代码复杂抽象的逻辑实现,高效的漏洞检测仍未实现。近年来,由于大语言模型技术展现出极强的语言理解和文本生成能力,大语言模型赋能...
【公益译文】大语言模型安全测试方法
一前言世界数字技术院(WDTA)开发和发布了“大语言模型安全测试方法”,这表明相关人员始终致力于推进关键进展,保证人工智能技术的可信和安全使用。大语言模型等人工智能系统逐渐成为社会各个领域中不可或缺的...
【论文速读】|利用大语言模型实现现实世界代码的翻译:一项针对翻译到Rust语言的研究
本次分享论文:Towards Translating Real-World Code with LLMs: A Study of Translating to Rust基本信息原文作者:Hasan F...
大语言模型利用零日漏洞取得重大突破
零日漏洞利用是网络安全攻击的“核武器”,也是AI难以染指的安全研究“圣杯”。但是,安全研究人员近日发布的一篇论文颠覆了这一观点,在网络安全圈里炸开了锅!该论文证明大语言模型(LLM)可以高效自动化利用...
【论文速读】|当LLM遇见网络安全:系统性文献综述
本次分享论文:When LLMs Meet Cybersecurity: A Systematic Literature Review基本信息原文作者:Jie Zhang, Haoyu Bu, Hui...
15