2024年8月,美国国防部高级研究计划局 DARPA 发起的 AIxCC 人工智能网络安全挑战赛将迎来半决赛。该赛事将大语言模型等最新AI技术引入网络安全竞赛,希望验证大语言模型技术在智能攻防领域的应...
基于LLM的被动扫描工具:burpGpt
基于LLM的被动扫描工具: burpGpt 随着人工智能技术的快速发展,chatgpt这类生成式AI应用已经逐渐渗透进社会的方方面面。作为渗透测试人员,我们也在思考该如何使用大语言模型提高我们的测试效...
黑客攻击各大AI语言模型平台,转卖获取隐私信息
近日。安全公司 Sysdig 发布报告,声称有大量黑客瞄准各大 LLM 大语言模型网络平台发动“LLM 劫持”攻击,黑客通过一系列方式盗取用户账号密码,将模型 API 转卖给第三方,还从用户的对话记录...
【论文速读】| JADE:用于大语言模型的基于语言学的安全评估平台
本次分享论文:JADE : A Linguistics-based Safety Evaluation Platform for Large Language Models基本信息原文作者:Mi Zh...
专题解读 | 大语言模型中的记忆设计
大语言模型中的记忆设计前言Wang 等人[1]提出基于 LLM 的自主智能体架构设计应该包括四个组成部分:分析模块、记忆模块、规划模块和动作模块(如图1所示)。记忆模块在智能体架构设计中起着非常重要的...
【论文速读】|MEDFUZZ:探索大语言模型在医学问题回答中的鲁棒性
本次分享论文:MEDFUZZ: EXPLORING THE ROBUSTNESS OF LARGE LANGUAGE MODELS IN MEDICAL QUESTION ANSWERING基本信息原...
【论文速读】| LLAMAFUZZ:大语言模型增强的灰盒模糊测试
本次分享论文:LLAMAFUZZ: Large Language Model Enhanced Greybox Fuzzing基本信息原文作者:Hongxiang Zhang, Yuyang Rong...
大语言模型 C/C++ 代码漏洞检测效能的实证研究
摘要代码漏洞检测是软件安全领域的研究热点,涌现出了大量的工具与算法,但受制于代码复杂抽象的逻辑实现,高效的漏洞检测仍未实现。近年来,由于大语言模型技术展现出极强的语言理解和文本生成能力,大语言模型赋能...
【公益译文】大语言模型安全测试方法
一前言世界数字技术院(WDTA)开发和发布了“大语言模型安全测试方法”,这表明相关人员始终致力于推进关键进展,保证人工智能技术的可信和安全使用。大语言模型等人工智能系统逐渐成为社会各个领域中不可或缺的...
【论文速读】|利用大语言模型实现现实世界代码的翻译:一项针对翻译到Rust语言的研究
本次分享论文:Towards Translating Real-World Code with LLMs: A Study of Translating to Rust基本信息原文作者:Hasan F...
大语言模型利用零日漏洞取得重大突破
零日漏洞利用是网络安全攻击的“核武器”,也是AI难以染指的安全研究“圣杯”。但是,安全研究人员近日发布的一篇论文颠覆了这一观点,在网络安全圈里炸开了锅!该论文证明大语言模型(LLM)可以高效自动化利用...
AI 安全运营的新篇章:Dify 的应用与实践(一)
“A9 Team 甲方攻防团队,成员来自某证券、微步、青藤、长亭、安全狗等公司。成员能力涉及安全运营、威胁情报、攻防对抗、渗透测试、数据安全、安全产品开发等领域,持续分享安全运营和攻防的思考和实践。”...
30