AI原生应用正在迅速成为人工智能的下一个前沿领域。这些程序利用先进的AI技术,例如大型语言模型(LLMs),以赋能应用的智能化和交互化。从聊天机器人和虚拟助手到内容生成和情感分析,AI原生应用正在改变...
网络安全顶会——USENIX Security 2024 秋季论文清单与摘要(下)
71、Large Language Models for Code Analysis: Do LLMs Really Do Their Job?大型语言模型(LLMs)在自然语言理解和编程代码处理任务...
洞见RSAC 2024|AI安全分析与挑战
随着人工智能(AI)技术的迅速发展,其在各个领域的广泛应用已经成为现实。然而,随之而来的是AI系统安全性的不断凸显,特别是在大规模语言模型(LLMs)和企业自动化领域。本文将针对2024 RSA大会中...
Meta AI实验室 | 大型语言模型安全风险的基准评估套件
原文标题:CYBERSECEVAL 2: A Wide-Ranging Cybersecurity Evaluation Suite for Large Language Models原文作者:Man...
【论文速读】| 针对红队攻击和防御大模型的攻击提示生成
本次分享论文:Attack Prompt Generation for Red Teaming and Defending Large Language Models基本信息原文作者:Boyi Den...
SecMet#1期 理解和度量大模型的安全问题
[SecMet]是安全学术圈近期打造的一个线上线下结合的学术研讨模式,研讨会分为全公开和半公开模式,其中半公开模式仅对安全学术圈内部交流群和特殊专题投稿人员参加,每期主题根据领域主席(Primary ...
GPT-4 只需阅读威胁通报即可利用大多数漏洞
导 读配备 GPT-4 的人工智能代理只需在线阅读相关信息,就可以利用影响当今现实世界系统的大多数公共漏洞。伊利诺伊大学厄巴纳-香槟分校 (UIUC) 的新发现(论文下载地址:https://arxi...
【论文速读】| CHEMFUZZ: 大语言模型辅助模糊测试用于量子化学软件缺陷检测
本次分享论文为:CHEMFUZZ: Large Language Models-assisted Fuzzing for Quantum Chemistry Software Bug Detectio...
【论文速读】| 基于大语言模型的模糊测试技术
本次分享论文为:Large Language Models Based Fuzzing Techniques: A Survey基本信息原文作者:Linghan Huang, Peizhou Zhao...
普遍存在的LLM幻觉扩大了软件开发的攻击面
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士大语言模型 (LLMs) 安全厂商 Lasso Security 指出,软件开发人员使用 LLMs 为攻击者在开发环境中传播恶意包带来了比之前所认为的...
【论文速读】| 对大语言模型解决攻击性安全挑战的实证评估
本次分享论文为:An Empirical Evaluation of LLMs for Solving Offensive Security Challenges基本信息原文作者:Minghao Sh...
【论文速读】| 增强静态分析以实现实用漏洞检测:一种集成大语言模型的方法
本次分享论文为:Enhancing Static Analysis for Practical Bug Detection: An LLM-Integrated Approach基本信息原文作者:Ha...
7