【论文速读】|LLM vs. SAST：GPT4 代码缺陷检测技术分析——高级数据分析

原文标题：LLM vs. SAST: A Technical Analysis on Detecting Coding Bugs of GPT4-Advanced Data Analysis

原文作者：Madjid G. Tehrani, Eldar Sultanow, William J. Buchanan, Mahkame Houmani, Christel H. Djaha Fodja

作者单位：

• The George Washington University, Washington DC, USA

• Blockpass ID Lab, Edinburgh Napier University, Edinburgh, UK

• Capgemini Deutschland GmbH, Nuremberg, Germany

关键词：LLM, GPT-4, 静态应用安全测试（SAST）, 安全漏洞检测, 代码安全, 零日漏洞, AI安全性, DevSecOps

原文链接：https://arxiv.org/abs/2506.15212

开源代码：https://github.com/Sultanow/vulnerability-detector-llm

论文简介：随着自然语言处理的飞速发展，大语言模型（LLM），如GPT-4，在诸多领域得到了广泛应用，包括安全漏洞扫描。本论文聚焦于LLM（以GPT-4 Advanced Data Analysis为代表）在软件漏洞检测中的效能，并与传统的静态应用安全测试（SAST）工具进行系统对比。研究通过对32类常见可利用软件安全缺陷的对照实验，量化了二者在准确率上的表现。

结果显示，GPT-4 ADA在漏洞检测中准确率高达94%，显著优于SAST工具。作者进一步讨论了LLM引入的新型安全风险，并强调了“安全即设计/默认”（security by design/default）等AI系统安全最佳实践的重要性。该研究既为自动化漏洞检测带来前沿技术的实证依据，也为AI时代安全检测工具的融合与演进提供了洞见。

研究目的：本文立足于当前软件生态中零日漏洞仍具巨大威胁、传统SAST工具漏洞挖掘存在盲区的现实，意在探究机器学习辅助方式——尤其以GPT-4驱动的LLM方案——是否能够提升甚至超越现有静态代码分析方法的漏洞检测能力。作者以“LLM（GPT-4 ADA）的准确率能否优于主流SAST工具”为核心科学问题，围绕代码实际样本展开实验对比，旨在验证LLM是否具备更强的漏洞发现能力，并为行业推动自动化、智能化代码安全检测提供决策参考。在此基础上，论文亦关注LLM自身引入的新安全挑战，以及在业界落地推广中的相关最佳实践需求。

研究贡献：

1. 首次以系统实验的方式，对比评估了GPT-4 Advanced Data Analysis与两个主流SAST工具（SonarQube和CloudDefence）的综合漏洞检测能力。

2. 基于32种常见并具威胁性的代码漏洞案例，构建了科学的评测框架和检验流程，确保结果具有较强的代表性与可重复性。

3. 实证表明，GPT-4 ADA在软件漏洞检测的准确率上显著优于SAST（达94%），且统计检验（McNemar’s test）支持结论的显著性，这在自动化安全检测领域具有突破意义。

4. 剖析了LLM安全检测方案的新兴风险，包括数据投毒、模型后门、供应链攻击等，呼吁在AI驱动安全工具开发与应用过程中必须坚持“安全即设计/默认”等原则。

5. 强调了开发高质量多样化数据集与资源高效训练模型的重要性，为未来量子计算辅助的安全AI模型、大规模联邦学习等创新方向提供了研究展望。

随着软件基础设施在全球范围的广泛部署，代码安全问题已成为关乎国家与社会安全的重要议题。特别是“零日漏洞”的威胁日益凸显，此类漏洞因其在系统发布后长期未被发现与修补，极易造成严重的安全事故，例如著名的Heartbleed事件。尽管许多开发者注重代码可用性，但对安全测试的关注不足，导致大量潜在漏洞流入生产环境。传统软件安全测试方法，尤其是静态应用安全测试（SAST），长期作为发现编码缺陷的主力，但其在应对多样纷繁、安全逻辑复杂的新型攻击时，能力受到挑战。

近年来，机器学习，特别是自然语言处理领域的大语言模型（LLM）崛起，为自动化、智能化代码分析带来新契机。GPT-4等模型能理解和生成海量多语言编程内容，也展现出一定的漏洞分析与修复潜力。但现阶段行业实践仍不清楚：GPT-4等LLM是否能够切实提升甚至取代传统SAST在漏洞发现上的表现？二者在实际样本上的系统性对比实验尚属空白。

为此，本文聚焦于LLM与传统SAST在软件漏洞检测能力的量化分析，并以GPT-4 Advanced Data Analysis（前身为Code Interpreter）为代表，建立科学对照实验框架。研究涵盖32种常见、且极具现实威胁的编码缺陷，实验数据来源权威（如GitHub、Snyk），评价指标与统计检验方法严谨，确保对比结果的科学性和可解释性。此外，论文还进一步讨论了LLM型安全工具自身可能带来的额外安全风险，如模型投毒、后门植入、API暴露等，并倡导一系列AI应用的安全最佳实践，如安全即设计/默认、零信任架构、SBOM等。通过这项工作，作者希冀为下一代软件安全自动化工具的设计与选型提供坚实的实证依据，同时为行业应对AI引入的安全新挑战提出启示和建议。

机器学习在代码分析与安全检测领域的应用持续扩展。早期的研究已在自动化漏洞检测、程序纠错、静态及动态行为理解等方向取得进展。例如，ChatGPT在软件自动修复（如QuixBugs基准集）中表现突出，显示出LLM在部分安全相关任务中的潜能。然而，现有文献也揭示，LLM对代码的解释与推理能力仍受限，特别是在动态语义理解及复杂逻辑推断方面表现不足，且伴随“幻觉”现象，需要人为参与进行结果校验。

传统SAST基于静态代码分析算法，可实现对代码不在运行时环境中的扫描与检测。与之对应，DAST则基于软件运行时进行分析，二者各有优劣。除基础算法突破，领域专家对工具覆盖的数据集与测试集（如MITRE ATT&CK、CWE等标准）高度重视。近年来，LLM（如Codex、GPT-3/4）专门针对代码语料进行了微调，并在生成、理解、修复等任务上超越早期模型，明显提升了代码处理准确率。与此同时，业内亦建立了开源与企业级分别的SAST平台。论文还指出，包括模型投毒、后门、模型窃取、高价值数据泄露等AI安全议题日益突出，促使行业关注MLSecOps、数据集治理和安全MLOps架构的建设。综合来看，LLM与传统SAST各具优势，二者的系统性量化对比成为当前领域的关键科学问题。

本研究选择SonarQube（久经验证的开源SAST平台）与CloudDefence.ai（一款新兴的SaaS型SAST产品）作为对比工具，确保实验结果的行业代表性与多样性。为最大化SAST检测能力，作者采用“双工具或并”（‘OR’合并），即若任一工具检测出漏洞则视为SAST整体检测成功。LLM侧则以GPT-4的Advanced Data Analysis模式为评测对象，实验均在其Web环境下独立运行。

样例选择方面，论文利用GitHub和Snyk公开资料，涵盖32种高危编码缺陷，细致对齐MITRE ATT&CK与CWE标准，确保场景现实性与威胁全面性。这些漏洞类型包括但不限于缓冲区溢出、SQL注入、XSS跨站脚本、反序列化、逻辑缺陷、哈希不安全等，代码涉及多语种主流环境。每个案例独立输入SAST工具与GPT-4，检测结果明晰标注为“1”（检测到）或“0”（未检测到），全过程数据都留存于作者开源库。

为排除偶然性与实现科学假设检验，作者构建2×2列联表，以McNemar’s检验（适用于相关联的二元分类变量对比）为统计方法。设置原假设（H0：GPT-4表现不优于SAST）与备择假设（H1：GPT-4表现优于SAST）。若p值小于0.05，则拒绝原假设，支持GPT-4胜出。该流程保障了可复现性、可验证性，为跨工具对比提供了科学依据。

论文的实验结果展现了GPT-4 Advanced Data Analysis在新一代自动化漏洞检测领域的高光表现。具体而言，在涵盖32类主流高危漏洞的全样本对比中，GPT-4 ADA的总体检测准确率高达94%，且在绝大多数漏洞类型上均实现100%命中，仅在“脆弱组件使用”和“不安全设计”两类复杂漏洞上出现漏检。而SAST工具（SonarQube与CloudDefence联合）因各自专注点不同，虽在部分漏洞如传统SQL注入、缓冲区溢出上表现优良，但整体准确性波动明显，针对诸如前端XSS、输入校验、敏感数据泄露等新兴威胁存在检测盲区。

在结果统计分析中，作者基于McNemar’s检验得出χ²=20.046，p值为0.000007562，远小于0.05，显著拒绝了原假设。即：GPT-4 ADA对比SAST工具在漏洞检测准确率上具有统计意义上的优势。详细分解，GPT-4检测能力覆盖了SAST遗漏的多数问题，SAST未能在GPT-4未识别的漏洞上提供补充，显示二者尚存在能力结构差异。分类型来看，GPT-4在输入输出相关漏洞、Web安全（XSS、CSRF等）、配置管理等维度尤其突出，而对与组件版本、架构类问题则尚显薄弱。整体而言，论文通过详实数据证明LLM在新兴安全检测任务上的强劲潜力与实用价值，同时提醒行业关注其表现差异化与特定场景局限。

GPT-4在本项实验中展现出对传统SAST不可替代的增益作用，尤其体现在覆盖面、判别精度和分析速度等方面。这预示着未来安全检测工具将可能以LLM为核心，在漏洞发现流程中扮演更为积极的角色。与此同时，基于云服务的GPT-4等模型的使用还面临成本优势与集成便捷性，为企业规模化DevSecOps落地带来新的可行方案。然而，作者亦明确指出，LLM并非“银弹”，其根本依赖已有训练数据，对于未来的零日漏洞和变种攻击，仍存在识别不可知的问题。且模型的假阳性、假阴性、可解释性与企业合规性等，均需在实际部署中细致考量。

针对未来研究，论文提出数点可能拓展方向：一方面，建议扩大SAST对比工具种类，推动行业范围内更为广泛的横向评比；另一方面，呼吁在实际项目开发、CI/CD流水线场景中实地检验GPT-4的实用性和兼容性，以进一步量化其落地价值。此外，作者还设想开发安全特定领域微调的LLM，通过高质量、全标注、多语种的数据集丰富模型能力，并探索结合量子计算加速大规模模型训练的前沿路径。此外，论文敏锐关注AI安全本身的新攻击面，如模型投毒、API保护、联邦学习的隐私泄露、开源供应链风险等。指出需完善MLSecOps、SBOM等治理机制，倡导联邦学习、零信任等架构，同时建设权威、高质量、安全可控的训练与评测数据集，以防AI模型反噬正常安全防线。未来，随着攻击与防御对抗进入AI驱动阶段，各国和产业应主动开展跨平台对抗演练，抢占AI安全制高点。

本文通过定量实验和统计分析，系统证明了GPT-4 Advanced Data Analysis在30余类核心编码漏洞检测任务中，相较于传统SAST工具表现出更高准确率和更强通用性。这一发现预示着LLM有望成为自动化代码安全检测领域的新主力。然而，论文也慎重指出，LLM的巨大优势并不能完全取代静态分析和系统性渗透测试，尤其是在复杂架构、业务流、未知零日漏洞面前，它依赖于训练数据的固有限制不可忽视。进一步，LLM的引入本身也带来了如模型投毒、API滥用、后门植入、隐私泄露等新型安全隐患，要求行业把“安全即设计/默认”落到实处，加强MLSecOps、DevSecOps实践，注重训练数据治理、模型审计、自主控制与合规框架建设。

未来研究需着眼于开发更高质量、多样化且权威的数据集，推动AI安全框架一体化落地，并应充分评估LLM与SAST等工具的融合潜力。整体来看，LLM和SAST的技术演进仍是动态决策题，持续关注其相对优劣将成为业界共识，唯有理论、数据、实践三位一体，方能把握AI安全工具化的未来格局。