摘要在网络安全领域,自动化漏洞扫描工具一直是安全专家和开发者的得力助手。然而,传统的扫描工具往往局限于固定的规则和模式,难以应对日益复杂的Web应用攻击面。今天,我们要介绍一个由GitHub用户fai...
我对AI大模型安全的一些探索
扫码加圈子获内部资料网络安全领域各种资源,EDUSRC证书站挖掘、红蓝攻防、渗透测试等优质文章,以及工具分享、前沿信息分享、POC、EXP分享。不定期分享各种好玩的项目及好用的工具,欢迎关注。加内部圈...
基于多LLM的自主 Shell 渗透测试代理
近期,有论文介绍了一个多LLM的自主Shell渗透测试代理,叫ARACNE。 ARACNE 是一个基于 LLM 的自主 shell 攻击者。它旨在通过在目标 shell 系统上规划和执行 Linux ...
模型研究|扩散模型,颠覆自回归LLM,一种LLM新范式崛起?
LLM领域的现状与挑战大型语言模型(LLM)近年来在自然语言处理中占据主导地位,代表如DeepSeek系列、OpenAI的GPT系列和Anthropic的Claude系列。这些模型主要基于自回归(au...
【AI安全】探索Prompt在突破模型安全边界中的应用
0X01 引言 好久没有写文章了,这段时间也是一直在不断学习提升自己的技能,最近人工智能(AI)技术飞速发展,其在各个领域的应用日益广泛,从自动驾驶到医疗诊断,从金融分析到智能家居,AI正深刻改变着我...
G.O.S.S.I.P 阅读推荐 2025-03-10 LLM 在前,漏挖人能否保住饭碗(Yet?)
LLM 在代码理解上表现出了强大的能力,相信漏挖选手都已经对 LLM 跃跃欲试。今天我们介绍的这篇来自 IEEE S&P 2024 的论文LLMsCannot Reliably Identif...
启发式防御大模型越狱攻击
免责声明:由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,公众号及作者不为此承担任何责任,一旦造成后果请自行承担!如有侵权烦请告知,我们会立即删除并致歉。谢...
从数据库沦陷到供应链投毒:大模型安全危机背后的隐形战场
一. 概述近年来,随着DeepSeek、Ollama等开源大模型的广泛应用,全球企业正加速推进大模型的私有化部署。Gartner预测,到2027年,中国80%的企业将采用多模型生成式AI策略,以满足...
用LLM来实现白盒代码审计
2023年12月的时候就已经在使用llm来做代码审计了。简单研究过向量数据库+llm来实现,但是随着我对ai的理解加深,我觉得这条思路可能不是我想要的。2024年成熟了点 理解了需要复杂架构的agen...
最新黑产技术曝光,只需19分钟即可劫持AI大模型
关键词网络攻击新的研究表明,威胁行为者正在利用暴露的云凭据在凭据泄露后几分钟内劫持企业 AI 系统。最近的事件表明,攻击者可以在 19 分钟内 攻陷大型语言模型 (LLM)基础设施。这种被称为 LLM...
黑客利用暴露的云凭证,仅19分钟劫持AI大模型
最新研究揭示,网络攻击者正利用暴露的云凭证,快速劫持企业的人工智能(AI)系统。这种攻击方式被称为LLMjacking,主要针对非人类身份(NHIs),如API密钥、服务账户和机器凭证,以绕过传统安全...
AI模型训练数据藏隐患?DeepSeek近2万条敏感信息遭曝光
Truffle研究发现,大型语言模型可能因训练数据不加筛选,学习并复现不安全的编码模式。DeepSeek 约 11,908 条 API 密钥、密码及身份验证令牌在公开网络数据中被曝光。最新分析发现,在...
44