2023年12月的时候就已经在使用llm来做代码审计了。简单研究过向量数据库+llm来实现,但是随着我对ai的理解加深,我觉得这条思路可能不是我想要的。2024年成熟了点 理解了需要复杂架构的agen...
最新黑产技术曝光,只需19分钟即可劫持AI大模型
关键词网络攻击新的研究表明,威胁行为者正在利用暴露的云凭据在凭据泄露后几分钟内劫持企业 AI 系统。最近的事件表明,攻击者可以在 19 分钟内 攻陷大型语言模型 (LLM)基础设施。这种被称为 LLM...
黑客利用暴露的云凭证,仅19分钟劫持AI大模型
最新研究揭示,网络攻击者正利用暴露的云凭证,快速劫持企业的人工智能(AI)系统。这种攻击方式被称为LLMjacking,主要针对非人类身份(NHIs),如API密钥、服务账户和机器凭证,以绕过传统安全...
AI模型训练数据藏隐患?DeepSeek近2万条敏感信息遭曝光
Truffle研究发现,大型语言模型可能因训练数据不加筛选,学习并复现不安全的编码模式。DeepSeek 约 11,908 条 API 密钥、密码及身份验证令牌在公开网络数据中被曝光。最新分析发现,在...
AI训练数据集中发现近 12,000 个 API 密钥和密码
用于训练多个人工智能模型的 Common Crawl https://commoncrawl.org/ 数据集中发现了近 12,000 个包含 API 密钥和密码的有效机密。Common Crawl非...
【全文2.4万字】大模型注入攻击方法汇总
原文地址:https://devanshbatham.hashnode.dev/prompt-injection-attacks-for-dummies免责声明:请记住,本文仅用于信息和教育目的。它旨...
[LLM+AIGC] 08.零基础DeepSeek生成可视化科研图形(NapKin + ChatExcel)
2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享...
Deepseek 动手开发安全智能体——(2) CVE 分析智能体 | 知识库 | 向量化
在上一个示例中,我们学习了如何构建 Kali 渗透智能体。本示例将进一步演示如何为智能体引入多个不同来源的知识,以增强其对特定领域的理解和回答能力。这个例子主要的教学演示:如何导入外部知识( HTML...
了解LLM(大型语言模型)测试的关键挑战、方法和工具,以确保基于LLM的应用程序的准确性、安全性和性能。
关键要点Ø全面的LLM测试对于确保准确性,安全性和道德AI性能至关重要。Ø关键测试方法包括单元测试、功能测试、安全测试和回归测试,以评估LLM可靠性的不同方面。ØHMW.ai等工具提供端到端LLMOp...
用Deepseek实现Web渗透自动化
毫无疑问,在渗透测试里,当前用的最多的,是Web渗透。但如何让大模型能操作浏览器,是个比较麻烦的事,Brower-use解决了这个问题。关于Browser-useBrowser-Use是一个开源的网页...
LLM应用安全风险演进:OWASP LLM应用Top10风险2023版与2025版对比分析
点击蓝字 关注我们LLM应用安全风险演进OWASP LLM应用Top 10风险2023版与2025版对比分析引言春节期间,DeepSeek以“推理能力强、成本低、开源且可免费商用”三个特点爆火出圈,其...
[LLM+AIGC] 07.零基础DeepSeek生成可视化科研图形(思维导图、流程图、词云图)
2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享...
41