一. 概述本系列前两篇文章深入探讨了向量数据库和LLMOps在全球的暴露面及攻击面,本文作为第三篇,将重点关注当前主流大模型应用的安全风险。如今,大模型上云趋势明显,大多数大模型应用都可通过Docke...
【AI漏洞预警】Infiniflow Ragflow账户接管漏洞CVE-2025-48187
漏洞描述:RAGFlow是由InfiniFlow开发的开源RAG(检索增强生成)引擎,专注于对文档的深入理解,旨在为各类企业提供高效、可扩展的问答系统解决方案,版本0.18.1及更早版本容易受到帐户接...
基于大语言模型的网络安全智能助手,通过自然语言交互,帮助用户执行渗透测试任务、查询安全信息、分析流量包等。
工具介绍FLYsecAgent这是一个基于大语言模型和MCP(Model-Controller-Plugin)和Rag架构的网络安全智能助手项目。它旨在通过自然语言交互,帮助用户执行渗透测试任务、查询...
RAG 终极手册:从知识混乱到精准输出的技术跃迁
喜欢就点击关注我哦~检索增强生成(Retrieval-augmented Generation),简称RAG,是当下热门的大模型前沿技术之一。RAG结合检索准确性和生成创造性,实现准确与创新。RAG架...
RAG 受到攻击:LLM 漏洞如何影响真实系统
在第一部分中,我们展示了如何欺骗大语言模型(LLM)来执行数据。这一次,我们将了解这在现实世界的检索增强生成(RAG)系统中是如何发挥作用的 —— 在现实世界中,被污染的上下文会导致网络钓鱼、数据泄露...
【通俗易懂说AI之RAG系列】RAG基础概念科普
Part.1欢迎来到我们的新开的专题,通俗易懂说AI之RAG,在开始这篇文章的正文之前还是需要先简单的讲述下为什么会有这个系列?主要的原因有以下:(1)智能体在25年开始变得越发的火爆;(2)各种大模...
AI Agent:功能、架构与安全风险
虽然RAG在提供上下文感知回答方面很强大,但如果希望LLM应用能够自主执行任务呢?这正是AI Agent的用武之地。本文Understanding AI Agent Security[1] 就介绍了A...
深度分享:安全行业大模型落地的正确路径
本文9691字 阅读约需 27分钟1从DeepSeek爆火说起DeepSeek作为中国人工智能领域的重要代表,于2024年12月26日发布DeepSeek-V3模型,随后2025年1月20号发布D...
使用基于 LLM 的代理进行全自动 IP 到 Shell 渗透测试
大模型辅助渗透测试的研究和论文越来越多,今天介绍一篇,只需要输入IP,就可以拿到shell,完全不需要干预的自动化。系统的名称是RapidPen,日本人写的。本文共分五部分:1.预备知识2.系统架构及...
如何保护 RAG 应用的安全?
字数 4142,阅读大约需 21 分钟在当前企业加速AI落地的大背景下,理解并掌握RAG应用的安全防护措施对于构建可靠、合规的AI系统至关重要。本次推介的文章How Do You Secure RAG...
大语言模型私有化部署应用安全防护思路
一、大语言模型私有化部署应用助力组织智能化转型伴随以DeepSeek为代表的大语言模型的飞速发展与成熟应用,大语言模型已经成为各行业领域进行智能化转型的核心驱动,成为各级组织生产效率、竞争能力提升的关...
短评两款Cursor/Windsurf/Cline辅助工具
分别是nodejs实现的https://github.com/yamadashy/repomix 和python实现的https://github.com/cyclotruc/gitingest,两款...