rag | CN-SEC 中文网

人工智能安全

RAG 受到攻击：LLM 漏洞如何影响真实系统

在第一部分中，我们展示了如何欺骗大语言模型（LLM）来执行数据。这一次，我们将了解这在现实世界的检索增强生成（RAG）系统中是如何发挥作用的 —— 在现实世界中，被污染的上下文会导致网络钓鱼、数据泄露...

04月21日8 views评论

阅读全文

人工智能安全

【通俗易懂说AI之RAG系列】RAG基础概念科普

Part.1欢迎来到我们的新开的专题，通俗易懂说AI之RAG，在开始这篇文章的正文之前还是需要先简单的讲述下为什么会有这个系列？主要的原因有以下：（1）智能体在25年开始变得越发的火爆；（2）各种大模...

04月14日3 views评论

阅读全文

人工智能安全

AI Agent：功能、架构与安全风险

虽然RAG在提供上下文感知回答方面很强大，但如果希望LLM应用能够自主执行任务呢？这正是AI Agent的用武之地。本文Understanding AI Agent Security[1] 就介绍了A...

03月30日9 views评论

阅读全文

人工智能安全

深度分享：安全行业大模型落地的正确路径

本文9691字阅读约需 27分钟1从DeepSeek爆火说起DeepSeek作为中国人工智能领域的重要代表，于2024年12月26日发布DeepSeek-V3模型，随后2025年1月20号发布D...

03月25日6 views评论

阅读全文

人工智能安全

使用基于 LLM 的代理进行全自动 IP 到 Shell 渗透测试

大模型辅助渗透测试的研究和论文越来越多，今天介绍一篇，只需要输入IP，就可以拿到shell,完全不需要干预的自动化。系统的名称是RapidPen,日本人写的。本文共分五部分：1.预备知识2.系统架构及...

03月25日11 views评论

阅读全文

人工智能安全

如何保护 RAG 应用的安全？

字数 4142，阅读大约需 21 分钟在当前企业加速AI落地的大背景下，理解并掌握RAG应用的安全防护措施对于构建可靠、合规的AI系统至关重要。本次推介的文章How Do You Secure RAG...

03月24日23 views评论

阅读全文

人工智能安全

大语言模型私有化部署应用安全防护思路

一、大语言模型私有化部署应用助力组织智能化转型伴随以DeepSeek为代表的大语言模型的飞速发展与成熟应用，大语言模型已经成为各行业领域进行智能化转型的核心驱动，成为各级组织生产效率、竞争能力提升的关...

03月10日29 views评论

阅读全文

短评两款Cursor/Windsurf/Cline辅助工具

分别是nodejs实现的https://github.com/yamadashy/repomix 和python实现的https://github.com/cyclotruc/gitingest，两款...

03月05日安全工具23 views评论

阅读全文

安全闲碎

专题解读 | RAG模型的安全挑战：针对RAG的攻击算法

RAG模型的安全挑战：针对RAG的攻击算法随着人工智能技术的飞速发展，大型语言模型（LLMs）在自然语言处理领域的应用日益广泛。其中，检索增强型生成（RAG）模型以其强大的信息检索和文本生成能力，成为...

03月04日67 views评论

阅读全文

安全新闻

LLM应用安全风险演进：OWASP LLM应用Top10风险2023版与2025版对比分析

点击蓝字关注我们LLM应用安全风险演进OWASP LLM应用Top 10风险2023版与2025版对比分析引言春节期间，DeepSeek以“推理能力强、成本低、开源且可免费商用”三个特点爆火出圈，其...

02月27日85 views评论

阅读全文

人工智能安全

内外网DeepSeek部署实战：Ollama + 多客户端 + RAG + 越狱

1. 前言 (不仅仅是概述)大家好！我是AI安全工坊。最近，我一直在研究如何在内网环境中安全、高效地部署大型语言模型DeepSeek(LLM)。这篇教程不仅仅是操作指南，更是我的实战经验总结，希望能帮...

02月18日198 views评论

阅读全文

人工智能安全

漫画趣解：一口气搞懂模型蒸馏！

最近，伴随着DeepSeek的火爆，「模型蒸馏」这个专业名词，也频繁出现在大众视野。什么是模型蒸馏呢？“模型蒸馏”就是把大模型学到的本领，用“浓缩”的方式教给小模型的过程，在保证一定精度的同时，大幅降...

02月18日10 views评论

阅读全文

RAG 受到攻击：LLM 漏洞如何影响真实系统

【通俗易懂说AI之RAG系列】RAG基础概念科普

AI Agent：功能、架构与安全风险

深度分享：安全行业大模型落地的正确路径

使用基于 LLM 的代理进行全自动 IP 到 Shell 渗透测试

如何保护 RAG 应用的安全？

大语言模型私有化部署应用安全防护思路

短评两款Cursor/Windsurf/Cline辅助工具

专题解读 | RAG模型的安全挑战：针对RAG的攻击算法

LLM应用安全风险演进：OWASP LLM应用Top10风险2023版与2025版对比分析

内外网DeepSeek部署实战：Ollama + 多客户端 + RAG + 越狱

漫画趣解：一口气搞懂模型蒸馏！

在线咨询

微信