字数 4142，阅读大约需 21 分钟在当前企业加速AI落地的大背景下，理解并掌握RAG应用的安全防护措施对于构建可靠、合规的AI系统至关重要。本次推介的文章How Do You Secure RAG...
03月24日23 views评论rag
如何保护 RAG 应用的安全？
03月24日23 views评论rag
03月24日23 views评论rag
逐步突破大语言模型限制
重要声明： 本文档中的信息和工具仅用于授权的安全测试和研究目的。未经授权使用这些工具进行攻击或数据提取是非法的，并可能导致严重的法律后果。使用本文档中的任何内容时，请确保您遵守所有适用的法律法规，并获...
03月21日27 views评论大语言模型
语言模型
新的CCA越狱方法可对抗大多数AI模型
两位微软研究人员设计了一种全新的、无需优化的越狱方法，可以有效绕过大多数人工智能系统的安全机制。该方法被称为上下文合规攻击 (CCA)，利用了许多已部署的 gen-AI 解决方案中存在的基本架构漏洞，...
03月21日18 views评论人工智能
等级测评
大语言模型黑盒越狱攻击之模板补全
免责声明：由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失，均由使用者本人负责，公众号及作者不为此承担任何责任，一旦造成后果请自行承担！如有侵权烦请告知，我们会立即删除并致歉。谢...
03月21日20 views评论大语言模型
注意力
2025 AI大模型安全防护：AI安全部署实战指南
本文14296字 阅读约需 37分钟自 2025 年初以来，人工智能的发展速度令人震撼。企业在广泛采用 AI 时仍面临诸多挑战，包括成本、幻觉、以及安全隐患等问题。目前，企业正处于重要的十字路口：...
03月21日7 views评论人工智能
生成式
MCP(1):协议背景和发展前景
MCP（模型上下文协议，Model Context Protocol）自Anthropic 2024年11月推后，迅速得到发展，非常值得关注和研究。针对MCP,本号将进行系列分析，包括：协议背景及发展...
03月21日31 views评论allin
mcp
最近智能体Agent 圈很热的MCP是什么？
MCP逐渐被接受，是因为MCP是开放标准。在AI项目开发中可以发现，集成AI模型复杂，现有框架如LangChain Tools、LlamaIndex和Vercel AI SDK存在问题。LangCha...
03月20日31 views评论chain
数据源
生成式AI如何用于认知战？
2024年12月，加拿大国际治理创新中心（Centre for International Governance Innovation，简称CIGI）发布报告《为下一代信息战做好准备：生成式AI的应用...
03月20日13 views评论人工智能
生成式
安全大数据与大模型结合应用研究
安全大数据平台与安全大模型的结合正在重塑网络安全领域的实践模式，其应用场景、最佳实践及未来研究方向如下：一、当前主要应用场景智能威胁分析与狩猎场景描述：通过整合多源数据（日志、流量、威胁情报等），利用...
03月19日12 views评论大数据
天融信
北京大学DeepSeek与AIGC应用手册（全）
该应用手册主要介绍了DeepSeek-R1模型的基本概念、大模型技术和AIGC工具的应用，帮助大家理解DeepSeek和AIGC的深层次价值，并提供科学选择与高效使用AI工具的指导。- End -免责...
03月19日12 views评论aigc
deepseek
Perplexity新增GPT-4.5和Claude 3.7模型
最近，包括微软、英伟达在内的全球各大平台都已经使用了deepseek的R1模型，这里面也包括perplexity：由于deepseek R1模型的强大血脉压制，OpenAI不得不连夜推出了o3-min...
03月19日14 views评论deepseek
gpt
针对AI大模型的资源消耗型攻击分析及防御策略
随着AI大模型的快速发展普及，其自身也成为攻击者的重要目标对象。在近期DeepSeek遭遇的攻击事件中，攻击者利用多种手段，如僵尸网络、UDP洪水攻击等，向服务器发送海量数据包，耗尽网络带宽和系统资...
03月18日20 views评论api接口
防御策略
72