两位微软研究人员设计了一种全新的、无需优化的越狱方法,可以有效绕过大多数人工智能系统的安全机制。该方法被称为上下文合规攻击 (CCA),利用了许多已部署的 gen-AI 解决方案中存在的基本架构漏洞,...
大语言模型黑盒越狱攻击之模板补全
免责声明:由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,公众号及作者不为此承担任何责任,一旦造成后果请自行承担!如有侵权烦请告知,我们会立即删除并致歉。谢...
2025 AI大模型安全防护:AI安全部署实战指南
本文14296字 阅读约需 37分钟自 2025 年初以来,人工智能的发展速度令人震撼。企业在广泛采用 AI 时仍面临诸多挑战,包括成本、幻觉、以及安全隐患等问题。目前,企业正处于重要的十字路口:...
MCP(1):协议背景和发展前景
MCP(模型上下文协议,Model Context Protocol)自Anthropic 2024年11月推后,迅速得到发展,非常值得关注和研究。针对MCP,本号将进行系列分析,包括:协议背景及发展...
最近智能体Agent 圈很热的MCP是什么?
MCP逐渐被接受,是因为MCP是开放标准。在AI项目开发中可以发现,集成AI模型复杂,现有框架如LangChain Tools、LlamaIndex和Vercel AI SDK存在问题。LangCha...
生成式AI如何用于认知战?
2024年12月,加拿大国际治理创新中心(Centre for International Governance Innovation,简称CIGI)发布报告《为下一代信息战做好准备:生成式AI的应用...
安全大数据与大模型结合应用研究
安全大数据平台与安全大模型的结合正在重塑网络安全领域的实践模式,其应用场景、最佳实践及未来研究方向如下:一、当前主要应用场景智能威胁分析与狩猎场景描述:通过整合多源数据(日志、流量、威胁情报等),利用...
北京大学DeepSeek与AIGC应用手册(全)
该应用手册主要介绍了DeepSeek-R1模型的基本概念、大模型技术和AIGC工具的应用,帮助大家理解DeepSeek和AIGC的深层次价值,并提供科学选择与高效使用AI工具的指导。- End -免责...
Perplexity新增GPT-4.5和Claude 3.7模型
最近,包括微软、英伟达在内的全球各大平台都已经使用了deepseek的R1模型,这里面也包括perplexity:由于deepseek R1模型的强大血脉压制,OpenAI不得不连夜推出了o3-min...
针对AI大模型的资源消耗型攻击分析及防御策略
随着AI大模型的快速发展普及,其自身也成为攻击者的重要目标对象。在近期DeepSeek遭遇的攻击事件中,攻击者利用多种手段,如僵尸网络、UDP洪水攻击等,向服务器发送海量数据包,耗尽网络带宽和系统资...
DeepSeek与Manus功能定位对比
作为专注于语言模型和知识服务的AI助手,DeepSeek与Manus在技术路线、功能定位和应用场景上存在显著差异。以下是两者的核心区别:1. 定位差异:知识参谋 vs 全能执行者DeepSeek:定位...
本地部署AI,识别视频人声
前言最近,项目经理又给我分了一个活。让我给客户录制一个网络安全的演示视频,关于钓鱼攻击与防范的。我录完交给项目经理,他问:“你怎么没有字幕啊?”我:“???”项目经理义正言辞:“客户要有字幕的。”在和...
88