这是 ChaMD5 安全团队 AI 组的第一篇关于大语言模型(LLM)的安全研究报告,由于是初次涉足这一领域进行深入研究并撰写报告,我们深知在专业性与严谨性方面可能存在着诸多不足。真诚地希望各...
MCP模型上下文协议安全风险
1. MCP模型上下文协议简介1.1 什么是MCPMCP(Model Context Protocol)模型上下文协议是大型语言模型(LLM)与外部系统交互的一种标准化协议框架。它定义了如何在模型推理...
MCP 赋能安全工具的无缝集成
在过去几个月中,模型控制协议(MCP)服务器逐渐受到越来越多的关注,而本周,我们似乎达到了一个关键的转折点。自周日以来,我认识的三个人分别构建了与安全工具交互的 MCP 服务器,其中一位仅用了20分钟...
基于人工智能(AI )的未来战场响应技术:用于多域作战 (MDO)创新(万字干货)
关注 ▲蓝军开源情报▲ 和10000情报研究员,一起成长【导读】2025年4月7日,朝鲜日报发布了一篇文章《基于人工智能(AI )的未来战场响应技术:用于多域作战 (MDO)创新》,文章指出,专注于基...
AI 幻觉生成的代码依赖正演变为新的供应链安全风险
扫码领资料获网安教程来Track安全社区投稿~ 赢千元稿费!还有保底奖励~(https://bbs.zkaq.cn)AI 幻觉生成的代码依赖,正演变为新的供应链安全风险AI hallucinatio...
【通俗易懂说AI之RAG系列】RAG基础概念科普
Part.1欢迎来到我们的新开的专题,通俗易懂说AI之RAG,在开始这篇文章的正文之前还是需要先简单的讲述下为什么会有这个系列?主要的原因有以下:(1)智能体在25年开始变得越发的火爆;(2)各种大模...
大型机在人工智能时代成为战略资产的六种方式
在 IT 业务领域,AI 正成为越来越多业务决策的首要考虑因素。从提高生产力到提供更高层次的洞察力,AI 正在从根本上改变现代企业的运营方式。与此同时,大型机继续处理全球各行业 70% 以上的交易工作...
MCP协议:大模型从孤岛到超级大脑的进化密码
点击上方“AI数据推进器”关注我们当AI学会“伸手”,世界将如何被重构?凌晨三点,某金融公司的AI工程师小王在调试大模型时崩溃了:用户要求“生成本月销售异常报告”,模型却反复卡在“无法访问数据库权限”...
企业软件与AI原生应用
在传统企业软件领域,AI 往往作为一种补充性能力被整合到现有系统中。但随着 ChatGPT 在 2022 年底的惊艳亮相,一种全新的软件形态开始崭露头角,即AI 原生应用(AI-native Appl...
蓝队逆袭密码曝光:DeepSeek如何用AI实现攻击者透视挂
Part.01引言在数字化浪潮席卷全球的今天,网络安全已成为关乎国家安全、企业存续和个人隐私的核心议题。传统的安全防御手段在面对日益复杂的攻击手法时显得力不从心,而人工智能(AI)技术的崛起为安全领域...
如何攻击LLM 和AI Agent(PART1)
面向白帽子的几个重要概念系统提示词(system prompt)系统提示是开发人员为模型设置的指令,有时也被称为 “系统指令” 或 “开发者消息”。它们通常对终端用户不可见,但会极大地影响模型的行为。...
一篇关于DeepSeek模型先进性的阅读理解
谈数据导读本文以DeepSeek模型为核心,探讨了其技术先进性、训练过程及行业影响。首先介绍DeepSeek的快速崛起及其对AI行业的颠覆作用。DeepSeek通过强化学习(RL)实现Time Sca...
72