编者荐语本文首次系统性拆解大模型全生命周期安全框架,揭秘从数据采集到模型落地的4大核心威胁,并提出零信任架构、同态加密、智能水印等前沿防护方案。无论是防范生成式数据偏见,还是破解社会工程攻击,文章以真...
小样本学习简介
Few-Shot Learning 问题概述小样本学习:通过很少的样本做分类或者回归正常人都能根据两个样本学习到正确的分类,计算机能不能学习得到?Support Set : 非常小的数据集,不足以支撑...
浅聊AI模型的自动化安全评估工具及技术
介绍传统安全工具是为具有可预测行为的确定性系统设计的。相比之下,人工智能系统是概率性的(非确定性的),能够从数据中学习,并且可以随着时间的推移而发展。这种根本性的差异带来了新的攻击面和安全挑战,而传统...
云上LLM数据泄露风险研究系列(二):基于LLMOps平台的攻击面分析
一. 引言在上一篇系列文章《云上LLM数据泄露风险研究系列(一):基于向量数据库的攻击面分析》中,笔者对几款业内常用的向量数据库的暴露面、数据泄露风险进行了介绍,最后给出了一些针对向量数据库数据泄露...
大模型10大网络安全威胁及防范策略 | ChatGPT在公开漏洞利用代码发布前成功生成CVE有效攻击程序
大模型10大网络安全威胁及防范策略OWASP发布的《大语言模型人工智能应用Top10安全威胁2025》,大语言模型人工智能应用中存在的十大安全风险,相比2023版有一些变化,10大安全威胁如下:1、提...
MCP协议的威胁建模,基于MAESTRO框架
上一篇我们介绍了MAESTRO的威胁建模方法,本篇看一个MCP的场景应用。MAESTRO框架在七层上列出了威胁全集,具体到场景上,有些威胁不会产生影响,只需要考虑有影响的威胁,对威胁分析的定级,并做消...
大模型10大网络安全威胁及防范策略
OWASP发布的《大语言模型人工智能应用Top10安全威胁2025》,大语言模型人工智能应用中存在的十大安全风险,相比2023版有一些变化,10大安全威胁如下:1、提示词注入:用户通过特殊输入改变模型...
【论文速读】| 软件安全的大语言模型 (LLM):代码分析、恶意软件分析、逆向工程
基本信息原文标题:Large Language Model (LLM) for Software Security: Code Analysis, Malware Analysis, Reverse ...
OLLVM控制流平坦化混淆还原
一、背景最近在研究ollvm反混淆,刚好遇到此样本,借此文章对ollvm fla控制流平坦化进行一个反混淆分析,顺便分享下idapython相关api的知识。二、分析目标娜迦加固 libgeiri.s...
提示词宝库!NucleiPrompts 助你轻松玩转 Nuclei AI智能漏洞扫描
引言:Nuclei AI智能化扫描!Nuclei 是一款超好用的漏洞扫描工具,而 NucleiPrompts.com 则像它的“金牌助手”,通过分享现成的提示词(Prompts),让扫描漏洞变得像点外...
一文帮你 MCP,从 0 到 1 快速入门!
来源:AI科技在线全文共3605字,建议阅读10分钟01 MCP 是什么?MCP 全称是 Model Context Protocol(模型上下文协议),它是一个专门设计用来让大语言模型(如 Clau...
MCP TPA漏洞复现,及Deepseek的诡异表现
Invariant Labs在模型上下文协议 (MCP) 中发现了一个严重漏洞,该漏洞允许“工具中毒攻击”(Tool Poisoning Attacks)。许多主要提供商(例如 Anthropic 和...
88