生成式AI的主要安全风险、威胁和挑战包括:即时注入攻击人工智能系统和基础设施安全不安全的AI生成代码数据中毒人工智能供应链漏洞人工智能生成的内容完整性风险影子人工智能敏感数据泄露或泄漏访问和身份验证漏...
PaloAlto:GenAI的主要风险及策略,图文并茂,备存
GenAI 的主要安全风险、威胁和挑战包括:即时注入攻击人工智能系统和基础设施安全不安全的AI生成代码数据中毒人工智能供应链漏洞人工智能生成的内容完整性风险影子人工智能敏感数据泄露或泄漏访问和身份验证...
工具篇 | Cursor-api:实测有效,一招解锁满血版cursor,可用Claude-4-sonnet!
目 录 前言 工具介绍 工具特色 可用模型 Cursor-api版使用步骤 献上视频效果 claude-3.5-sonnet模型 claude-3.7-sonnet MAX模型 claude-...
利用大语言模型改进安全运维的攻击溯源方法
编者荐语传统网络攻击溯源技术常受困于效率低下、依赖专家经验、语义理解不足和泛化能力差等瓶颈。本文通过一项突破性研究:利用大语言模型(LLMs)的强大语义理解与泛化能力,革新攻击溯源技术,为应对日益复杂...
两个一样的MCP,大模型会怎么选择
之前文章分别写了MCP工具投毒,MCP间接提示词注入投毒的攻击方式,然后我又学习到了一个很有意思的事情。声明:这也是看其他大佬的分享,然后自己进行复现的。MCP工具冲突之前提到过,大模型在调用MCP的...
大模型相关术语及定义 | 收藏
探寻合规之道,共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。点击 "合规社" > 点击右上角“···” > 设为星标⭐□ 责编 |...
DeepSeek使用技巧与提示词应用
和 AI 打交道的核心关键在于“沟通”。AI 就像是一个被蒙住眼睛的天才,它懂很多,但无法直接感知这个世界。只有通过我们的描述,它才能理解现实世界的样子。这就好比你在给一个从未见过大海的人描述海浪的声...
G.O.S.S.I.P 阅读推荐 2025-06-09 分享Huntr上的几个大模型框架的漏洞
“ 穷学生终于交完论文了,最近想逛逛huntr,想看看能不能崩个蛋白粉钱 。不得不说很多bug bounty项目上报出来的漏洞确实很有意思,首先是都有比较详细的root cause介绍,数据怎么进来的...
分享Huntr上的几个大模型框架的漏洞
“ 穷学生终于交完论文了,最近想逛逛huntr,想看看能不能崩个蛋白粉钱 。不得不说很多bug bounty项目上报出来的漏洞确实很有意思,首先是都有比较详细的root cause介绍,数据怎么进来的...
开源大模型推理软件的攻击面分析:云上LLM数据泄露风险研究系列(四)
一. 概述作为本系列的第四篇,本文聚焦大模型推理软件的安全风险。 随着大模型上云趋势加速,尽管推理框架通常被视为底层基础设施(负责模型运行的资源调度与计算优化),但经我们的研究发现,部分开源推理框架,...
AI 模型新纪元:AutoGen Studio 如何搭建大模型智能体
1 前言AutoGen 是一个先进的自动化代码生成和协作框架,旨在简化开发流程、提高开发效率并促进团队间的合作。它通过结合最新的机器学习技术和传统的软件工程方法,为开发者提供了一个强大的工具集来创建、...
学习管理系统Moodle核心代码安全审计
Moodle的安全防线被轻易突破,SSRF漏洞再次成为攻击者的“入场券”!在网络安全的世界里,每一个漏洞都可能成为攻击者突破防线的入口。最近,Quarkslab的安全研究人员在对Moodle(一款广泛...
87