严重公告近日,安全聚实验室监测到 BentoML runner 服务器存在远程命令执行漏洞 ,编号为:CVE-2025-32375,CVSS:9.8 攻击者可以通过,不安全的反序列化,设置POST请...
CSA发布 | AI模型风险管理框架
随着AI技术在各行业的快速渗透,其带来的风险也日益凸显——从数据偏见、隐私泄露到模型滥用和伦理争议。云安全联盟(CSA)大中华区发布的《AI模型风险管理框架》为组织提供了一套系统化方法论,通过模型卡片...
2025年网络与数据安全重点关注的十个方向
随着数字化转型的深入和新兴技术的迭代,网络与数据安全领域正面临前所未有的挑战与机遇。2025年,全球网络安全格局将加速重构,以下十个方向仍是行业的核心关注点:1、人工智能广泛赋能网络安全人工智能技术将...
2个躲过检测的恶意AI模型(附检测工具)
背景 鉴于大型语言模型(LLM)和生成式AI能力的最近爆炸式增长,各个组织都在寻找将AI技术纳入其商业模式并利用其能力的方法。虽然大多数非技术人员提到AI时会想到OpenAI的ChatGPT或最新爆火...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)
全文共23526字,阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习(AML)分类和术语,用以保护AI应用,防止被敌方操控。广义上讲,AI系统分为两类:预测式和生成...
如何实现机器学习模型的敏感数据遗忘?
全文共2882字,阅读大约需6分钟。一. 概述随着机器学习方法越来越多地应用于网络安全领域的数据分析中,如果模型无意中从训练数据中捕获了敏感信息,则在一定程度上存在隐私泄露的风险。由于训练数据会长期...
人工智能的头号威胁:投毒攻击
随着掌管数字生活入口的万亿美元俱乐部企业——苹果公司跳入人工智能(AI)赛道,AI技术民主化的大幕正式拉开,同时也将AI安全问题推向舆论的风口浪尖。根据瑞银本周一的智能手机调查报告,在中国以外的智能手...
针对机器学习模型的新技术:Sleepy Pickle
01—新闻 随着一种名为Sleepy Pickle的新“混合机器学习(ML)模型利用技术”的发现,Pickle格式带来的安全风险再次凸显出来。 根据Trail of Bits,这...
新攻击技术Sleepy Pickle瞄准机器学习模型
The security risks posed by the Pickle format have once again come to the fore with the discovery of...
【AI安全】推理攻击-未来的SQL注入
针对应用层绕过传统防御揭示应用程序和数据的内部工作原理发生此攻击的原因是应用程序在其消息中暴露了太多信息。你能猜出这是什么类型的攻击吗?如果你猜到了SQL 注入攻击,那么我不想告诉你,但你错了。迎接针...
Brain-on-Switch:智能网络数据面之神经网络驱动的线速流量分析
今天为大家介绍清华大学吴建平院士团队一篇发表于USENIX NSDI 2024的工作,共同第一作者为博士生闫金柱和许澔天,通讯作者为刘卓涛老师,作者还包括李琦老师,徐恪老师和徐明伟老师。文章主要目标是...
网络安全人士必知的人工智能对抗模型MITRE ATLAS
点击上方蓝色字体关注,了解更多网络安全知识图片由通义万相绘制MITRE ATLAS™(人工智能系统的对抗威胁格局)是一个关于机器学习 (ML) 系统的对手战术、技术和案例研究的知识库,基于现实世界的观...