前几年,一家颇具规模的游戏开发公司,历经两年精心打磨,即将推出一款重磅新游戏。可就在上线前夕,游戏的核心策划文档、美术素材以及未上线的测试版本竟被泄露到网络上。竞争对手迅速抄袭创意,抢先推出类似游戏,...
【论文速读】| 评估并提高大语言模型生成的安全攻击探测器的鲁棒性
基本信息原文标题:Evaluating and Improving the Robustness of Security Attack Detectors Generated by LLMs原文作者:...
AAAI25 | 从稀疏聚合视角重新审视联邦推荐中的拜占庭鲁棒性
Rethinking Byzantine Robustness in Federated Recommendation from Sparse Aggregation Perspective作者:张中...
多模态大模型安全评估基准MultiTrust
由清华大学、北京航空航天大学、上海交通大学和RealAI联合研究的MultiTrust框架[1]是一个针对多模态大模型的可信评估基准,从真实性、安全性、鲁棒性、公平性和隐私性对多模态大模型安全进行综合...
KDD25 | 大语言模型能否提高图神经网络的对抗鲁棒性?
Can Large Language Models Improve the Adversarial Robustness of Graph NeuralNetworks?作者:张中健,王啸,周辉池,于...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)
全文共23526字,阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习(AML)分类和术语,用以保护AI应用,防止被敌方操控。广义上讲,AI系统分为两类:预测式和生成...
【论文速读】|PROMPTFUZZ:利用模糊测试技术对大语言模型中的提示注入进行鲁棒性测试
基本信息原文标题: PROMPTFUZZ: Harnessing Fuzzing Techniques for Robust Testing of Prompt Injection in LLMs原文...
人工智能安全治理框架解读——模型算法安全风险及应对篇
20242024年9月9日,全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版(以下简称“《治理框架》”)。《治理框架》确定了人工智能的总体安全治理框架。按照“提出问题”到“解决问题”...
【论文速读】|MEDFUZZ:探索大语言模型在医学问题回答中的鲁棒性
本次分享论文:MEDFUZZ: EXPLORING THE ROBUSTNESS OF LARGE LANGUAGE MODELS IN MEDICAL QUESTION ANSWERING基本信息原...
CAN模糊测试 - 增强现代互联汽车(包括即将推出的自动驾驶汽车)的通信鲁棒性 Bosch
点击上方蓝色字体,关注我们/ 技术交流群 /添加微信15021948198,申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......
G.O.S.S.I.P 成果推荐 2024-03-26 AIcert人工智能安全评测平台
导读人工智能不仅深刻改变了科技发展的轨迹,更成为推动社会进步的关键力量,正积极影响着经济、社会、生活的各方各面。习近平总书记在十九届中央政治局第九次集体学习时的讲话中指出,“人工智能是引领这一轮科技革...
【大模型安全】大模型攻防对抗:揭秘攻击手段与防御策略
大模型攻防对抗:揭秘攻击手段与防御策略 引言 随着科技的飞速发展与智能化的步伐不断加快,人工智能的身影越来越频繁地出现在我们的日常生活中,尤其是大模型的应用。然而,随着其广泛应用,大模型攻防对抗的问题...