扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中央网信办数据与技术保障中心 张亚飞 田思远 王志伟随着人工智能技术进入大规模应用阶段,以GPT-4、Claud...
专题·人工智能安全 | 政府部门DeepSeek私有化部署的安全管理策略研究
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 农业农村部信息中心信息安全处 王祺鑫2025年初,我国的人工智能大模型DeepSeek在全球范围内引起了广泛关注...
大模型注入攻击和防御
扫码加入知识星球:人工智能、算力算网下载本篇和全套资料人工智能、人工智能安全、人工智能+、算力算网| -原文始发于微信公众号(计算机与网络安全):大模型注入攻击和防御
人工智能安全治理 | 《人工智能安全治理框架》加快人工智能风险治理
一、《框架》内容解读(二)人工智能安全风险(三)人工智能安全应对措施(四)建立风险治理体系二、《框架》指导实践落地(一)建立全生命周期风险治理体系(二)形成人工智能全要素防护措施(三)促进跨领域合作与...
人工智能安全| 抗拜占庭攻击的隐私保护联邦学习
西安电子科技大学的博士生穆旭彤、讲师程珂博士、博士生宋安霄、副教授张涛博士、副教授张志为博士和教授沈玉龙博士,在《计算机学报》发表论文“抗拜占庭攻击的隐私保护联邦学习”,该文摘要如下。扫描二维码或点击...
人工智能安全| 基于模型水印的联邦学习后门攻击防御方法
分别来自西安电子科技大学、江西师范大学和暨南大学的副教授郭晶晶博士、硕士刘玖樽、教授马勇博士、副研究员刘志全博士、硕士生熊宇鹏、李佳星、本科生苗可和教授马建峰博士,在《计算机学报》发表论文“基于模型水...
新的 Inception 越狱攻击绕过了 ChatGPT、DeepSeek、Gemini、Grok 和 Copilot
关键词网络攻击一对新发现的越狱技术暴露了当今最流行的生成式人工智能服务的安全护栏中的系统性漏洞,包括 OpenAI 的ChatGPT、谷歌的 Gemini、微软的 Copilot、DeepSeek、A...
网络安全研究:人工智能安全趋势研究
点击上方蓝色字体,关注我们/ 技术交流群 /添加微信15021948198,申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......
2025年美国军方拨款约300亿美元用于网络安全
根据《国防授权法案》(NDAA),美国军方将从2025财年拨给美国军事活动的8952亿美元总预算中,约有300亿美元将用于网络安全。这笔资金源于总统乔·拜登上个月签署通过的年度《国防授权法案》(NDA...
如何快速掌握AI安全
通过网盘分享的文件:LLM_AI_Security_and_Governance_Checklist-v1.1.pdf链接: https://pan.baidu.com/s/1MLF0TxcbyG9_...
英国寻求安全研究实验室合作以对抗俄罗斯和新人工智能军备竞赛
英国正在寻求合作建立一个新的人工智能安全研究实验室,旨在对抗俄罗斯和其他敌对国家,即所谓的“新人工智能军备竞赛”。虽然英国政府过去曾推出过多项资助计划来支持网络安全项目,但人工智能引发的国家攻击的兴起...
网安趋势?谷歌宣布AI首次发现内存安全漏洞
近日,谷歌宣布其大语言模型(LLM)项目“Big Sleep”成功发现了一个SQLite数据库引擎中的内存安全漏洞,这是人工智能首次在真实软件中发现可利用的内存安全漏洞(且该漏洞无法通过传统的模糊测试...