论文引用格式:
宁庭勇, 熊婕, 胡永波. 人工智能应用面临的安全威胁研究[J]. 信息通信技术与政策, 2021,47(8):64-68.
人工智能应用面临的安全威胁研究
宁庭勇 熊婕 胡永波
(云赛智联股份有限公司,上海 200233)
摘要:当前自动驾驶技术、智能助理、人脸识别、智能工厂、智慧城市等人工智能技术已广泛落地,但相关领域安全事件的快速增长,使得消费者和业界对人工智能网络安全问题和威胁的关注度也在不断提高。人工智能应用的安全与智能化应用所带来的红利,犹如一个硬币的两面,永远同时存在且重要性凸显。通过对近年来人工智能安全的政策、技术发展特点及人工智能应用落地所面临的安全威胁进行探讨,提出了一套可参考的安全框架和落地实施方法。
关键词:人工智能;模型安全;数据安全;人工智能安全;可信人工智能
中图分类号:TP393.08 文献标识码:A
引用格式:宁庭勇, 熊婕, 胡永波. 人工智能应用面临的安全威胁研究[J]. 信息通信技术与政策, 2021,47(8):64-68.
doi:10.12267/j.issn.2096-5931.2021.08.010
0 引言
纵观当今社会,人工智能(Artificial Intelligence,AI)已广泛渗透经济生产活动的各个环节。AI将催生新技术、新产品、新产业、新业态、新模式,实现社会生产力的整体跃升,推动社会进入智能经济时代。目前,我国大型企业基本都已在持续规划投入实施AI项目,已有超过10%的企业将AI与其主营业务相结合,实现产业地位的提高和经营效益的优化[1-2]。虽然AI技术已经开始在众多行业中找到落地场景,成为助推传统业务数字化转型的重要工具,但AI技术在工程化和应用落地过程中还面临诸多挑战[3]。例如,产品能力参差不齐、缺乏行业基准和标杆、用户选型存在困难、由算法缺陷和应用安全隐患所衍生的安全事件频发等,这些问题制约了AI技术产业的深入发展。
1 人工智能领域应用面临安全考验
1.1 安全现状
根据艾瑞咨询研究院的报告[2],过去几年AI安全研究论文呈现爆炸式增长。近两年,全球政府、学术界和工业界发布的AI安全性方面的研究论文多达3500 篇[2],美国、中国、欧盟之间的激烈竞争预计将在可信AI竞赛中继续。现实中的AI安全事件正在快速增长,尤其在汽车、生物识别、机器人技术和互联网行业。作为AI的早期采用者,最受关注的行业是互联网(23%)、网络安全(17%)、生物识别技术(16%)和自治(13%)[1-2]。AI行业对于现实世界的黑客攻击还没有做好充分的准备,60种最常用的机器学习(ML)模型平均至少有一个安全漏洞[4]。
1.2 芯片、算法和数据的安全可控变得十分重要
随着近5年AI渗透率在各行业的提升,AI的局限和问题逐渐暴露,如对抗样本带来的安全隐患、原理不可解释等。能真正落地,并用于关键应用场景的AI方案必须是安全、可控、可理解的,否则很难说服用户买单,尤其是企业级、政府级客户。国内近些年在AI安全标准方面建树不少。中国信息通信研究院自2018年就启动了AI第三方评测工作[3],针对产业实际问题,建设权威的测试数据集和软硬件环境,牵头完成AI评测标准体系,其中《ITU-T F.748.11(2020)》是国际首个AI芯片评测标准;2018年7月,中国电子工业标准化技术协会发布由中国人工智能开源软件发展联盟起草的《T/CESA 1026-2018人工智能深度学习算法评估规范》团标;2021年3月,中国金融标准化技术委员会正式发布了由中国人民银行提出的《人工智能算法金融应用评价规范》(JR/T 0221-2021)行标。这些研究和标准研究机构正在从芯片、算法、应用等各个层面不断地给与市场指导规范。
本文刊于《信息通信技术与政策》2021年 第8期
文章来源:信息通信技术与政策
原文始发于微信公众号(互联网安全内参):人工智能应用面临的安全威胁研究
- 左青龙
- 微信扫一扫
- 右白虎
- 微信扫一扫
评论