AI安全的“深渊凝视”，如何解题攻防之道

AI、大数据、云计算等前沿科技在给生活带来便利的同时，也产生了信息泄露、数据歧视、非法采集等技术安全问题，这些安全问题不但容易对个人及企业造成巨大风险和巨额损失，而且由于目前安全防护策略还未得到及时升级，对行业和社会经济的健康发展也形成多种负面影响。

12月4日，由OPPO发起、OPPO安全主办的“极智担当，不燃怎YOUNG——OPPO安全AI挑战赛”总决赛在深圳圆满收官。这场聚焦“人脸识别攻防”的AI安全赛事，自6月开启报名以来，线上参赛团队累计2000+，吸引了来自全球400多所高校的在校大学生参赛。经过线上初赛、复赛5个月时间的激烈角逐，来自清华大学、北京大学、上海交通大学、电子科技大学等知名高校的10支战队顺利晋级了总决赛，最终来自清华大学的战队“trivial”问鼎冠军，与其他9支战队瓜分了60万奖金。

与此同时，另一场聚集了学术专家、行业大咖的“AI 安全新战场”高峰论坛也在热烈氛围中落下帷幕。这两场围绕“AI安全”进行的活动背后，是OPPO正在做的一件事：通过打造安全赛事品牌、举办高峰论坛和加深行业合作，来构建一个更加安全的技术世界。

安全问题不断进化，用户普遍感到担忧

当前是AI芯片、人脸识别、智能搜索、计算机视觉、智能机器人等前沿技术高速发展的时代，这些技术是把双刃剑，一方面给我们的生活带来了超出预想的便利，另一方面，若是利用不合理，新的技术背后也隐藏着许多安全新问题。以在很多宣传中无所不能的“大数据”为例，它从技术层面上通过利用已收集的海量消费者数据进行分析，解决了“精准推荐”及“个性化广告”等问题，但随之产生的“大数据杀熟”，则成为严重侵害消费者利益的行为。

2021年，OPPO联合德勤发布的《移动应用（APP）个人信息保护白皮书》就指出，这类技术服务一定程度上为消费者带来便利，但随着技术的不断发展，这种便利也成为安全隐私困扰。另外，OPPO联合益普索Ipsos发布的《2021年-中国智能手机用户安全需求洞察报告》也显示，随着新技术的普及，用户越来越关注安全隐私问题，但仅有32%的用户对现有安全防护措施感到满意。

这些数据报告进一步印证了提升技术安全的迫切性和重要性。最先行动起来的是政策和监管层面。2018年，欧盟《通用数据保护条例》（GDPR）率先发布，引领全球个人信息保护监管趋势。近年来，我国也从法规标准、专项治理、企业自律等方面多管齐下，相继颁布了《数据安全法》、《个人信息保护法》，结合已经施行的《网络安全法》，逐渐构筑起数据安全和个人信息保护的监管顶层设计。而企业和行业层面，有行业人士认为，除了跟随政策走，随时做到合规经营外，目前还需要结合新技术应用带来的挑战和机遇，在技术安全上实现突破，在各行各业互联互通的需求上减少对立割裂，进行行业生态的建设，而这也是目前做好技术安全的痛点与难点。

OPPO身处其中，始终关注用户的安全与隐私问题，逐渐形成了自己的安全实践法则，这套法则不但关注技术安全的突破，也有对技术人才的培育挖掘和行业生态的建设，是一个逐步深入、层层完善的过程。

为科创人才搭建实战演练平台，培养输送“后备军”

OPPO实践的第一步，从最核心的技术开始，打造了面向全球高校科创人才的安全赛事演练平台。12月4日圆满收官的“极智担当，不燃怎YOUNG ——OPPO安全AI挑战赛”，是继2018年举办“OGeek挑战赛”、2019年举办“OGeek网络安全挑战赛”之后的一次赛事品牌升级与全新启航。本次比赛着眼于安全领域前沿的“人脸识别安全对抗”议题，自6月正式开赛以来，吸引线上共计2000+参赛团队参与，再次打破了赛事规模。

这场比赛表面上看，是来自清华、北大、上海交大、电子科大等知名高校的极客们对AI安全发起的挑战，而深究其背后，则是OPPO从技术安全实战角度出发，通过精心设计的竞赛规则、激励规则，最大限度激发这些后备创新人才对技术边界的探索，并为其提培养机会和发展机遇。

清华大学的战队“trivial”问鼎冠军

为了模拟真实的人脸识别场景并增加比赛的难度，OPPO在后台使用精度高鲁棒性强的一组模型集成起来作为黑盒模型，让选手对提供的测试样本进行修改，提交生成的结果数据传至线上进行攻击评测。

从技术层面，参赛者聚焦在可感知、可掌控、可信赖的隐私安全防护上，防止人脸识别等生物特征的伪造，避免关键生物认证信息被窃取；通过研究丰富的对抗样本生成算法，参赛者获得了宝贵的实战经验，并赢得了一次次的掌声。

通过举办本次安全AI挑战赛，OPPO在基础创新氛围浓厚的高校挖掘出一批年轻优秀人才，对“AI安全”领域进行后备军扩充，推动安全行业向着广度和深度发展。

持续分享安全技术能力，共建行业安全生态

如果说OPPO安全AI挑战赛是汇名校极客于一堂，同日举办的“AI安全新战场”高峰论坛则是聚集领域专家一次硬核技术分享盛宴。与会嘉宾包括京东、英特尔及四川大学的多位工业界及学术界处于前沿研究领域的大咖，主题演讲涉及AI安全技术和行业前沿的研究，为行业及安全研究者，提供了一个学习AI安全领域最新的研发成果、探究行业趋势的平台。OPPO在自己的主场，也毫不吝啬的分享了自身在移动应用安全隐私治理方面的经验。

近年来，面对移动应用井喷趋势，用户数据在量级和敏感性上的问题显著提升。为此，OPPO搭建了端云协同、多产品联动的全方位应用安全隐私治理体系——智能护盾。

OPPO高级算法工程师张文刚在《智能护盾安全大脑：移动应用智慧检测能力构建》的主题演讲中指出，OPPO通过基于大数据和AI的安全大脑能够实现从测试、上架到卸载、下架贯穿APP全生命周期的安全隐私治理。安全大脑集成多个智能引擎，包括利用前沿深度学习、知识图谱等AI能力的智能应用检测引擎、智能文本检测引擎等，广泛应用于用户使用APP的所有场景，为用户构建起了纵深防御体系。其次，通过对开发者开放了安全隐私云查服务、安全检测SDK和安全加固能力，OPPO安全为开发者提供公平、绿色、可持续的 APP 生态环境。实现了为开发者赋能，开发者共筑安全生态的目标。

在与行业共建共享这方面， OPPO其实早在2018年就成立了OPPO安全应急响应中心（OSRC），该中心不但是一个面向全社会收集并响应安全漏洞与情报的平台，而且还承担着OPPO与安全业界同仁合作交流的重任，被定位为自身安全生态体系建设中的关键一环。通过高频率的峰会交流，以及向专业人员分享技术类文章，目前OSRC已经获得来自全球59个国家、超过2500位安全研究者加入。凭借着强大的吸引力，在本次高峰论坛的OSRC颁奖环节，让我们看到Intel、腾讯、微软、百度等合作伙伴的身影，而这也是OPPO共建行业生态的底气。

另外，OPPO还通过更多渠道与众多互联网企业、安全公司、民间社团和个人密切合作，以从更广的范围来推进技术安全的交流和资源共享，并在行业研究方面主动投入，发布了前述的《移动应用（APP）个人信息保护白皮书》、《2021年中国智能手机用户安全需求洞察报告》等研究报告，并将这些报告免费开放给各方，为行业进行技术安全研究提供基础数据。同时，OPPO还积极通过国内各类标准组织输出实践经验，截止2020年底，OPPO牵头、参编的安全隐私相关国家标准、行业标准、团体标准共100余项，逐步增强行业标准可执行性。

结语：

从社交到出行，从网购到外卖，从办公到娱乐，大数据、云计算、人工智能和物联网等技术已渗透到我们生活、工作的各个领域，简言之这是一个万物互融的世界。当然，在一个万物互融的世界中，技术安全问题并非如科幻小说、电影中那般夸大与“危言耸听”，但它确实涉及到生活的方方面面，它的解决之法很难一蹴而就，也不可能单纯依靠某一个技术的突破或者某一家企业的努力，它需要监管、企业和相关方共同探索最佳实践并完善标准规范。

OPPO认识到这点，所构建的技术安全法则在做好“本分”的技术突破时，拒绝“单打独斗”。除了用赛事品牌来促进技术创新和人才培育，还以开放的姿态打造针对学术界和行业的高峰论坛，积极与前沿观点、最新技术对接，避免技术安全构建的过程中产生的信息孤岛问题，同时还更进一步以安全共赢的理念拥抱行业，与多方优秀企业进行合作，从技术创新、技术分享、行业生态的全方位角度构筑起一堵安全“防火墙”。

原文始发于微信公众号（黑白之道）：AI安全的“深渊凝视”，如何解题攻防之道