CCS2022丨百度安全马杰：将Fuzzing技术与Meta相结合 挖掘AI安全背后的更大价值

9月26日，2022CCS成都网络安全大会暨数据治理峰会‍‍在线上正式拉开序幕。在大会主论坛上，百度副总裁马杰分享了百度在元宇宙和AI安全领域的前沿实践和探索。

马杰首先谈到，2022年是我国全面实施十四五规划相关规划的关键性的一年，也是我们在网络安全产业上承上启下加速成长的关键理念。在坚实的制度保障下统筹安全和发展，特别是全面加强网络安全保障体系的能力建设，不仅是推动产业数字化、数字产业化的必然要求，也是建设数字中国战略不可或缺的重要基石。

伴随数字经济智能经济的发展以及国际政治经济格局的变化全球范围内网络安全形势正在发生一系列深刻的变革，在这之中最引人注目的莫过于以AI为代表的新技术新应用和新场景的快速崛起。

一方面，AI与实体经济进一步融合，给人们的生产和生活带来了很多的便利；另一方面 AI也刷新了业界对网络安全的认知，重构了原有的网络安全体系，多方协同共治目前已经成为了业界共识。

马杰表示，作为一家拥有强大互联网基础的领先的AI公司，百度是全球为数不多的可以提供AI芯片、AI软件框架和AI应用等等的全栈AI技术的企业之一。聚焦在AI安全领域，面对上述一系列技术和行业的变局，百度也在探索如何去打造一个更为安全的AI，以及如何利用AI去构建一个更为安全的智能时代。

他谈到，两年前百度率先提出了Security、Safety、Privacy安全研究的三大维度，分别指向了强对抗环境下的安全威胁，非对抗条件下自然环境所产生的真实威胁以及数据安全和隐私保护。“AI安全的三维度为百度的AI研究提供了一个方向，但与此同时百度也在思考，当讨论SSP时，应当如何去这种新的技术去应对新的变化？”

马杰认为，对于安全来讲最大的挑战永远不是该如何去解决问题，而是如何才能更快的更准确地提出问题、发现问题。从某种角度来看，Security所代表的其实是已经发现的问题，如果知道问题就在那，就能知道它会对我们造成哪些伤害，而且这种强对抗的安全风险通常都是有意而为之的，所以业界通常也能够找到对应的解决方法。

相比之下，Safety带来的是一个更为宽泛而模糊的挑战。在真实世界中有太多太多的风险是无法预判的，人的行为环境的变化，这些变数都是非常随机的，而且是巨大的，因此要进行广泛的覆盖，重点应对。

但实际上穷举所有的可能性几乎是不现实的，永远无法在潜在的安全问题爆发前做好足够充足的准备。因此，是否能够找到一种方法，利用AI技术、用云、用原宇宙，去构建一个数字孪生的世界，在平行的空间里不断地去仿真去测试，去触发这些想得到的想不到的安全隐患和安全组合，最大限度地去发现他们，并且以更高效的方式去优化我们的安全系统？这成为了百度安全的一个长期的研究课题。

围绕这一课题，百度安全试图从Fuzzing自动化模糊测试技术着手，将Fuzzing和Meta相结合，去挖掘AI安全背后的更大价值。

马杰随后分享了一个利用Fuzzing模糊测试技术的尝试——“铁马冰河”自动驾驶评测平台。

他表示，百度的自动驾驶汽车已经在全国的很多城市上路，在过去的9年时间里，百度自动驾驶汽车已经积累了超过2,700万公里的自动驾驶的路测里程，通过走万里路不断地学习迭代，自动驾驶已经变得更加聪明，也会变得更加的安全。但与此同时百度也在思考，能否更快一些的为自动驾驶创造一个虚拟的，但能够映射现实世界真实路况的安全测试平台，一个将Fuzzing与Meta相结合的平台，一个物理与虚实相结合的平台。

由此百度研发了“铁马冰河”，一个聚焦于沉浸式高拟帧场景，包含AI对抗原宇宙化安全测试的平台。在这个平台上百度构建了大量的测试场景，去捕捉自动驾驶产品感知环节的漏洞，进行视觉鲁棒性、AI安全对抗性的指标评测，通过虚实结合的仿真测试，为自动驾驶安全保驾护航。

据他介绍，目前铁马冰河安全测试平台已经可以支持三个方向的自动驾驶的安全评测：

第一个是在仿真环境中对真实车辆进行自动驾驶能力的沉浸式评测，这一测试目标是贴合驾驶员的驾驶场景，去模拟道路交通场景以及传感器信号，从而构造一个完整车辆的闭环测试，被称之为整车在环；

第二个是通过测试硬件在仿真环境中对控制命令的反馈，实现硬件在环的测试。这个方案主要是应用在台架试验和道路试验前，对自动驾驶和辅助驾驶的系统功能进行一一的验证，从而去缩短控制器的研发周期。

第三个是软件在环，把软件形态的自动驾驶系统和百度的X- Verse仿真引擎去做对接，将仿真系统申请的测试数据输入到测试系统中，在保证高拟增的前提下，实现低成本的软件测试需求。

基于以上三个方向测试方案，百度已经构建了一个从系统到车机再到整车的全链厂的测试体系。这个平台能够实现场景、天气、光照、对抗信息等等参数条件的自定义，满足各种差异化的复杂的，甚至是极端情况下的安全测试需求。

马杰表示，“对于铁马冰河来说，它首先需要解决挑战是面向safety的，但同时它也能覆盖很多Security层面的问题。当我们把安全与Meta与元宇宙结合的时候，我们其实就会发现依托我们在AI、云等方面的积累，我们能够带来很多的创新，带来很多的可能性。”

去年年底百度推出了首个元宇宙产品——息壤，目前铁马冰河项目也已经入驻息壤中。

他介绍，不同于简单的数字孪生，在息壤中不仅可以创造出近乎仿真的虚拟环境，也可以打造一系列数据，并且与平行的元宇宙大世界产生互动。

“我们可以设想我们可以做一个真人的NPC，加入到仿真场景中参与测试，与车辆产生交互，那么就能够很好地去捕捉和反馈自动驾驶在遇到各种人为突发情况时，所要面对的安全威胁，从而创造出一个更接近于真实路况的随机安全测试。同时我们也在结合Fuzzing的思想，将所有干扰因素视为系统的一个输入参数进行反复的测试，这样我们就能够在仿真环境中，更为真实的观察参与到自动驾驶车辆的整个评测过程中间去。”

目前百度的这一套铁马冰河平台已经投入到自动驾驶的安全评和智能座舱的交互设计等应用场景的实践当中，通过与Meta的结合，运用Fuzzing的理念去尝试更高效地发现和解决各种safety的存在问题。

马杰谈到，当前正处在一个新与旧相互叠加的时代，一方面传统安全领域的顽疾还在爆发，而另外一方面 AI本身的安全性挑战也超乎了大家对于安全边界和传统框架的认知的范畴。旧的问题在升级，新的问题在出现，新旧安全问题的交融，正在广泛的作用于现实世界。

在这个背景下与AI与Meta等新技术的结合，已经成为了必须要予以关注的方向，亟需以创新技术为安全注入新的动能。安全从来不是任何一家公司一个社区一个生态能够独立解决的事情，需要以更加开放的态度更广泛的合作来共同应对，在开放包容多元互建中寻求共赢。对于新兴的AI安全领域来说，这一点尤其重要。

“百度希望跟各界一同从而建立起一个更为开放的行业生态，更好地服务于国家的网络安全建设，帮助产业互联网的变革，加速产业智能化的到来。秉承有AI更安全的理念，期待能够与各位业界朋友们一起共同迎接AI时代的新挑战，共同构筑AI时代的新防线，探索AI未来的新可能。”马杰最后谈到。