人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

  • A+
所属分类:云安全

12月30日下午,由百度安全部主任架构师包沉浮,小米集团信息安全与私有委员会秘书长宋文宽,看雪学院创始人段钢,以及第五空间研究院理事长、翼盾智能CEO朱易翔担任出品人的人工智能与物联网安全前沿论坛顺利举行,现场座无虚席,观众们热情高涨。

人工智能与物联网的发展日益壮大,其安全问题不容忽视。本场论坛的六位嘉宾通过线上和线下的方式,从自动驾驶到换脸技术,从电子芯片到物流联网,为我们带来了一场精彩的AI安全建设、漏洞防护经验分享盛宴。

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

AI模型的现实风险及应对

包沉浮 百度安全部主任架构师

随着AI技术的不断发展,针对AI模型的安全问题也日益突出。包沉浮在简单回顾针对AI模型的对抗样本攻击后,引出了自动驾驶因AI模型出错导致的现实安全问题,例如今年6月在台湾,一辆自动驾驶轿车未能识别前方路障与其直接相撞,造成了严重车祸。他提出,现实环境影响例如输入信号失真导致的AI模型问题带来的安全隐患可能比黑客攻击还大。那么该如何应对AI模型的现实风险呢?

他认为,最重要的是将模型的鲁棒性进行量化。除了通过理论计算,还以更重要的实验扰动的方式,逐渐逼近模型能力的真实边界。

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

然后,再对量化后的模型做鲁棒性提升,其中最有帮助的就是对抗训练,不断迭代。他分享了一种针对大型目标监测场景的两阶段对抗训练方式,在提升鲁棒性的同时,也没有降低传统意义上的准确性:

第一阶段:使用“弱对抗样本”对整个模型进行训练

第二阶段:使用MSCOCO中“vehicle”和“outdoor”两个类型,生成“强对抗样本”,对输出层进行训练

最后他总结到,AI模型的鲁棒性非常重要,希望业界能够形成针对模型鲁棒性的量化标准,同时提升鲁棒性之路还很漫长,希望自己的抛砖引玉能让更多人参与到这方面的研究之中。

商汤AI产品安全实践

成瑾 商汤科技安全副总监

在多元的AI应用场景下,人工智能企业面临哪些安全威胁和挑战,又应该如何应对呢?成瑾为我们带来了他的经验分享。

他分析了人工智能企业的六个安全需求——算法模型安全、数据隐私保护、训练数据完整性安全、交付安全、产品运营安全、软硬件安全,以及安全与业务的四个矛盾——安全卡点与研发效率、安全功能与产品实现、全投入与产品利润、安全监测与修复漏洞的矛盾,并以具体案例的形式提出了相关应对措施。

对于公司的产品安全,他认为有以下3个关注点:

1、解决安全与产品的矛盾

2、提升安全工作效率

3、将安全融入产品基因中

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾他随后分享了商汤科技的产品安全高效管理一系列措施,包括成立信息安全管理委员会、自研加密算法保障算法模型安全、执行嵌入产品研发全生命周期的安全控制体系(SDL)、研发训练IDC数据中心实行高安全等级防护措施、研发运营一体化安全运营平台(SOC)、建立满足国内外合规要求的个人信息保护管理体系。

最后,他以去年参加Sense Hackathon黑客马拉松大赛为例,认为人工智能可为网络流量安全赋能。

AI 安全框架

唐梦云 腾讯安全平台部高级工程师

唐梦云从两个AI应用切入,展示了AI系统的生命周期,而在这个周期中,各个环节存在的安全风险也日益凸显,为了应对这些风险,AI安全框架应运而生。

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾该框架的范围是为了削减AI基础设施、设计研发、应用失控带来的安全风险,设计原则遵从实用性、整体性、前瞻性。核心要素为:

安全目标:为AI安全防护工作实施指明方向
安全能力:保障实现AI安全目标
安全技术:支撑实现AI安全能力
安全管理:支撑实现AI安全能力,保证安全技术顺利实施

该安全框架包含安全目标、安全能力、安全技术和安全管理四个维度,这四个维度自顶向下、层层递进。她希望这个AI安全框架能够为企业在构建自身的AI安全防护体系时,提供一些指导性的建议或思路。

MTK安全启动大剖析

胡铭德 上海第五空间信息研究院安全研究总监

联发科技股份有限公司作为主要全球手机芯片提供厂商,给广大手机、平板、4G、5G 厂商提供大量芯片,胡铭德为我们展示了对其芯片的漏洞发掘过程以及检测工具,而此前尚无人系统地公开地测试过该厂商boot安全。

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾他和他的团队发现,如果通过固件校验的 jump da 命令,可以触发芯片进入USB恢复模式,而此时将不再需要签名证书即可对固件进行读取和写入。他提出,该漏洞就算被补上,也不是安全的,还会有别的控制方式。

现场观众问道:芯片漏洞的危害是巨大的,请问对于供应链安全是否有一些建议?

胡铭德遗憾地表示,这个芯片的漏洞是他首先发现的,但到目前为止,尚未有更好的解决办法;如今也希望通过公开相关的检测方式和工具,让更多人参与到这方面安全防控的思考中来。

物流行业物联网安全体系构建及思考

于洋 物流行业IoT安全从业者

物流行业特色的IoT业务场景是物理网技术应用的典型行业之一。于洋为大家带来了物流行业相关的安全业务、合规风险的演进以及落地。人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

物流行业的数字化包含人、货、场,例如仓储、网点,都会面临安全威胁。他提到,物流业务的场景极复杂,网络不可信,边界不清晰。业务场景可以从五个维度划分,即识别、保护、检测、响应和处置。在资产识别方向上,OT & IoT设备识别算法的深度和广度是其重点,内容包括通信流量设备的识别、资产发现、硬件分类、信息收集与追踪等。在资产保护上,重点在于通过基于IoT的SDL和供应链安全解决方案来落地资产保护,包括系统安全、通信安全、隐私安全、硬件安全、应用安全、云端安全,设备还应该进行分级保护。在资产检测/响应和处置上,重点在于通过主动和被动检测,以行为为依托进行感知和响应,使告警转化为“行动”。

最后,他提出了思考,希望制定一个IoT企业标准,让物联网安全能力形成业务壁垒。

漏洞挖掘和检测在智能设备中的最佳实践(线上分享)

杨成明 美团安全专家

在当前国内的物联网领域,ROM 类设备大部分是自研/代工的,国产芯片的普及率也非常高,而由于生产厂家众多,这些设备以及它们端口环境非常繁杂。由于疫情管控,杨成明不能亲临现场,于是通过线上视频的方式,为大家带来了对于这类设备端口的安全漏洞的挖掘和检测实践。

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾他从不同安卓设备的产品形态差异开始,分析了不同的安全威胁,展示了在他和团队发现的绕开厂商防护的行为。随后他介绍了自己团队的漏洞检测和挖掘平台,其目标是快速提高增量/存量设备安全水位,并通过下面四个关键点来实现:

1. 收集设备信息,检测基线高危风险
2. 检测已知高风险攻击入口漏洞
3. 检测已知高风险提权漏洞
4. 检测芯片相关的高风险0day

他表示,该平台的角色有两个:1. 完成送测设备的检测,并输出报告;2. 将检测数据提供给线上数据分析平台,持续批量收敛设备漏洞风险。

对于前期重点覆盖中高危1day漏洞,平台的检测手段是adb连接设备,基于poc检测;对于重点芯片相关高危提权0day,检测手段是精细化Fuzz方法。

结语

人工智能和物联网技术是未来发展的热门,在给人们生活带来更多便捷的同时,背后的安全问题也越发令人关注。只有在安全的基础上,人工智能与物联网技术才能真正保障和改善民生。相信在人工智能和物联网前沿论坛上的最新经验分享和网络安全思考,能让更多人参与到相关领域的研究和建设之中,一起打造更美好、更安心的未来。

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

精彩推荐





人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾
人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

本文始发于微信公众号(FreeBuf):人工智能与物联网安全前沿论坛圆满落幕,全程精彩回顾

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: