人工智能安全学术研讨会——安全视角下的人工智能利用和攻防技术

        2022年10月25日14：00-15：30，公大网络安全研究中心围绕“人工智能安全”的主题开展了线上学术研讨会，瑞莱智慧RealAI的算法科学家董胤蓬受邀以“安全视角下的人工智能利用和攻防技术”为题进行了精彩分享和详细介绍，来自学校网络空间安全执法技术方向的多名教师、4名博士和27名学硕参加了此次研讨会。

        身为瑞莱智慧RealAI的算法科学家的董胤蓬博士是清华大学计算机系博士后研究员，主要研究方向为机器学习与计算机视觉，先后发表TPAMI、IJCV、CVPR、NeurIPS等顶级国际期刊和会议论文三十余篇。在分享中，董胤蓬博士首先介绍了人工智能对抗攻防领域的相关基础和背景，同时介绍了基于深度学习的迁移攻击这种通用攻防模型，随后从活体检测、多类对抗样本生成等方面介绍了人脸识别这一应用领域，最后介绍了团队在人工智能安全领域的多项成果，包括ARES算法平台、CVPR2021白盒对抗攻击竞赛、对抗鲁棒测评Benchmark以及RealSafe人工智能安全平台的主要功能、核心算法等。

        在分享后，大家针对分享内容与董胤蓬博士进行了深入讨论，其中本校博士研究生仝鑫、杨培林和李御瑾同学分别针对Graph攻防技术在实际应用中的进展、训练样本中白盒测试和黑盒测试的关系以及是否进行了迁移攻击相关性测试的工作、使用投影仪打光等方式将噪声直接映射在人脸是否效果更好等问题与董胤蓬博士进行了深入细致的交流。

编辑：丁博文

审核：芦天亮

原文始发于微信公众号（安全防范与风险评估重点实验室）：“人工智能安全”学术研讨会——安全视角下的人工智能利用和攻防技术