蚂蚁孟昌华：AI安全的挑战与机会

2023年12月21日，第七届云安全联盟大中华区大会在深圳成功举办。本次大会由云安全联盟大中华区主办，OPPO、中国电信、百度安全、腾讯、蚂蚁安全实验室、启明星辰、天融信、观安信息、指掌易等单位承办，中国互联网协会、中国电子工业标准化技术协会、深圳市科学技术协会、深圳软件行业协会等多方支持，聚焦“云融未来，安全内在”的主题，旨在构建更加安全可靠的数字信任体系，助力技术创新及数据价值释放。

会上，蚂蚁集团安全服务智能部总监孟昌华带来“AI安全的挑战与机会”的主题演讲，特别强调了AI领域当前面临的安全性风险及其应对策略，他从测评和防御两个关键视角出发，探讨了在AI安全实践工作中可采取的一系列有效方案。

以下是孟昌华总监演讲的精彩内容。（部分删减）

孟昌华首先强调了AI安全领域的重要性，特别是在ChatGPT等大模型技术日益流行的背景下。他提到了深度学习模型在图像和文本处理中的脆弱性，例如微小的扰动就能使模型做出错误判别。这些技术挑战不仅存在于数字世界，也延伸到了物理世界，如通过小变化误导交通标志识别系统。这些问题不仅是技术难题，也引起了社会和伦理方面的关注。

在应对AI安全挑战方面，孟昌华提出了蚂蚁集团的实践和思路。他分享了如何通过数据清洗、模型增强等技术手段提高大模型的内在安全。他强调了安全护栏的概念，即通过输入过滤、风险识别和模型调整来增强大模型的安全性。此外，他提到了运用自动化测评系统和红蓝对抗方法来持续评估和提升大模型的安全性。

孟昌华提出了AI安全领域的未来趋势和机遇。他指出，随着AI的进一步发展，特别是在多模态大模型方面，将面临更多复杂和动态的安全挑战。这些挑战为安全领域的研究和创新提供了新的机会，比如子领域安全大模型和图谱技术的结合。他强调，AI安全不仅是一个挑战，也是推动社会化治理和技术进步的重要机会。