AI真的会取代网络安全人员吗？

近日，CSA 人工智能安全联盟主席 Caleb Sima 在接受媒体采访时谈到，人工智能将如何增强安全专业人员的技术能力，强调人工智能在提高技能和生产力方面能够起到积极作用，而不是单纯取代员工。

访谈内容如下：

1、行业内部分群体认为人工智能可以增强安全专业人员的技术能力，而不是单纯的取代他们，您认为人工智能未来将如何改变他们的角色？

目前来看，虽然无法判断人工智能是否会取代网络安全人员的工作，但我相信人工智能是一种工具，可以用来增强安全专业人员的能力，而不是取代他们。

事实上，CSA 最近与谷歌合作开展的一项调查——《人工智能与安全现状调查报告》，报告发现大多数组织计划利用人工智能来加强其安全团队，以期提高技能和知识基础，改进检测时间以及提高生产率，而不是单纯的要完全取代员工。

不久的将来，我们可能会看到人工智能技术在团队日常工作中被广泛应用，例如自动执行写报告等大量重复性任务，这就会释放目前用于编制管理报告的大量时间，使这些团队能够专注于更优先的工作。从调查结果来看，58% 的受访者表示，他们认为人工智能将增强他们的技能或全面支持他们目前的工作， 24% 的受访者认为人工智能将取代他们的部分工作，使他们能够专注于其他活动。

此外，Caleb Sima 还提到，安全团队可以利用人工智能算法来识别和修复威胁，其速度和效率远远超过单靠人力所能达到的水平。不仅如此，通过输入历史数据，安全团队可以利用人工智能帮助预测潜在威胁，并在这些威胁升级之前制定缓解策略。

现阶段，安全专家无论如何都需要学习如何在其组织和个人角色中最好地利用人工智能。

2、安全专家如何看待组织在人工智能集成方面的网络安全成熟度？

从目前情况来看，整合人工智能主要涉及应用标准安全措施，小部分流程涉及新型人工智能风险，在不能确定自身组织的具体情况之前，安全专业人员通常会对这一未知领域感到「棘手」。

2024 年，对于企业应用人工智能技术是变革的一年。调查发现，半数以上的企业计划在今年实施 GenAI 解决方案，并由 C-suite 推动这一采用。调查还显示，超过 80% 的受访者认为他们的组织已经中度到高度成熟。

值得注意的是，不管企业是否做好了准备，人工智能即将到来。在这种情况下，企业必须要早早的明白，人工智能发展的道路上无论走到哪一步都会遇到各种各样的挑战，因此，在将人工智能技术集成到当前流程中，或者允许员工使用时，都要进行适当的培训。

3、人们对人工智能的潜在滥用有了深刻的认识，企业应该如何做好准备来降低这些风险？

首先，企业需要像对待特定岗位上的人员一样对待人工智能，强调最佳实践。其次，企业还需要确定人工智能的功能，如果只是单纯的在客户聊天中提供辅助数据，那么安全风险就很小。但如果人工智能能够整合并执行操作，访问内部和客户数据，那么企业就必须优先考虑严格的访问控制和独立的「角色」。

4、如何看待人工智能相关网络安全培训的现状，以及需要做出哪些改进来培养人才？

多年来，业内一直在谈论安全行业的技能差距，而人工智能可能会在不久的将来加深这一差距，目前人工智能技术应用正处于学习的初级阶段，相关培训还没有跟上。

人工智能发展如此之快，培训材料很快就会过时，随着企业越来越多地寻求对员工进行如何最好地利用人工智能的培训，他们应该专注于稳定的概念，并强调人工智能安全主要依赖于当前应用程序和基础设施的既定最佳实践。

5、74%的企业计划建立专门的人工智能治理团队，这些团队将如何塑造网络安全的未来？

鉴于人工智能具有很强的不确定性，以及其潜在的安全风险，合理严格的监督在当下至关重要。随着时间的推移，人工智能知识的增加以及人工智能与所有技术的融合，其安全风险将变得更加清晰，人工智能治理也将从专业团队转向更广泛的技术管理。

企业建立了人工智能治理团队，侧面说明了企业对待人工智能整合与管理方面的严肃态度，这些团队的任务很可能是解决从企业政策制定和道德考量到风险管理和监管合规等各个方面的问题。

【

原文始发于微信公众号（FreeBuf）：AI真的会取代网络安全人员吗？