原创丨美国网络安全和基础设施安全局发布首版人工智能发展路线图

2023年11月14日，美国网络安全和基础设施安全局（CISA）发布第一版人工智能路线图，旨在为安全开发和实施人工智能的相关项目提供指导。据了解，本次发布的路线图是拜登政府10月底发布行政命令以来一系列人工智能治理政策的一部分，为CISA及其上级机构美国国土安全部（DHS）提出了五个明确的重点工作方向，并依此制定具体工作计划。

工作计划的五个重点工作方向包括：

一是负责任地使用人工智能。CISA将使用支持人工智能的新一代工具来加强网络防御，并支持其关键基础设施保护任务。CISA 将确保人工智能技术的能够符合宪法和所有适用的法律和政策，包括涉及联邦采购、隐私、公民权利和公民自由的法律、政策等。

二是确保人工智能系统安全。CISA将评估和协助各种利益相关者采用基于人工智能的安全设计软件，包括联邦政府机构、私营部门公司以及州、地方和地区（SLTT）政府组织，同时将通过制定安全和有弹性的人工智能开发和实施指南来建立保障，包括制定生成式人工智能红队计划。

三是保护关键基础设施免受人工智能威胁。CISA 将与开发、测试和评估人工智能工具的各类机构、组织合作，评估并缓解美国国家关键基础设施面临的人工智能威胁。作为这项工作的一部分，CISA将建立专门委员会，围绕与人工智能系统相关的威胁、漏洞和缓解措施等相关工作进行协同沟通。

四是与不同部门、机构、国际合作伙伴以及公众就关键人工智能工作进行协作和沟通。CISA将为美国国土安全部领导的跨部门工作提供服务，包括为美国政府在网络安全和人工智能方面的总体国家战略制定政策方针，并支持国土安全部在基于人工智能的软件政策问题上采取措施，包括与国际合作伙伴沟通协调，以推进全球人工智能安全最佳实践和应用。

五是加强机构员工队伍中的人工智能专业知识。CISA将继续加强教育内部员工了解人工智能软件系统和技术，同时积极招聘具有人工智能专业知识的研究人员和专业人才。CISA将确保通过内部培训让所有员工了解基于人工智能的软件应用法律、道德、政策以及技术方面等知识。

建议我相关部门或单位持续关注美网络安全态势及时调整方针政策有效应对，具体可从以下几方面进行优化：一是进一步开发利用人工智能等新一代工具来加强网络安全防御，同时完善人工智能安全监管法规，保护相关系统及个人数据安全。二是协调政府和企事业单位共同制定安全、有弹性的人工智能开发和实施指南，同时围绕与AI系统相关的威胁、漏洞和缓解措施的工作组织开发、测试与评估工作。三是进一步加强与国际性组织和机构合作。持续推进全球人工智能安全最佳实践和应用，培养教育人工智能安全人才梯队。

原文链接：

https://www.cisa.gov/news-events/news/dhs-cybersecurity-and-infrastructure-security-agency-releases-roadmap-artificial-intelligence