CISA推出关键基础设施的人工智能减风险指南

美国政府网络安全机构 CISA 推出了一系列指导方针，旨在加强关键基础设施的安全性和保障，抵御人工智能相关威胁。

新发布的指南将人工智能风险分为三种重要类型：利用人工智能攻击基础设施、对人工智能系统本身进行有针对性的攻击，以及人工智能设计和实施中可能危及基础设施运行的失败。

CISA 指南倡导由四部分组成的缓解策略，该策略的核心是围绕人工智能风险管理的强大组织文化。

CISA 认为，组织文化必须强调安全和安保结果的重要性，促进彻底的透明度，并创建将安全优先作为核心业务指令的结构。

该指南还呼吁重点关注组织对每个实体独特的人工智能使用环境和风险状况的深入了解，以有效地定制风险评估和缓解工作。

隶属于国土安全部 (DHS) 的网络安全机构也在推动实施系统，利用可重复的方法和可衡量的指标来评估、分析和持续监控人工智能风险及其影响。

该指南呼吁管理层对已识别的人工智能风险采取果断行动，以增强安全性，确保实施和维护风险管理控制，以优化人工智能系统的效益，同时最大限度地减少不利影响。

深入挖掘后，CISA 将威胁分为三种不同的类型：

• 使用人工智能的攻击：使用人工智能来增强、计划或扩大对关键基础设施的物理攻击或网络攻击。
• 针对人工智能系统的攻击：对支持关键基础设施的人工智能系统进行有针对性的攻击。
• 人工智能设计和实施中的失败：人工智能工具或系统的规划、结构、实施或执行方面的缺陷或不足，导致故障或其他影响关键基础设施运营的意外后果。

该机构表示：“尽管这些指导方针足够广泛，可以适用于所有 16 个关键基础设施部门，但人工智能风险是高度相关的。因此，关键基础设施所有者和运营商应根据自己具体的现实情况考虑这些准则。”

原文始发于微信公众号（祺印说信安）：CISA推出关键基础设施的人工智能减风险指南