英美网络安全局联合发布《安全AI系统开发指南》

这份指南由20多家国内外网络安全组织合作编写，分为四个部分，涵盖了人工智能系统开发生命周期的不同阶段，即设计、开发、部署和运维。它促进了安全设计原则的实施，强调透明度、问责制，并优先考虑客户对安全成果的所有权。

CISA和NCSC指出，该指南适用于所有类型的AI/ML系统，旨在解决与AI、网络安全和关键基础设施相关的问题。指南主要面向人工智能系统的提供者，无论是由组织托管还是通过外部API都可访问。

指南强调与网络安全、事件响应和风险管理的实践相结合，要求在整个系统生命周期中对功能、机制和工具进行投资，以保护所有层面的客户数据。提供商被要求尽可能在其模型、管道和/或系统中实施安全控制和缓解措施，并在使用设置的情况下，默认实施最安全的选项。同时，提供商有责任告知用户无法缓解的风险，并建议他们如何安全地使用系统，将所有网络安全风险视为关键风险。

CISA和NCSC强调了安全设计更新方法的重要性。为了确保系统的安全性，建议提供商在设计阶段关注安全性、功能和性能，保护供应链、资产和基础设施，持续保护模型，并实施事件响应和监控系统的行为和输入。

CISA和NCSC呼吁所有利益相关者，包括数据科学家、开发人员、经理、决策者和风险所有者，阅读该指南并在人工智能系统的设计、开发、部署和操作中做出明智的决策。