2023年AI无处不在，既令人惊奇又令人恐惧，即使你不相信炒作，也不能否认人工智能对全球几乎每个行业产生的巨大影响。由于人工智能的广泛采用，未来几年将变得巨大的一个领域是人工智能安全领域。

    人工智能将带来网络安全行业尚未做好准备的新型安全风险，不幸的是，我们仍处于这个利基市场的起步阶段，并且没有足够的材料来学习如何学习人工智能安全。

对于绝大多数人来说，AI安全转化为使用ChatGPT写一些安全相关的提示！

在本文中，我想介绍五个简单的步骤，可以使用这些步骤来学习人工智能安全并在这个即将到来的领域取得良好的开端

第 1 步：了解机器学习概念

「人脑替代计划-2」机器学习到底怎么学习怎么工作？

机器学习是驱动大多数人工智能实现的引擎，了解它至关重要。了解其核心概念以及它与普通应用程序的不同之处。我建议对以下主题有一个深刻的理解：

• 监督学习和非监督学习

• 神经网络和深度学习

• 强化学习

• 特征工程

• 模型评估和验证

        你不必成为专家或深入了解不同类型机器学习算法的细节，但对 ML 所基于的概念有深入的了解，原因是许多针对人工智能的攻击都试图利用这些概念，因此良好的基础知识至关重要！

第 2 步：了解人工智能系统中的偏差以及如何减轻这些偏差

    人工智能系统中最危险的风险之一是引入偏见和风险，导致不公平或歧视性的决策。想想在执法或医疗领域使用的人工智能系统是否偏向特定种族或种族？！

    要成为人工智能安全专家，你必须知道如何识别和减轻这些偏见。以下是要学习的内容：

• 偏差类型（例如采样偏差、测量偏差和算法偏差）

• 有偏见的人工智能系统的伦理影响

• 减轻偏差的技术（例如，重新采样、重新加权和对抗性训练）

第 3 步：了解 AI 独特的攻击，例如成员资格推断和数据中毒

    第三步是了解人工智能特定的攻击。随着人工智能系统变得越来越普遍，它们成为恶意行为者的目标，为了保护这些系统，你需要了解各种攻击及其影响。一些常见的攻击包括：

• 对抗性例子

• 数据中毒

• 模型反演与提取

• 成员资格推断攻击

第 4 步：了解如何创建人工智能风险管理框架

    人工智能安全并不存在于真空中，需要实施适当的框架才能正常运行。了解为监管人工智能而引入的新法规以及它们需要什么样的控制措施。

了解这些主题：

• 人工智能治理框架和最佳实践

• 人工智能风险评估方法

• 遵守相关法律法规

• 人工智能系统的事件响应和恢复计划

第 5 步：了解 AI 特定的安全控制

现在你已经对 AI 的基础知识有了深入的了解，你可以开始了解 AI 特定的安全控制，大多数网络安全专业人士都会犯这样的错误：直接跳到这一步，而不是先打好坚实的基础！

需要学习的一些关键主题是：

• 数据保护（例如加密、匿名化和访问控制）

• 安全模型训练和部署

• 稳健性测试和验证

• 人工智能系统的监控和审计

原文始发于微信公众号（KK安全说）：【AI安全】人工智能安全如何开始