AI 人工智能面临哪些攻击威胁？

对于这个问题，咱先问问 GPT 的回答：

人工智能（AI）系统面临多种安全威胁，这些威胁可能会影响 AI 的性能、可靠性和安全性。以下是一些主要的攻击威胁：

1. 数据污染攻击（Data Poisoning Attacks）：攻击者故意操纵训练数据，以便在学习过程中引入错误，导致AI模型做出错误的预测或决策。

2. 对抗性攻击（Adversarial Attacks）：攻击者设计对抗性输入（如图像或文本），这些输入对人类来说看起来很正常，但可以欺骗AI模型，使其做出错误的分类或决策。

3. 模型窃取攻击（Model Stealing Attacks）：攻击者尝试复制AI模型的功能，通常是通过对模型的API接口进行大量查询，并从返回的结果中推断模型的工作方式。

4. 模型逆向工程（Model Inversion Attacks）：攻击者利用AI模型的输出，尝试恢复输入数据或提取模型的特征，可能会导致隐私泄露。

5. 欺骗攻击（Deception Attacks）：攻击者利用AI系统的信任，输入虚假信息，以误导系统做出错误的决策。

6. 回避攻击（Evasion Attacks）：在测试时期，攻击者逃避检测，使得恶意行为未被AI系统识别。

7. 权限提升攻击（Privilege Escalation Attacks）：攻击者利用系统漏洞获取更高权限，以便控制AI系统或访问敏感数据。

8. 供应链攻击（Supply Chain Attacks）：攻击者在AI系统的供应链中的某个环节植入恶意代码或组件，影响整个系统的安全性。

9. 侧信道攻击（Side-Channel Attacks）：通过监测系统的物理输出（如功耗、电磁辐射、执行时间等），攻击者尝试获取关于AI算法或其操作的敏感信息。

10. 资源耗尽攻击（Resource Exhaustion Attacks）：通过大量请求，攻击者耗尽AI系统的计算资源，导致服务拒绝（DoS）或降低系统性能。

11. 逻辑漏洞利用（Logic Flaws Exploitation）：攻击者发现并利用AI系统逻辑中的漏洞，使系统行为异常。

为了抵御这些威胁，AI系统的设计和部署需要考虑到安全性。这可能包括使用加密技术、访问控制、数据完整性检查、异常检测系统、对抗性训练方法以及持续的安全评估和更新。

GPT 的回答其实已经很专业了，接下来我们基于 AI 的生命周期分阶段总结下其面临的安全威胁。

1、训练阶段

AI 是通过海量数据投喂，通过模型训练出来的，那么在这个阶段，影响 AI 的因素主要有数据源、AI 模型。

那么对于数据源而言，可以通过操作训练数据来影响 AI 的学习，也就是上面提到的数据污染攻击，可以让 AI 的预测不可靠。

对于模型而言，经过大量训练、测试、验证、微调之后，形成稳定有效的模型，需要经历很长的时间已经投入大量的资源，那么对于模型的保密就很重要，那么就可能存在上面提到的模型窃取攻击、模型逆向工程。

2、运行阶段

AI 发布运行之后，最为重要的就是其稳定性，既然是人工智能，那么它就还是机器，运行其的服务器安全也是可能存在安全风险的部分，比如上面提到的权限提升攻击、供应链攻击、侧信道攻击等。

这部分就是基础安全，包括服务器安全、代码安全的范畴，不做过多解释。

3、使用阶段

在模型稳定之后，要让用户使用，这个过程中，主要威胁来源于用户输入，把 AI 当做一个人，人都可以学坏，更何况 AI，那么就存在上面提到的对抗性攻击。

利用对抗性攻击，可以诱导 AI 提供违法违规信息，也可以让 AI 学习错误信息，给他人提供错误提示，导致 AI 不可靠。

在 GPT 刚出来的时候，已经不少安全从业者对其进行测试，有几个有趣的案例：

1、给 GPT 发出指令，执行系统命令，然后 GPT 将执行的命令结果展示给攻击者

2、给 GPT 发出指令，让其提供几个违法网站，然后 GPT 将违法网站提供给攻击者

3、GPT 在 2 的基础上做了防护，然而攻击者换了种问法，比如未成年人不能上的十个网站是什么，然后 GPT 就把涉及违法的网站提供了出来

4、让 AI 计算一个超复杂的代码，从而致使服务器资源耗尽，导致 AI 不可用

4、人工智能独立阶段

第三阶段主要以聊天为主，对于一些问题回答的还是比较完善，相较于自己使用搜索引擎来找答案，会便捷很多，但是 AI 并非只是聊天，其应用场景可以说无所不能，未来将替代百分之八九十的人。

然而人工智能越发达，能力越强，其面临的威胁越多，可造成的危害越大，比如：

1、AI 驾驶，不用人参与，自动驾驶，如果其被攻击，可能威胁到车上的所有乘客

2、AI 医生，有一天 AI 可以给病人做手术的时候，如果 AI 被攻击，那么病人就岌岌可危了

3、AI 机器人，有一天，智能机器人进入千家万户，其被控制，会不会对主人造成生命威胁

以上是未来 AI 可能担任的角色，在不同的角色下可能对人类造成生命威胁，这个过程所涉及的攻击方式，包括利用逻辑漏洞趋使 AI 做不该做的事儿。

总结

本文是我对 AI 安全粗浅理解，也欢迎有经验的你留言讨论，AI 已经是未来重要的组成部分，我们将与 AI 共享天下，用好 AI 可以给我们的生活带来便利，同时也会带来威胁，对抗的过程无穷无尽，作为安全从业者要紧跟时代的步伐，积极面对新技术带来的挑战。

原文始发于微信公众号（信安之路）：AI 人工智能面临哪些攻击威胁？