热点点评 | 浅谈某AI相机用户服务协议修改事件

事件概况

最近，人工智能应用可谓是火热。在一款AI相机应用中，用户可以通过上传自己的一些照片，自动生成属于自己的数字人形象。然而，AI应用迅猛发展的背后，也逐渐暴露了问题。当前，某款火爆AI相机用户协议中的一段话，引发了社会的广泛讨论。

作为一款收集包含人脸信息等敏感个人信息的应用，在提供服务时向用户告知详细的个人信息处理规则本就是收集方的应尽责任，同时，用户服务协议中应当在法律法规框架下，从维护各自合法权益的视角声明双方应尽义务，但服务协议中的上述内容是典型的不合理条款，“不可撤销”“我方认为合适”等用词让人可谓大跌眼镜，与保护个人权益可谓“南辕北辙”。

如果从协议内容本身来看，可以说应用开发者缺少了对“个人信息保护最基本的认知和理解”、“明目张胆漠视用户权益”都不为过。在网友提出质疑后，应用开发者立即发布声明、更新了协议内容，而即便如此，网友也并不买账——“一个正式的协议，说改就改，究竟靠不靠谱？”“安全保障难道就是一句承诺和一份声明吗？”各种质疑声仍然不断。

现象分析

就此事而言，首先，肯定反映的是应用开发者对协议内容本身重视程度不够的问题，不管是“拷贝导致无心之失”还是“便于后续开发利用”，其应用发布前的审核机制恐怕仍有较大改进空间；其次，在面临公众舆论压力时，应用开发者迅速更正不合理条款并发表声明无可厚非，然而这份声明中承诺的内容与修改前的内容可谓“180度反转”，同时又缺乏对安全机制的具体说明，此种做法无法服众也是在所难免。

究竟为何说“一纸声明”的方式无法满足用户的数据安全和隐私保护期待，究其原因有以下几点：

一是，该应用处理的数据为典型的敏感个人信息，如果滥用对用户权益的影响巨大，因此其个人信息处理规则的透明性、准确性至关重要，如果轻描淡写或者随时变卦，则无法取信用户。

二是，众所周知，从AI技术的孵化和更迭的需求来看，个人的照片信息能成为算法学习的重要训练数据，协议中原来的“无条件使用”变为如今的“自动删除”，是不是真的能做到呢？

三是，数据处理的环节众多，安全措施不可缺位，有没有加密手段？有没有匿名化或去标识化预处理的过程？保存的具体时间周期和删除机制如何？后台服务器数据加工、调用的管理机制如何？个人的权利如何行使？是否开展了个人信息保护影响评估工作？众多具体的保障数据安全和个人信息权利的措施到底如何执行，用户无法通过已披露的信息了解具体规则。

一款应用因采用了新颖技术而成为爆款，或又因数据安全和个人信息保护的不足则被推至舆论的浪尖。吸引用户关注的同时，数据安全和个人信息保护方面的大意可能成为决定其“成败”的关键要素，应用开发者应当始终保持对安全的敬畏之心，在安全工作上付诸于实际行动，才能让保障用户权益成为应用的核心价值。否则，一旦在安全问题上“暴雷”，损伤的不单是应用自身，而且还有行业的信心，为新技术新应用的蓬勃发展蒙上阴影。

（本文作者：深圳赛西信息技术有限公司  邹秋阳）

原文始发于微信公众号（CCIA数据安全工作委员会）：热点点评 | 浅谈某AI相机“用户服务协议”修改事件