浅谈隐私计算与数据安全

admin 2022年6月14日08:09:33安全闲碎评论8 views4236字阅读14分7秒阅读模式

限于微信排版问题,可点击阅读原文查看具体参考资料链接。

0x00 前言

本篇主要介绍隐私计算基础(内容来自学习笔记)以及在数据安全中的应用。此处对隐私计算的分类,参考了《隐私计算》这本书的介绍。将其分为两大块,一块是基于传统密码学的隐私加密计算,一块是基于概率论信息论的隐私保护计算(有的是基于软硬件的系统设计),但其实像联邦学习这种本身更多是将隐私加密计算应用到机器学习深度学习过程中了。本文仅做抛砖引玉,读者还应自行去学习每一个细节。

0x01 隐私计算基础


浅谈隐私计算与数据安全


根据脑图,每节介绍一个场景。对应的我会画一个时序图(图无声明均为原创,如需转载请注明出处)来介绍大致流程,部分附带 demo。差分隐私部分暂时跳过。

1. 安全多方计算

顾名思义,确保多个参与方能够进行安全的交互及运算。常见的技术有不经意传输,混淆电路,秘密分享等。

1.1 不经意传输(OT)


浅谈隐私计算与数据安全


跟着书本制作了个示意图,顺便模拟了下整个过程。

浅谈隐私计算与数据安全


浅谈隐私计算与数据安全


1.2 混淆电路(GC)


浅谈隐私计算与数据安全


这是以与门为例的,因为 Bob 能得到α和β两个密钥,便可以通过迭代查找表去解密对应的密文。

1.3 秘密分享(SS)

秘密分享主要分为两个过程,一是分发,二是恢复。此处本打算介绍以拉格朗日插值为基础的 Shamir 秘密分享。但当我整理笔记的时候发现已经有现成的了,可直接阅读秘密共享方案 (ps:疑惑 ing, 示例中的数字都与书中一致,两者私有抄袭之嫌?) 另需注意,可别设了 8 个分片,又搞了个 1 为阈值。这样对于恢复倒很便捷,但对于共同参与就没有什么意义了。

1.4 零知识证明(ZKP)

我是先看的李永乐老师的视频了解个大概….. 后来看了些安比实验室翻译的从零开始学习 zk-SNARK系列(强烈推荐)。但是这里有个问题,就是其中的一部分知识依赖同态相关的……

2. 同态加密(HE)


浅谈隐私计算与数据安全


举个例子理解下加法同态性。5 -> 5^3 明文 3 密文 5^3, 密文乘以 2, 2 的密文就是 5^2 得到的就是 5^3 x 5^2 = 5^(3+2) = 5^5 5^5 是密文反向解密 5^5 -> 5;顺便一提,Shamir 的密码分享也具备加法同态性。下图能更好的理解这个过程。


浅谈隐私计算与数据安全


(截图来自 Gentry 的 PPT)

原理和性质比较好理解,但具体的实现表示看的有点迷糊,以我的知识水平暂时无法理解。群,环尚能理解,卒于格。(基于格的密码学目前主要用于应对量子计算的破解,eg. CKKS,传统密码学对于量子计算机已经不难搞定了。)。这些基础要比学习机器学习深度学习难多了。推荐观看全同态加密的发展历程 下表介绍了不同类型的同态加密类型及实现


浅谈隐私计算与数据安全


不过这并不阻碍调包的脚步,此处使用Microsoft SEAL及对应的python binding 实现的 bgv 的 demo code,可参考原 repo 中的 example


浅谈隐私计算与数据安全

3. 联邦学习(FL)

有机器学习基础的话相对容易理解一些。这里面将联邦学习分为横向联邦学习和纵向联邦学习以及迁移学习。横向和纵向的区别在于横向是各参与方数据样本不同,特征空间和标签空间相同。而纵向是各参与方数据样本相同,但特征空间标签空间不同。结合前面的多方计算知识介绍,不难发现可以把训练过程中的关键参数聚合到一起。例如梯度下降过程中的梯度值,Loss 的值等。可以通过秘密分享,同态加密的方式去实现。当然也可以通过差分隐私实现。下面这个图介绍了横向联邦学习的训练过程。


浅谈隐私计算与数据安全


因为横向联邦的各个参与方本地都有完整模型,所以在预测过程只需要本地推理即可。不过即便是本地模型预测,也还需要保证样本对模型的隐私性,即允许模型持有者进行预测但不允许获取数据明文, 例如人脸识别,实时人脸数据后,直接进行加密,然后模型基于密文进行计算完成验证。另外已有论文可以通过模型和一定的预测过程数据能推断出原始数据,也需要注意此类攻击。

4. 可信计执行环境 TEE)

软硬件协同的一种计算方案,而分为 REE 和 TEE 两套环境。REE 对应常规操作系统,TEE 对应单独的硬件(单独的页表/内存,如果没有单独的硬件就要基于内存加密)和单独的 OS(正常的是 boot ROM -> boot Flash -> UEFI -> OS/Hypervisor, 以 Arm Trustzone 为例,TEE OS 的位置位于 boot Flash 之后 )用于存储 Key,指纹,人脸之类的敏感数据,并在 TEE 所在的 OS 内完成加解密签名验签等操作。通常还会有物理防御的机制,例如三星手机刷机就会直接熔断 Knox。三星的 TEE 是自研的,不过也被 Lapsu$泄漏了。硬件的难度和门槛可能高一些,常见的有 Arm TrustZone(建议阅读 Trustzone 架构设计,见参考部分), Intel SGX, AMD SEV。TEE OS 的话是有一些开源方案的,例如OP-TEE, Teaclave

此处以 Arm Trustzone 为例,交互示意图如下。图片来自论文On The Performance of ARM TrustZone


浅谈隐私计算与数据安全


5. 差分隐私 (DP)

主要原理是加入随机噪声,对精确的查询结果进行掩盖。连续实数值域的实现方式有两种,分别是拉普拉斯噪声法和搞死噪声法。有些地方也看不太懂,此处暂时略过。需要注意的是,要具备攻击者视角,例如 A 想了解 B 的收入,可以通过先构造集合 D(A,B),查询 D 的平均收入,然后减去 A 自己的收入的方式获得 B 的收入。

6. 其他

多签名相关的也需要了解。比较有名的为Schnorr和BLS

0x02 隐私计算与数据安全

多数情况,我们可以将数据流转过程中的角色分为图中几种。不过通常情况下,数据使用方大概率也会是数据提供方,无论是提供给合作伙伴还是政府监管。同样的平台方,服务提供方和数据使用方也极有可能是一个实体。在这里我用韦恩图去表示各方之间的关系。

浅谈隐私计算与数据安全


1. 减少收集范围与提高数据可控能力

从图中可以看出数据提供方和平台的交集意味着提供了哪些数据,平台和提供方以及使用方三者的交集意味着真正在平台中被使用到的那部分提供数据。此处也不难看出,应该在尽量减少提供方和使用方之间的差集,即避免收集过多的信息/数据,仅收集真正使用的。这需要平台去遵守法律/行业规范(监管永远是金融行业的第一驱动力,不过大多时候监管落后了很多步)。当然作为数据提供方可以通过增加自己对数据的控制能力来保护自己(先提高隐私保护意识再去提高控制能力)。例如,Root 后的手机可以通过使用一些插件去阻止其他非授权 APP 获取权限,或者返回给 APP 虚假数据,Android OS 常见的工具为 Xprivacy,MIUI 集成了 Privacy 功能; IOS 系统通过差分隐私得到最受欢迎的 Emoj 表情这类群体特征; 亦或是提供给服务方密文数据等。

2. 全链路安全与数据使用安全(Data In Use Security)


浅谈隐私计算与数据安全

全链路安全建设是必不可少的(包含基础设施到上层应用等等),除此之外数据在 Rest 和 Transit 的时候,大多可以通过一些密码学手段确保逻辑上的安全,当然也需要考虑软件供应链安全(eg. Crypto Library 的安全)以及服务设计等。但是对于 Data In Use 的场景一直没有很好的保护。此处简单讨论下隐私计算在数据使用场景(查询、分析、计算等)中的应用。一类是以个体数据为例,实现数据的可用不可见。另一类是针对群体数据的使用,如何保证计算过程/结果不会泄露个人隐私。

a. 数据可用不可见


浅谈隐私计算与数据安全


这一类应用到的技术主要为 TEE 以及同态加密相关的技术,前者支持在可信(永远没有绝对的可信)环境内计算,后者支持密文计算。比如通过 TEE 存储指纹,人脸,全盘加密 deKey 等数据。当外部应用需要进行核验/认证的时候(例如支付,解锁等)只能通过调用 API 访问 TEE 环境,在 TEE 环境内对数据进行加解密。又例如 FIDO2 认证过程中,Server 发送随机 Challenge 数值,经由 TEE 环境内私钥进行签名后发送回 Server,然后 Server 进行验证等等。同样的对于同态加密,密文检索和云上机器学习是较常见的场景。以机器学习预测为例。用户将输入进行加密,然后将密文上传服务器器预测,服务器进行加密推理,然后返回密文结果,最后本地解密得到明文结果。当然也可以将这两种结合到一起。完善保护数据使用中的安全问题。

b. 大数据可用不可见

主要以联邦计算和差分隐私为主要技术。在训练过程中通过掩蔽样本数据的特征或增加噪声的方式对原始样本数据进行保护,但并不影响对群体数据的统计结果。在预测过程中,能够接受密文数据进行预测。常见的场景有联合风控,欺诈识别,下一词预测,广告推荐(不再大数据杀熟)等。

0x03 总结

从安全多方计算(1979 年)开始到提出差分隐私,再到集中计算(2006-2013 年)以及目前的联邦学习(2018 年)。一如往常,这些技术的概念很早之前就已经出来。但直到近些年才得以落地。现在将其统称为隐私计算。不过需要注意的是 Data Privacy 本身关注的是个人,而非数据。


浅谈隐私计算与数据安全


在这些技术中,大部分需要依赖半诚实服务器,且同时存在一定的性能/效率问题。而其中有一部分数学基础对于我来说,也不能完全理解。但这并不影响去了解新的技术,以及去应用和落地。在此之前,思考了很长时间如何对使用过程中的数据进行保护,查阅了一些 TEE 的资料,但脑子里却没能有一个大概。这次通过系统学习了下隐私计算的书籍(虽然之前已经看过不少相关的白皮书),只有对原理有所了解。才能够更清楚应用场景。除此之外,猛然发现自己最初在学机器学习的时候,多是考虑模型数据保护相关的问题,却没想到如何保护样本数据,当真是学无止境。

ps: 最近刷了碟中谍前 4 部,看到那么多不可能的地方被伊森和他的 team 搞定。虽然有一定的主角光环,但不得不承认: 没有绝对安全的系统。任何一项技术也不能保证。

0x04 参考资料


  • 隐私计算(陈凯,杨强)

  • 实用安全多方计算导论(刘巍然译)

  • 隐私计算白皮书-信通院

  • 全同态加密的发展历程

  • A Decade of Fully Homonorphic Encryption.pdf

  • 零知识证明Zero-Knowledge Proof介绍

  • 如何理解拉格朗日插值

  • 秘密共享方案

  • 从零开始学习 zk-SNARK(一)

  • 零知识证明报告最终版.pdf

  • Microsoft SEAL

  • SEAL Python

  • BLS签名

  • Schnorr签名

  • OP-TEE

  • Teaclave

  • Learn the architecture - TrustZone for AArch64

  • On The Performance of ARM TrustZone

  • Xandu

  • 差分隐私算法基础

  • 浅谈加密基础设施

  • 浅谈数据安全

原文始发于微信公众号(放之):浅谈隐私计算与数据安全

特别标注: 本站(CN-SEC.COM)所有文章仅供技术研究,若将其信息做其他用途,由用户承担全部法律及连带责任,本站不承担任何法律及连带责任,请遵守中华人民共和国安全法.
  • 我的微信
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2022年6月14日08:09:33
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                  浅谈隐私计算与数据安全 http://cn-sec.com/archives/1113905.html

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: