机器学习-隐私保护总览

这段时间有项目在进行，所以对斯坦福Dan Boneh密码学的阅读进度有所放缓，之后会继续更新，这段时间对当前机器学习领域隐私保护的方向做了一点小总结。

近年来，隐私保护机器学习的研究方向大致可以分为三类：

一是以k-匿名为代表的基于等价类的方法。

二是以差分隐私为代表的基于数据失真的方法。

三是以安全多方计算、同态加密、秘密共享、函数加密为代表的密码学方法。

匿名化是最早提出的隐私保护技术，其中应用较多的-匿名方法，要求发布的数据在准标识符上存在至少条不可区分的记录，使攻击者不能判断特定信息所属的具体个体。-匿名在一定程度可以保护数据隐私，但也降低了数据的可用性。

差分隐私是基于数据失真的隐私保护技术，通过注入噪声，使得增加或删除一条数据记录的操作对输出的影响不可区分，保证数据集中个体的隐私。目前已有差分隐私机器学习算法上的工作，大多是通过在训练过程中注入噪声来实现差分隐私。常见的有三种：目标函数扰动、输出扰动、梯度扰动。一般噪声越大隐私保护度越高，数据的实用性越小。

采用密码学技术来解决机器学习中的隐私问题，是研究者们最为关注的主流技术。近年来，基于同态加密、安全多方计算、函数加密等密码学技术纷纷应用于隐私保护计算领域。

这里面我觉得函数加密这版块的内容是相对比较难的，现有的文献资料也相对比较少。

——函数加密到底是什么鬼？

——Boneh等人在2011年的理论密码学会上正式提出函数加密（Functional Encryption）概念。一个函数加密方案包含四个多项式时间的算法：系统设置算法、密钥生成算法、加密算法和解密算法。在系统设置算法中，输入系统安全参数，输出系统公钥mpk和主密钥msk；在密钥生成算法中，输入msk和函数f的描述，输出函数f相应的解密私钥skf；在加密算法中，输入明文m，输出密文c；在解密算法中，输入密文c和函数解密私钥skf，输出函数值f(m)。特别地，解密私钥skf的拥有者不能得到除函数值f(m)和明文长度之外的任何信息。

更为一般的函数加密，是能够对密文实施选择性计算的，也就是说，解密只是恢复明文的部分信息，此时f(m)¹ m。近年来，函数加密成为密码学研究领域的热点。国内外学者对函数加密展开了大量的研究，主要集中在函数表达能力、安全性、扩展功能以及应用四个方面。

机器学习-隐私保护总览相关推荐

机器学习隐私保护-MPC通用编译器
安全多方计算通用编译器一:Abstract摘要 1.安全多方计算功能:Secure multi-party computation (MPC) allows a group of mutually ...
隐私保护技术之差分隐私
差分隐私技术一开始是为了解决差分攻击(differential attack)问题.为了保护用户隐私,通常的处理方式是将数据集进行匿名化处理然后发布.但实际上,这种匿名化处理根本无法保护用户的隐私,如 ...
如何在机器学习的框架里实现隐私保护？
编者按:数据时代,人们从技术中获取便利的同时,也面临着隐私泄露的风险.微软倡导负责任的人工智能,因此机器学习中的隐私保护问题至关重要.本文介绍了目前机器学习中隐私保护领域的最新研究进展,讨论了机密计算 ...
深度学习核心技术精讲100篇（五十三）-机器学习中的隐私保护
前言近年来,随着 GDPR 通用数据保护条例出台以及一些互联网公司数据隐私泄漏等事件的发生,数据隐私的保护问题在行业应用中备受关注.与数据密切相关的机器学习算法的安全性成为一个巨大挑战.本文将介绍在 ...
驱动AI产业“第二增长曲线”，清华系RealAI发布首个企业级隐私保护机器学习平台与升级版AI模型杀毒软件
12月9日,由清华大学人工智能研究院.北京智源人工智能研究院.北京瑞莱智慧科技有限公司联合主办的"2020第三代人工智能产业论坛暨瑞莱智慧RealAI战略发布会"在北京召开.清华大 ...
论文学习记录20200313：隐私保护机器学习[NDSS2020]
机器学习工具已经展示了它们在医疗和金融等许多重要领域的潜力,有助于得出有用的推论.在这些部门,数据的敏感和保密性质自然引起对数据隐私的关注.这促使了隐私保护机器学习(PPML)领域的数据隐私得到保证. ...
Drynx: 基于区块链的去中心化隐私保护机器学习系统
该文章转载自本人的知乎专栏,有兴趣的小伙伴可以来我的专栏学习更多相关知识,包含了同态加密.安全多方计算.机器学习和联邦学习.近世代数等.下面是我的知乎文章首页,可以点专栏去查看确定方向的文章.所有相关 ...
清华系创企RealAI：独家“隐私保护机器学习”技术，全球首款编译级产品
原创:谭婧以侵犯隐私的方式处理数据,已属非法行为,违法必究,犯罪分子,瑟瑟发抖. 但数据,作为人工智能(AI)的"石油",不能简单粗暴一刀切,如何加高数据安全的"围 ...
微软研究院：如何在机器学习的框架里实现隐私保护？
编者按:数据时代,人们从技术中获取便利的同时,也面临着隐私泄露的风险.微软倡导负责任的人工智能,因此机器学习中的隐私保护问题至关重要.本文介绍了目前机器学习中隐私保护领域的最新研究进展,讨论了机密计算 ...

机器学习-隐私保护总览

机器学习-隐私保护总览相关推荐

最新文章

热门文章