谷歌发布TensorFlow，用于测试人工智能模型的隐私保护

本文作者：郭仁贤

2020-06-25 17:36

导语：人工智能模型会泄露训练数据集的敏感信息，从而产生隐私风险。

近日，谷歌发布了隐私保护TensorFlow工具包，可以评估各种机器学习分类器的隐私属性。谷歌表示，它旨在成为一个隐私测试套件的基础，不管AI开发者的技能水平高低都可以使用它。

当前，各种人工智能隐私技术仍然是社区内争论的话题，但还没有一个规范的指南来建立一个私有模型。而越来越多的研究表明人工智能模型可以泄露训练数据集的敏感信息，从而产生隐私风险。TensorFlow隐私保护所采用的缓解方法是差分隐私，它在训练数据中添加噪声以隐藏单个示例。据了解，这种噪声是以学术上最坏的情况去设计的，同时会显著影响模型的准确性。

因此，这促使谷歌的研究人员在寻求另一种选择。新的TensorFlow隐私模块支持的成员推断攻击方法，建立分类器来推断训练数据集中是否存在特定样本。分类器越精确，记忆就越多，因此模型的隐私保护就越少，做出高精度预测的攻击者将成功找出训练集中使用了哪些数据。

新模块提供的测试是黑盒，这意味着它们只使用模型的输出，而不是内部或输入样本。它们产生一个漏洞得分，确定模型是否从训练集中泄漏信息，并且它们不需要任何再训练，使得它们相对容易执行。

“在内部使用成员关系推断测试之后，我们将与开发人员共享这些测试，以帮助他们构建更多的私有模型，探索更好的架构选择，使用正则化技术，如提前停止、退出、权重衰减和输入增强，或收集更多数据。”谷歌Brain的双歌和谷歌软件工程师David Marn在TensorFlow博客上对外表示。

另外，谷歌表示：“今后，它将探索将成员推断攻击扩展到分类器之外的可行性，并开发新的测试。它还计划通过将新的测试与用于部署生产机器学习管道的端到端平台TensorFlow Extended（TFX）集成，探索将新的测试添加到TensorFlow生态系统中。”

雷锋网了解到，谷歌在去年夏天开放的基础差异隐私库中增加了对Go和Java的支持，还提供了Beam上的隐私，基于Apache Beam（一个特定于语言的sdk模型和集合）构建的端到端差异隐私解决方案，它依赖于差异隐私库的低级构建块，并将它们组合成一个“开箱即用”的解决方案，该解决方案考虑了差异隐私所必需的步骤。

此外，谷歌还推出了一个新的隐私损失分配工具，用于跟踪隐私预算，允许开发者对收集差异私人查询的用户隐私总成本进行估计，并更好地评估其管道的总体影响。

谷歌发布TensorFlow，用于测试人工智能模型的隐私保护相关推荐

谷歌发布TensorFlow 1.4与TensorFlow Lattice：利用先验知识提升模型准确度搜狐科技 10-12 15:29 选自：Google Research Blog 参与：李泽南、
谷歌发布TensorFlow 1.4与TensorFlow Lattice:利用先验知识提升模型准确度昨天,谷歌发布了 TensorFlow 1.4.0 先行版,将 tf.data 等功能加入了 A ...
《预训练周刊》第27期：谷歌发布最新看图说话模型、GitHub：平台上30%的新代码受益于AI助手Copilot...
No.27 智源社区预训练组预训练研究观点资源活动关于周刊本期周刊,我们选择了9篇预训练相关的论文,涉及少样本理解.图像检测.决策图.大模型微调.对话微调.分子建模.蛋白质结构预测 ...
大数据早报：MongoDB 3.6 默认对数据库勒索软件开启防御谷歌发布TensorFlow 1.4版本（11.10）
数据早知道,上36dsj看早报! 来源36大数据,作者:奥兰多『MongoDB』MongoDB 3.6 默认对数据库勒索软件开启防御 2017 有一条关于 MongoDB 的重大安全新闻引起了广泛关 ...
谷歌发布TensorFlow Privacy：大幅提升AI模型中的隐私保护
https://www.cnbeta.com/articles/tech/824909.htm 基于机器学习框架TensorFlow的谷歌最新模块,可以让开发者只添加几行额外代码就能改善AI模型中的隐 ...
重要更新 | 谷歌发布 TensorFlow 1.4，迁移Keras，支持分布式训练
TensorFlow 1.4 版现在已公开发布 - 这是一个大更新!我们在这里非常高兴地宣布一些令人兴奋的新功能,希望大家喜欢. Keras 在 1.4 版中,Keras 已从 tf.contrib. ...
谷歌发布最新看图说话模型，可实现零样本学习，多类型任务也能直接上手
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达兴坤发自凹非寺量子位报道 | 公众号 QbitAI 谷歌新推 ...
人工智能应用和隐私保护应该如何兼顾？
在人们越来越看重个人隐私和信息安全的当下,人工智能技术是把双刃剑.如何让人工智能在保障用户隐私安全的轨道上有序发展,正成为国内外共同关注的焦点和难点. 5月16日,美国旧金山市政府通过<停止秘密 ...
tensorflow 版本列表_最新｜谷歌发布TensorFlow 1.3.0版本，都更新了哪些内容？
我们所有预构建的二进制文档已用 cuDNN6 构建.我们预期在 TensorFlow 1.4 中用 cuDNN7 import tensorflow 运行地更快向 GCS 文件系统中增加了一个文件缓 ...
计算机位置隐私保护的书,清华大学出版社-图书详情-《隐私保护数据发布：模型与算法》...
隐私保护数据发布: 模型与算法前言随着数据挖掘和信息共享等数据库应用的出现与发展,如何保护隐私数据和防止敏感信息泄露成为当前面临的重大挑战.作为数据挖掘与信息共享应用中的重要环节,数据发布中的隐私保 ...

谷歌发布TensorFlow，用于测试人工智能模型的隐私保护

谷歌发布TensorFlow，用于测试人工智能模型的隐私保护相关推荐

最新文章

热门文章