什么是差分隐私？

我们正生活在大数据时代，这使得数据隐私话题受到更多关注。人类每秒产生海量数据，公司将这些数据用于广泛的应用。随着数据以前所未有的速度存储和共享，必须有更多的隐私保护技术。 差分隐私就是这样一种保护个人数据的方法，并且已被证明比许多传统方法更有效。它可以被定义为一个系统，通过描述数据集内群体的模式来公开共享数据集的信息，同时保留数据集中个体的信息。 差分隐私使研究人员和数据库分析师能够从数据库中获取有价值的信息，而无需泄露个人的身份识别信息。这一点至关重要，因为许多数据库包含各种个人信息。 理解差分隐私的另一种方式是，它通过向数据集中注入噪声来创建匿名数据。引入的噪声有助于保护隐私，同时其程度有限，分析师仍能可靠地使用数据。 你可以有两个几乎完全相同的数据集。一个包含你的个人信息，另一个则不包含。通过差分隐私，你可以确保统计查询产生特定结果的概率是相同的，无论它在哪个数据库上执行。

差分隐私如何工作？

差分隐私的工作原理是向数据集引入一个隐私损失或隐私预算参数，通常表示为 epsilon (ε)。这些参数控制向原始数据集添加多少噪声或随机性。 例如，假设数据集中有一列包含个人的“是”/“否”答案。 现在，假设你为每个人抛一次硬币：

• 正面：答案保持不变。
• 反面：你抛第二次，无论真实答案如何，记录结果为正面则“是”，反面则“否”。

通过这个过程，你向数据添加了随机性。凭借大量数据以及噪声添加机制的信息，数据集在聚合测量方面将保持准确。隐私保护体现在，由于随机化过程，每个个体都可以合理地否认他们的真实答案。 虽然这是差分隐私的一个简化示例，但它提供了一个基础层面的理解。在实际应用中，算法更为复杂。 同样重要的是要注意，差分隐私可以在本地实现，即在个人数据集中到数据库之前对其添加噪声；也可以在全局实现，即在从个人收集原始数据后对其添加噪声。

差分隐私示例

差分隐私广泛应用于推荐系统、社交网络和基于位置的服务等领域。 以下是一些大公司依赖差分隐私的示例：

• Apple 使用该方法从 iPhone 和 Mac 等设备收集匿名使用情况洞察。
• Facebook 使用差分隐私收集可用于定向广告活动的行为数据。
• Amazon 依靠该技术在隐藏敏感信息的同时，深入了解个性化购物偏好。

Apple 尤其透明地说明了其如何使用差分隐私在保护用户隐私的同时获取洞察。 “Apple 采用并进一步发展了学术界称为本地差分隐私的技术，做了一件非常令人兴奋的事情：深入了解许多 Apple 用户的行为，同时帮助保护单个用户的隐私。这项技术使 Apple 能够了解用户群体，而无需了解群体中的个体。差分隐私在信息离开用户设备之前就对其进行转换，使得 Apple 永远无法还原真实数据。” – Apple 差分隐私概述

差分隐私的应用

由于我们生活在这个大数据时代，存在许多威胁政府、组织和公司的数据泄露事件。同时，当今的机器学习应用依赖于需要大量训练数据的学习技术，这些数据通常来自个人。研究机构也使用和共享包含机密信息的数据。以任何方式不当披露这些数据都可能给个人和组织带来许多问题，在严重情况下，可能导致民事责任。 像差分隐私这样的正式隐私模型解决了所有这些问题。它们被用于保护个人信息、实时位置等。 通过使用差分隐私，公司可以访问大量敏感数据进行研究或商业活动，而不会损害数据。研究机构还可以开发特定的差分隐私技术，以在日益流行的云共享社区中自动化隐私流程。

为何使用差分隐私？

差分隐私提供了一些主要特性，使其成为在确保隐私的同时分析私人数据的绝佳框架：

• 隐私损失量化：差分隐私机制和算法可以测量隐私损失，从而能够与其他技术进行比较。
• 组合性：由于可以量化隐私损失，你也可以在多次计算中分析和控制它，从而能够开发不同的算法。
• 群体隐私：除了个体层面，差分隐私使你能够分析和控制更大群体间的隐私损失。
• 后处理安全性：差分隐私不会因后处理而受损。例如，数据分析师无法计算差分隐私算法输出的函数，从而使其差分隐私性降低。

差分隐私的优势

如前所述，差分隐私优于许多传统隐私技术。例如，如果所有可用信息都是已识别信息，差分隐私可以更容易地识别数据的所有元素。它还能抵抗基于辅助信息的隐私攻击，防止对去标识化数据可能进行的攻击。 差分隐私的最大优势之一是其组合性，这意味着你可以计算对同一数据进行两次差分隐私分析的隐私损失。这是通过将两次分析的个体隐私损失相加来完成的。 虽然差分隐私是一种新工具，在研究社区之外可能难以实现，但易于实施的数据隐私解决方案正变得越来越容易获得。在不久的将来，我们应该会看到越来越多的此类解决方案面向更广泛的公众。