研究人员认为 AI 可以用来帮助保护人们的隐私

两位信息科学教授最近在 The Conversation 上发表了一篇文章，认为 AI 可以帮助保护人们的隐私，纠正一些它所造成的问题。

Zhiyuan Chen 和 Aryya Gangopadhyay 认为，人工智能算法可以用来保护人们的隐私，抵消一些其他 AI 应用所带来的隐私问题。陈和 Gangopadhyay 承认，许多我们使用的 AI 驱动产品需要大量数据来运行，这似乎与保护隐私的尝试相矛盾。另外，随着 AI 在更多行业和应用中普及，更多数据将被收集和存储在数据库中，使得数据库泄露变得更加诱人。然而，陈和 Gangopadhyay 认为，当正确使用时，AI 可以帮助缓解这些问题。

陈和 Gangopadhyay 在他们的文章中解释，AI 所带来的隐私风险来自至少两个不同的来源。第一个来源是用于训练神经网络模型的庞大数据集，而第二个隐私威胁是模型本身。数据可能会从这些模型中“泄露”，模型的行为可能会泄露训练数据的细节。

深度神经网络由多个神经元层组成，每个层与周围的层连接。每个神经元以及神经元之间的连接都编码了不同部分的训练数据。模型可能过于擅长记住训练数据的模式，即使模型没有过度拟合。训练数据的痕迹存在于网络中，恶意行为者可能能够推断出训练数据的某些方面，如康奈尔大学 的一项研究 所发现的。康奈尔研究人员发现，面部识别算法可能被攻击者利用来揭示哪些图像和哪些人被用于训练面部识别模型。即使攻击者没有访问原始模型的权限，攻击者仍可能能够探测网络并确定某个人是否被包含在训练数据中，只需使用在高度相似数据上训练的模型。

一些 AI 模型目前正在被用来保护数据泄露和确保人们的隐私。AI 模型经常被用来检测黑客攻击，通过识别黑客用来渗透安全方法的行为模式。然而，黑客经常改变他们的行为以试图欺骗模式检测 AI。

新的 AI 训练和开发方法旨在使 AI 模型和应用程序对黑客方法和安全规避策略更具抵抗力。对抗性学习旨在训练 AI 模型使用模拟的恶意或有害输入，使模型对利用更加稳健，因此得名“对抗性”。根据陈和 Gangopadhyay 的说法，他们的研究 已经发现 方法来对抗旨在窃取人们私人信息的恶意软件。两位研究人员解释说，他们发现最有效的方法之一是将不确定性引入模型。目标是使恶意行为者更难预测模型将如何对任何给定输入做出反应。

使用 AI 保护隐私的其他方法包括在创建和训练模型时最小化数据暴露，以及探测以发现网络漏洞。当谈到保护数据隐私时，联邦学习可以帮助保护敏感数据的隐私，因为它允许模型在不将训练数据离开包含数据的本地设备的情况下进行训练，从而隔离数据和模型的大部分参数以防止窥探。

最终，陈和 Gangopadhyay 认为，虽然 AI 的普及已经创造了新的对人们隐私的威胁，但当以关心和考虑设计时，AI 也可以帮助保护隐私。