研究人员认为人工智能可以用来帮助保护人们的隐私

两位信息科学教授最近在The Conversation上发表了一篇文章，认为人工智能可以帮助保护人们的隐私，弥补人工智能带来的问题。

陈志远和阿里亚·甘戈帕迪亚认为，人工智能算法可以用来保护人们的隐私，抵消其他人工智能应用带来的隐私问题。陈和甘戈帕迪亚承认，许多人工智能驱动的产品需要访问大量数据才能正常工作，这似乎与保护隐私的目标相矛盾。另外，随着人工智能在更多行业和应用中普及，更多数据将被收集和存储在数据库中，使得数据库泄露变得更加诱人。然而，陈和甘戈帕迪亚认为，人工智能可以帮助缓解这些问题，当人工智能被正确使用时。

陈和甘戈帕迪亚在他们的文章中解释说，人工智能带来的隐私风险来自至少两个不同的来源。第一个来源是用于训练神经网络模型的庞大数据集，而第二个隐私威胁是模型本身。数据可能会从这些模型中“泄露”，模型的行为可能会泄露训练数据的细节。

深度神经网络由多个层次的神经元组成，每个层次都与周围的层次相连。每个神经元以及神经元之间的连接都对训练数据的不同部分进行编码。模型可能会过于擅长记住训练数据的模式，即使模型没有过拟合。训练数据的痕迹存在于网络中，恶意行为者可能会通过某种方式推断出训练数据的某些方面，如康奈尔大学在一项研究中发现的那样。康奈尔大学的研究人员发现，面部识别算法可以被攻击者利用来揭示用于训练面部识别模型的图像和人。即使攻击者没有访问原始模型的权限，攻击者仍然可以通过使用在高度相似数据上训练的模型来探测网络并确定特定的人是否被包含在训练数据中。

一些人工智能模型目前被用来保护数据泄露和确保人们的隐私。人工智能模型经常被用来检测黑客攻击，通过识别黑客用来渗透安全方法的行为模式。然而，黑客经常改变他们的行为以试图欺骗模式检测人工智能。

新的人工智能训练和开发方法旨在使人工智能模型和应用程序对黑客方法和安全规避策略更具抵抗力。对抗性学习旨在训练人工智能模型以模拟恶意或有害输入，使模型对利用更加稳健。根据陈和甘戈帕迪亚的说法，他们的研究发现了一种方法来对抗旨在窃取人们私人信息的恶意软件。两位研究人员解释说，他们发现最有效的方法之一是向模型中引入不确定性。目标是使恶意行为者更难预测模型将如何对任何给定输入做出反应。

使用人工智能保护隐私的其他方法包括在创建和训练模型时最小化数据暴露，以及探测网络的漏洞。当谈到保护数据隐私时，联邦学习可以帮助保护敏感数据的隐私，因为它允许模型在不离开包含数据的本地设备的情况下进行训练，从而保护数据和模型参数免受窥探。最终，陈和甘戈帕迪亚认为，虽然人工智能的普及已经创造了新的对人们隐私的威胁，但人工智能也可以在设计时帮助保护隐私，考虑到相关因素。