威特沃大学博士生贝利·卡斯马尔 – 采访系列

贝利·卡斯马尔是威特沃大学计算机科学学院的博士生，也是阿尔伯塔大学即将到来的教师。她的研究兴趣在于开发用户意识的隐私增强技术，通过并行研究技术方法和用户对这些技术的认知、担忧和理解。她的工作旨在确定机器学习应用中隐私的潜力和局限性。

您的研究兴趣在于开发用户意识的隐私增强技术，为什么在人工智能中隐私如此重要？

人工智能中的隐私非常重要，主要是因为人工智能在我们的世界中不可能没有数据。数据虽然是一个有用的抽象概念，但最终是描述人和他们的行为的。我们很少处理关于树木种群和水位的数据；因此，每当我们处理可能影响真实个人的数据时，我们需要意识到这一点，并了解我们的系统如何做好事或造成伤害。这在人工智能中尤其重要，因为许多系统从大量数据中受益，或者希望使用高度敏感的数据（如健康数据）来开发对我们世界的新理解。

您曾经看到机器学习如何违反用户的隐私？

违反是一个强烈的词语。然而，每当一个系统在未经用户同意、未告知用户、未考虑潜在危害的情况下使用关于个人的信息时，它就有可能违反个人的或社会的隐私规范。基本上，这导致了成千上万的小错误。这种做法可能包括在未告知用户的情况下训练模型在用户的电子邮件收件箱、短信或健康数据上；所有这些都没有告知数据主体。

您能定义什么是差异性隐私，以及您对它的看法是什么？

差异性隐私是一种定义或技术，近年来在技术隐私领域中崭露头角。技术定义的隐私通常包括两个关键方面：保护什么和从谁保护。在技术隐私中，隐私保证是基于一系列假设实现的保护，包括潜在的对手、系统复杂性或统计学。它是一种非常有用的技术，具有广泛的应用。然而，需要记住的是，差异性隐私并不等同于隐私。

隐私并不局限于一个定义或概念，重要的是要意识到超出此定义的其他概念。例如，情境完整性是一种考虑到不同应用或组织如何改变个人在特定情况下的隐私认知的隐私概念。还有法律概念的隐私，如加拿大的PIPEDA、欧洲的GDPR和加利福尼亚的消费者保护法（CCPA）。所有这些都是为了说明，我们不能将技术系统视为存在于一个与其他隐私因素隔离的真空中，即使使用了差异性隐私。

另一种增强隐私的机器学习类型是联邦学习，您如何定义它，以及您对它的看法是什么？

联邦学习是一种机器学习方式，当模型需要在分布在多个所有者或位置的数据集集合上进行训练时使用。它本身并不是一种增强隐私的机器学习类型。增强隐私的机器学习类型需要正式定义什么被保护、谁被保护以及必须满足的条件。例如，当我们考虑一个简单的差异性隐私计算时，它保证查看输出的人无法确定某个数据点是否被贡献。

进一步来说，差异性隐私并不保证如果数据点之间存在相关性，则无法保证这一点。联邦学习没有这一特性；它只是在不需要数据持有者直接提供其数据集给对方或第三方的情况下训练模型。虽然听起来像是一个隐私特性，但需要正式的保证，即无法从中间方和输出中学习受保护的信息，尤其是在联邦环境中，所有提供数据用于训练集体模型的方都是不受信任的方。

这些方法的当前限制是什么？

当前限制可以被描述为隐私-实用性权衡的性质。即使您做了其他一切事情，向受影响者传达隐私影响、评估系统以确定您要做什么、等等，所有这些最终都归结为实现完美隐私意味着我们不会创建系统，实现完美实用性通常不会有任何隐私保护，因此问题是如何确定“理想”的权衡点。如何找到正确的平衡点并朝着它努力，以便我们仍然实现所需的功能，同时提供必要的隐私保护。

您目前旨在通过并行研究技术解决方案来开发用户意识的隐私技术。您能详细介绍一些这些解决方案吗？

我所说的这些解决方案是，我们可以开发任何数量的技术隐私系统。然而，在这样做时，确定隐私保证是否达到影响者是非常重要的。这可能意味着在找到受影响人群重视的保护类型后开发系统。这可能意味着在找到人们在现实威胁和风险考虑下实际使用系统的方式后更新系统。技术解决方案可能是一个满足我之前提到的定义的正确系统。用户意识的解决方案将根据用户和其他受影响者的输入设计其系统，考虑到预期应用领域。

您目前正在寻找有兴趣的研究生，以便于2024年9月开始，为什么您认为学生应该对人工智能隐私感兴趣？

我认为学生应该对此感兴趣，因为它将在我们的社会中变得越来越普遍。要了解这些系统的快速发展，只需看看最近的Chat-GPT通过新闻文章、社交媒体和关于其影响的辩论。我们生活在一个数据的收集和使用已经深深融入我们的日常生活的社会中，我们几乎不断地向各种公司和组织提供关于自己的信息。这些公司希望使用这些数据，有时是为了改善服务，有时是为了利润。在这一点上，认为这些公司的数据使用行为会改变似乎是不现实的。然而，存在保护用户同时允许公司进行某些分析的隐私保护系统，可以帮助平衡已经成为我们社会中隐含部分的风险-回报权衡。

感谢这次精彩的采访，感兴趣的读者可以访问贝利·卡斯马尔的Github页面以了解更多信息。