Roshanak Houmanfar，Integrate.ai 机器学习产品副总裁 – 采访系列

Roshanak (Ro) Houmanfar 是 Integrate.ai 的机器学习产品副总裁，Integrate.ai 是一家帮助开发人员解决世界上最重要问题而不冒险泄露敏感数据的公司。Ro 有一种特殊的才能，可以找到新的方法来简化复杂的 AI 概念并将其与用户需求联系起来。利用这种专业知识，她是 Integrate.ai 使命的前沿，旨在使隐私增强技术的访问更加民主化。

您最初是什么吸引您进入数据科学和机器学习的？

我从机器人领域开始我的旅程。在尝试了机器人领域的不同角度，并烧毁了一个焊接实验室之后，我得出结论，我更倾向于人工智能方面的领域，这让我进入了机器学习的美妙世界。

您能否描述您的当前角色以及您的一天通常是什么样的？

我是 Integrate.ai 的产品副总裁，Integrate.ai 是一家 SaaS 公司，帮助开发人员解决世界上最重要的问题而不冒险泄露敏感数据。我们正在构建用于分布式数据的隐私安全机器学习和分析工具。

在我的日常工作中，我与我们的团队跨功能合作，以实现三件事：

思考未来智能可能是什么样的以及我们如何塑造这种未来，以便智能解决最关键的问题

了解我们的客户的痛点以及我们如何创新使他们的工作更加有效

确保我们的愿景和客户反馈始终被纳入产品开发中，与我们的团队合作以交付最佳功能

合成数据目前在机器学习中非常流行，但 Integrate.ai 采取了一种相反的方法。合成数据可能不适合哪些应用场景？

为了了解何时合成数据不是最佳解决方案，首先需要了解何时它是最佳解决方案。合成数据最适合用于目标建模只有少量或没有真实数据可用的情况，例如冷启动问题和基于文本和图像的模型训练。有时，根本没有足够的数据来训练模型，这时合成数据就成为解决方案。

然而，合成数据越来越多地被用于有大量真实数据可用的情况，但由于隐私法规、集中成本或其他互操作性障碍，这些数据被隔离。这是对合成数据的滥用。在这些用例中，很难确定合成数据创建的正确抽象级别，从而导致合成数据质量低下，可能会引入固有的偏差或其他问题，这些问题很难调试。另外，使用合成数据训练的模型与使用真实、高质量、细粒度源数据训练的模型相比，性能不佳。

Integrate.ai 专门提供联邦学习解决方案，您能否描述一下联邦学习是什么？

在传统的机器学习中，所有模型训练数据必须集中在一个数据库中。使用联邦学习，模型可以在去中心化、分布式数据集上进行训练，即数据位于两个或多个单独的数据库中，无法轻松移动。其工作原理是模型的部分在数据所在位置进行训练，模型参数在参与数据集中共享以产生改进的全局模型。由于系统内没有数据移动，组织可以在没有隐私和安全法规、成本或其他集中问题的障碍的情况下训练模型。

一般来说，联邦学习中可访问的训练数据质量更高，因为集中数据往往会在易于访问的代价下失去一些细粒度。

企业如何确定联邦学习的最佳用例？

联邦学习是一种机器学习技术，适用于难以访问数据或将数据带入传统机器学习基础设施的集中式数据湖的场景。如果您遇到以下任何症状，联邦学习适合您：

• 您提供由分析和机器学习驱动的智能产品，但由于数据归客户所有，您无法为产品创建网络效应。
• 您正在处理漫长的服务协议或数据共享协议，以便从合作伙伴处获取数据。
• 您正在花费大量时间与合作伙伴形成合作协议，特别是在数据合作伙伴关系的结果不明确的情况下。
• 您拥有大量数据，并希望将其数据集货币化，但由于对其声誉的影响而担心。
• 您已经在货币化您的数据，但您正在花费大量时间、精力和金钱使数据安全共享。
• 您的基础设施在向云迁移的过程中已经过时，但您仍需要分析和机器学习。
• 您有许多子公司属于同一组织，但它们无法直接共享数据。
• 您处理的数据集太大或太昂贵，无法移动，因此您决定不使用它们，或者您的 ETL 管道的成本很高。
• 您有一个应用程序或机会，您认为它可以产生重大影响，但您没有足够的数据来实现它。
• 您的机器学习模型已经达到瓶颈，您不知道如何进一步改进它们。

差分隐私通常与联邦学习一起使用，差分隐私具体是什么？

差分隐私是一种确保隐私同时利用机器学习力量的技术。使用标准去识别技术不同的数学，差分隐私在本地模型训练期间添加噪音，保留大部分数据集的统计特征，同时限制任何个人的数据被识别的风险。

在理想的实现中，差分隐私将风险降低到几乎为零，同时机器学习模型保持类似的性能，提供了所有必要的安全性以使数据去识别，而不会降低模型结果的质量。

差分隐私默认包含在 Integrate.ai 的平台中，因此开发人员可以确保个别数据不能从他们的模型参数中推断出来。

您能否描述 Integrate.ai 的联邦学习平台的工作原理？

我们的平台利用联邦学习和差分隐私技术来解锁一系列机器学习和分析功能，这些功能通常由于隐私、保密或技术障碍而无法访问数据。操作，例如模型训练和分析，在本地执行，只有最终结果以安全和保密的方式聚合。Integrate.ai 以开发人员工具包装，允许开发人员使用简单的软件开发工具包 (SDK) 和支持云服务实现这些功能的无缝集成。平台集成后，终端用户可以在敏感数据集上进行协作，同时数据管理员保持对数据的完全控制。集成了 Integrate.ai 的解决方案可以用作有效的实验工具和生产就绪服务。

该平台在精准诊断中可以以哪些方式使用？

我们合作的网络之一，Autism Sharing Initiative，收集有关自闭症诊断以及基因组数据样本的信息，以了解不同基因型和表型与自闭症诊断的关系。每个个别数据站点没有足够的数据集来使机器学习模型高效运行，但集体地，他们创建了一个有意义的样本大小。然而，移动数据存在高安全性和隐私风险，并且由于法规和医院政策，这些研究机构一直默认不共享数据。

在一个不同的网络中，具有类似设置的研究人员有兴趣使用对每个患者的历史的更全面的了解来改进将临床试验分配给患者的方法。

参与的不同研究机构可以访问有关每个患者的不同信息——一个实验室可以访问他们的医疗扫描，另一个实验室可以访问他们的基因组信息，另一个机构可以访问他们的临床试验结果。但是，这些不同的组织无法直接共享信息。

使用 Integrate.ai 的解决方案，每个组织都可以在不将数据从数据管理员那里移动的情况下访问彼此的数据以实现他们的目标，同时遵守他们的内部政策。

您能否讨论使隐私可理解的重要性以及 Integrate.ai 如何实现这一点？

使隐私可理解意味着为历史上由于风险的模糊性而关闭的企业和组织打开了很多大门。像 GDPR、CCPA 和 HIPPA 这样的隐私法规非常复杂，并且可能根据行业、地区和数据类型而有所不同，使得组织难以确定哪些数据项目是隐私安全的。与其浪费时间和人力检查每个复选框，Integrate.ai 的联邦学习平台提供了默认的差分隐私、同态加密和安全多方计算，因此开发人员和数据管理员可以放心地知道他们的项目将自动遵守法规要求，而无需跳过每个分类的环节。

您是否还有其他关于 Integrate.ai 的信息想要分享？

Integrate.ai 的解决方案是一种非常适合开发人员的工具，允许在敏感数据源上进行合规、隐私保护和安全的机器学习和分析。通过简单易用的 API，所有与敏感数据相关的复杂的法规遵从性和合同问题都被抽象掉了。Integrate.ai 的解决方案允许数据科学家和软件开发人员安全地管理他们的工作负载，并且对他们的当前基础设施和工作流程的影响最小。

感谢这次精彩的采访，希望了解更多的读者可以访问 Integrate.ai 的网站。