艾丽莎·辛普森·罗奇韦格，现实世界人工智能的共同作者 – 采访系列

艾丽莎·罗奇韦格是一位以客户为中心的产品领导者，致力于打造能够解决实际问题的产品。她曾在多家机器学习组织担任过多个产品领导职位，包括Figure Eight（被Appen收购）的产品副总裁，Appen的AI和数据副总裁，以及IBM Watson的产品总监。最近，她离开了这个领域，去追求利用技术改善医疗保健的梦想。目前，她担任Blue Shield of California的产品总监，在那里她被大量的数据、艰难的问题和改善的机会所包围。

我们讨论了她的新书： 现实世界的人工智能：机器学习的实用指南

在书的介绍中，您描述了如何在IBM担任产品经理时，首次遇到了人工智能系统提供偏见信息的问题，当时算法将一位坐在轮椅上的人的照片归类为“失败者”。这对您来说是一个多大的警醒，关于人工智能偏见的问题？

我不会把它称为一个警醒，而是我第一次构建机器学习产品（我刚刚进入这个角色几个月）时，我还不了解这项技术的工作原理，以至于无法有效地防止不想要的偏见。这是一次开眼界的经历，它让我更加关注这个问题 – 并且让我更加意识到，在未来，我需要积极地减轻偏见。公平、可及性和包容性是我热衷的主题 – 并且我已经关注了很长时间 – 我甚至在大学里因为我对残疾学生的倡导而获得了一项奖项。在IBM的经历帮助我从技术角度理解了如何容易地将社会偏见编码到机器学习产品中，如果团队没有积极地减轻偏见。我很高兴能够在一个关心公平和投入资源减轻偏见的机构工作。

您在研究和撰写这本书的过程中，个人上有什么收获？

从个人角度来说，我不得不在换工作、有一个1岁的孩子、同时应对COVID的情况下，挤出时间来写这本书。我学会了如何优先安排时间来完成这本书，以及如何向家人寻求帮助，这样我就可以专心写书。

从专业角度来说，能够有这么多参与者愿意与我们分享他们的故事，这真是太好了。我的经验是，机器学习专业人士是一群非常有思想和慷慨的人，愿意帮助他人，分享他们的经验和教训。不幸的是，很多这些故事由于担心公开内部信息而没有被收录在这本书中，或者不得不被匿名化。虽然这可能是正常的，但我个人认为这是遗憾的 – 我相信从过去的经验和错误中学习和成长是非常重要的，如果这些经验和错误可以帮助他人，那就更好了。

您希望读者从这本书中得到什么最重要的启示？

我希望读者能够明白，机器学习并不是特别可怕或难以理解的东西。它是一种强大但有时脆弱的技术，需要指导和结构才能成功地解决艰难的问题。同时，负责任地使用这项技术对于成熟和成功至关重要 – 关注早期减轻有害偏见对于商业成功至关重要。

书中提到的一個人工智能性别偏见的例子是苹果信用卡向女性发放的信用额度低于男性。这是因为省略性别选项没有考虑到其他可能作为性别代理的变量。这个例子表明，没有“性别”输入，无法确定结果是否存在偏见，直到最终产品发布后。您认为在避免性别或少数群体偏见时，什么样的数据输入不应该被省略？

没有硬性规定 – 每个数据集、用例和情况都是不同的。我建议从业者深入了解机器学习算法被应用来解决的问题的细节，并考虑可能编码到决策中的有害偏见。对于每个问题和用例，了解细节和复杂性是至关重要的，以确保公平和包容性。

书中提到，人工智能团队的主要责任是与业务团队进行沟通，明确定义重要的结果。在您看来，企业在这方面失败的频率有多高？

根据我的经验，大多数时候，结果要么没有被定义，要么只被定义在高层次上。明确定义具体结果是确保团队早期成功的关键一步。

书中强调，人工智能系统不是“设置并忘记”的系统。您能否简要讨论一下这个观点？

这是大多数公司在将新机器学习系统投入生产时犯的经典错误。现实是会发生变化 – 时间的流逝，昨天的真相可能不再适用于今天。根据情况的不同，能够从新的信息中学习和调整决策以做出更好的选择是至关重要的。

基于机器学习的产品本质上是决策者。可以将其与一个高风险足球比赛中的裁判相比 – 即使是经验丰富的裁判，有时也会做出错误的判决，或者需要回顾录像并咨询其他裁判才能做出决定。同样，机器学习产品需要反馈、训练和新的信息来改进其决策。一个好的裁判会随着时间的推移而学习和改进其判断力。

您能否谈谈创建一个跨职能团队来识别哪些问题最适合使用人工智能的重要性？

机器学习技术通常适用于特定的、具有挑战性的问题，这些问题不能通过其他方法解决。任何具有挑战性的问题都需要一个团队来解决它。当公司刚刚开始使用人工智能时，往往存在这样的误解：一个单独的机器学习科学家或团队可以独自解决问题。我从未发现这种情况是真的。解决具有挑战性的问题和将机器学习技术成功部署到生产环境中需要一个具有不同背景和方法的团队。

感谢这次精彩的采访，对于有兴趣了解更多的读者（尤其是商业高管），我推荐阅读这本书 现实世界的人工智能：机器学习的实用指南。