Alyssa Simpson Rochwerger，实用人工智能的共同作者 – 采访系列

Alyssa Rochwerger是一位以客户为中心的产品领导者，致力于打造能够解决真实问题的产品。她曾在多家机器学习组织担任过多个产品领导角色，包括Figure Eight（被Appen收购）的产品副总裁，Appen的AI和数据副总裁，以及IBM Watson的产品总监。她最近离开了这个领域，追求利用技术改善医疗保健的梦想。目前，她担任Blue Shield of California的产品总监，在那里她被大量的数据、许多艰难的问题和无数的机会所包围，以产生积极的影响。

我们讨论了她的新书：人工智能的真实世界：负责任的机器学习实用指南

在书的介绍中，您描述了如何作为IBM的产品经理，您第一次遇到了人工智能系统提供偏见信息的问题，当时一个坐在轮椅上的人的图片被算法归类为“失败者”。这对您来说是一个多大的警醒，关于人工智能偏见的问题？

我不会称之为警醒，而是我第一次构建基于机器学习的产品（我刚刚进入这个角色几个月），我还不知道如何运用这项技术来适当地防止和减轻不想要的偏见。这是一个令人开眼界的经历，它使我更加关注这个问题，并使我更加意识到在未来要积极地减轻偏见。公平、可及性和包容性是我热衷的主题，我在大学里曾因为残疾学生的倡导而获得过奖项。在IBM的经历帮助我从技术角度理解，社会偏见如何轻易地被编码到基于机器学习的产品中，如果团队不积极地减轻偏见的话。我很高兴能够在一个关心公平和投入资源以减轻偏见的机构工作。

您在研究和撰写这本书的过程中，个人上有什么收获？

从个人角度来说，我不得不在换工作、有一个1岁的孩子、同时应对COVID的情况下，挤出时间来写这本书。我学会了如何优先安排时间来完成这项任务，以及如何向家人寻求帮助，这使我能够专心写书。

从专业角度来说，能够有这么多参与者愿意和我们分享他们的故事以供出版，这是一件很棒的事情。根据我的经验，机器学习专业人员是一群非常有思想和慷慨的人，他们愿意帮助他人并分享他们的错误和经验。遗憾的是，很多这样的经验故事没有被收录到这本书中，或者不得不被匿名化，因为公司或个人可能会因为这些信息被误解而受到影响。虽然这确实是常见的做法，但我个人觉得这很遗憾——我相信，从错误和经验中学习和成长是非常重要的，如果这些经验能够帮助他人，那就更好了。

您希望读者从这本书中获得的最重要的经验是什么？

我希望读者能够了解，机器学习并不神秘或难以理解。这是一种强大的技术，但有时也很脆弱，需要指导和结构来成功解决问题。同时，负责任地使用这项技术对于成熟和成功至关重要，早期关注减轻有害偏见对于商业成功也非常关键。

书中提到的一例人工智能性别偏见是苹果信用卡向女性发放的信用额度低于男性。这是一个例子，展示了如何省略性别选项而未能考虑到其他可能作为性别代理的变量。这个例子展示了，在没有“性别”输入的情况下，直到最终产品发布后，才无法确定结果是否存在偏见。您认为什么样的数据输入应该永远不被省略，以避免对性别或少数群体的偏见？

没有硬性规定，每个数据集、用例和情况都不同。我会鼓励实践者深入了解机器学习算法被应用来解决什么问题，以及什么样的有害偏见可能被编码到这个决策中。

这本书描述了与人工智能团队沟通的主要责任，即精确定义对业务重要的结果。在您看来，企业在这项任务中失败的频率有多高？

根据我的经验，我会说大多数时候，结果要么没有被定义，要么只被定义在一个松散或高层次的水平。深入了解具体的结果是一个简单的方法，可以让团队在早期就取得成功。

这本书强调了认识到人工智能系统不是“设置并忘记”的类型的系统的重要性。您能否简要讨论一下这一点？

这是大多数公司在推出新的人工智能系统到生产时都会犯的经典错误。现实是会改变的，时间会流逝，昨天（训练数据）成立的东西可能在今天不成立。这取决于您的具体情况，但在大多数情况下，能够学习、调整并根据最近的信息做出更好的决策是非常重要的。

基于机器学习的产品本质上是决策者。为了用人类的例子来比喻，它就像一场高风险足球比赛中的裁判。很多时候，如果裁判训练有素、经验丰富，裁判会做出一个好的决定，比赛就会继续下去——但有时，裁判会做出一个坏的决定，或者不知道该怎么决定——需要回去查看录像，向其他人寻求帮助，以便对某个具体的动作做出决定。同样，基于机器学习的产品需要反馈、训练，有时也需要有备用选项来回退，以及新的信息来学习，以便随着时间的推移而改进。一个好的裁判会随着时间的推移而变得更好，做出更好的判断。

您能否谈谈创建一个跨职能团队来确定哪些问题最适合使用人工智能来解决的重要性？

机器学习技术通常适用于非常难以解决的特定问题，这些问题不能通过其他方法解决。任何难以解决的问题都需要一个团队来成功解决。当公司刚刚开始使用人工智能时，往往存在一个错误的说法，即一个孤独的机器学习科学家，甚至机器学习团队可以独自解决问题。我从未发现这是真的。需要一个具有不同背景和方法的团队来解决一个难以解决的问题，当然，也需要一个团队来部署机器学习技术并成功地将其应用到生产中。

感谢这次精彩的采访，对于读者（尤其是商业高管）感兴趣的人，我推荐他们阅读这本书人工智能的真实世界：负责任的机器学习实用指南。