Reid Blackman, Ph.D, Virtue Consultants 的创始人和 CEO – 采访系列

Reid Blackman 是 Virtue Consultants 的创始人和 CEO。在这个角色中，他与公司合作，将道德和伦理风险缓解融入公司文化和新兴技术产品的开发、部署和采购中。他也是安永的高级顾问，并担任他们的人工智能咨询委员会成员，也是 IEEE 的道德设计倡议成员。

Reid 的工作曾被《华尔街日报》和戴尔观点报道，他也为哈佛商业评论、TechCrunch、VentureBeat 和风险与合规杂志撰写过文章。他曾被多篇新闻文章引用，并经常在世界经济论坛、SAP、戛纳电影节、福布斯、纽约大学斯特恩商学院、哥伦比亚大学和 AIG 等场合发表演讲。

您曾于 2009 年至 2018 年在 Colgate 大学担任哲学教授。在什么时候开始将人工智能伦理纳入您的课程中？

我经常教授社会和政治哲学课程，其中包括马克思的内容。马克思的一个中心论点是，资本主义最终将让位于共产主义，这是由于“生产手段”的大幅增加所致。换句话说，资本主义以竞争和开拓新市场的名义推动效率的提高，这意味着能够在更短的时间内生产出更多产品的技术的创造将会增加。马克思还预测，这将使财富集中在少数人手中，并将更多的人推入贫困线，从而导致资本主义结构被日益增长的贫困大众领导的革命所推翻。所有这些都围绕着技术使人类劳动变得不必要的伦理问题展开，这是人工智能伦理的一个核心要素。

如果你感兴趣的话，有一个小插曲：2002 年，我是西北大学的研究生，带领一群本科生讨论马克思的理论。有一次，一个学生举手说：“最终我们不需要人类来做任何工作。”整个班级都很困惑，我也很困惑。所以我说：“那谁来做工作呢？”他以非常平淡的语气回答说：“机器人。”整个班级都爆发出笑声，我也忍不住笑了。但很明显，谁最后笑到了最后。

2018 年，您创立了 Virtue Consultants，一家道德咨询公司，帮助数据和人工智能领导者识别和缓解其产品的伦理风险。是什么启发您开始这段创业之旅？

嫉妒。算是吧。我在研究生时期，大约 2003 年或 2004 年，创办了一家烟花批发公司。结果比我预期的好，现在我是公司的顾问，不再负责日常运营。这很重要，因为它解释了我如何成为 Colgate 大学创业项目（Thought Into Action，简称 TIA）的导师，该项目由两位很棒的风险投资家 Andy Greenfield 和 Wills Hapworth 领导。作为导师，我看到学生们开始了令人兴奋的项目，试图弄清楚如何建立和扩大他们的创业公司，我想：“我也想要这样！”但我的新事业是什么呢？它必须与我对哲学和伦理的热爱有关，第一个想到的就是道德咨询公司。我当时没有看到市场需求，因为那时还没有这样的市场，所以我等待了。然后，剑桥分析公司、黑人生命至上和 #MeToo 等事件登上了头条新闻，突然间，人们对道德需求的认识大大提高了。

公司引入人工智能伦理声明的重要性如何？

人工智能伦理声明并不是必不可少的，但它是一个非常有用的工具，用于设定目标。当您将人工智能伦理计划引入您的组织时，您希望它能够识别、缓解和管理各种伦理、声誉、监管和法律风险。伦理声明有助于阐明一旦您拥有基础设施、流程和实践来实现这一功能时，事情将如何展开。就像战略需要一个目标一样，人工智能伦理声明是阐明这些目标的一种很好的方式，尽管它不是唯一的方式。

公司如何确保伦理声明转化为流程和实践？

伦理声明只是朝着正确方向迈出的一小步。如果您想继续下去，下一个自然的步骤是评估您相对于声明中阐明的目标的当前状况。一旦您知道哪里存在最大的、最具风险的差距——即您最有可能未能实现目标的地方——然后您可以开始制定方案来缩小这些差距。也许是建立一个伦理委员会，或者是产品开发过程中的尽职调查。也许是改进非产品部门（如营销和人力资源）数据处理的方式。可能是所有这些以及更多。

公司可以实施什么解决方案来避免将偏见引入人工智能算法中？

有很多技术工具可以用来识别偏见，但它们是有限的。它们可以让您将模型的输出与学术机器学习伦理文献中提供的几十个量化指标进行比较，但您必须小心，因为这些指标并不相互兼容。因此，需要做出一个实质性的、伦理的决定：在这种情况下，哪一个（如果有的话）是合适的指标？

除了使用这样的工具，并以负责任的方式回答这个问题外，产品团队在开始构建之前最好思考一下偏见可能在哪里渗透进来。它可能存在于训练数据集中，或者在确定目标函数时，或者在确定阈值时。偏见可能在很多地方渗透进来。对于当前项目中可能存在的偏见进行预先思考以及如何避免它是识别和缓解偏见的必要条件。

人工智能公司往往由白人男性主导，他们可能会无意中将偏见编程到人工智能系统中。为了避免这种情况，人力资源部门应该寻找什么样的特质？

我非常支持在工程和产品团队中增加机会和多样性。话虽如此，我认为这是从错误的角度看待问题。偏见算法的主要问题不是某个白人程序员的偏见导致了偏见的代码。问题在于训练数据集是有偏见的。事实上，哥伦比亚大学的一篇最近的论文——“偏见的程序员？还是偏见的数据？人工智能伦理的操作化实验”——得出结论：“理解技术指导的程序员成功地减少了偏见”，“女性和少数族裔人工智能程序员的算法预测并不表现出更少的算法偏见或歧视。”因此，虽然人力资源部门应该关注多样性问题，但很明显，减少偏见的 AI 输出的策略不应主要（甚至专门）关注与多样性努力相关的招聘决定。

您能讨论一下什么是伦理风险尽职调查以及为什么公司应该实施它吗？

伦理风险尽职调查是尝试发现产品可能带来的各种伦理风险，包括其部署、使用和滥用等方面。您希望关注产品的特点——既包括它具有的特点，也包括它缺乏的特点——以及这些特点如何在不同情境下导致伦理错误。当做得好时，这是一种系统性和彻底的检查。当然，虽然您可以尽力预测可能出现的问题，但可能还是会有一些东西被忽略，这就是为什么持续监控很重要的原因。

至于为什么公司应该实施它，他们只需要考虑不这样做的伦理、声誉、监管和法律风险。想想 Optum 因为一个（据称）有偏见的算法而登上头条新闻并受到监管调查，这个算法建议医疗保健从业者更关注白人患者而不是更生病的黑人患者。或者想想高盛因 Apple 卡的信用限额而受到调查，据称该限额歧视女性。或者亚马逊的招聘软件因担心偏见而被废弃，甚至在部署之前。或者 IBM 因为其天气应用程序涉嫌误用数据而被洛杉矶市起诉。或者 Facebook……

您还想分享关于 Virtue Consultants 的其他信息吗？

Virtue 帮助高级领导者将人工智能伦理付诸实践，无论是教育和培训人们了解这一主题，撰写人工智能伦理声明，创建和实施可行的人工智能伦理风险框架，还是简单地担任人工智能伦理顾问。如果这听起来很有趣，人们应该过来打个招呼。

感谢这次精彩的采访，想了解更多关于 Reid 的读者可以访问 Reid Blackman，或者访问 Virtue Consultants。