朱丽叶特·鲍威尔和阿特·克莱纳，The AI Dilemma 作者 – 采访系列

《The AI Dilemma》由朱丽叶特·鲍威尔和阿特·克莱纳撰写。

朱丽叶特·鲍威尔 是一位作者、电视节目创作者（拥有9000场直播节目经验）和技术专家、社会学家。她也是彭博电视台/商业新闻网络的评论员，并在经济学人和国际金融公司组织的会议上发言。她的TED演讲在YouTube上有13万次观看。朱丽叶特发现了成功的企业领导者在利用道德AI和数据方面的模式和实践。她在纽约大学的ITP任教，教授四门课程，包括《负责任媒体的设计技能》（Design Skills for Responsible Media），这门课程基于她的书籍。

阿特·克莱纳 是一位作家、编辑和未来学家。他的著作包括《异端者的时代》、《谁真正重要》、《特权和成功》和《智者》。他曾是普华永道出版的获奖杂志strategy+business的编辑。阿特也是纽约大学ITP和IMA的长期教师，他的课程包括与朱丽叶特·鲍威尔共同教授《负责任的技术和媒体的未来》。

“《The AI Dilemma》“是一本专注于AI技术在错误使用时的危险，同时也承认AI为社会带来的益处的书籍。

问题出现是因为底层技术太复杂，以至于对于最终用户来说，理解一个封闭系统的内部工作机制变得不可能。

其中一个最重要的问题是，负责任的AI的定义总是在变化，因为社会价值观通常不会随着时间的推移而保持一致。

我很享受阅读《The AI Dilemma》。这本书没有耸人听闻地描述AI的危险，也没有深入探讨人工通用智能（AGI）的潜在陷阱。相反，读者了解到我们个人数据被使用的惊人方式，以及一些当前的AI限制和令人担忧的原因。

以下是一些问题，旨在向我们的读者展示他们可以从这本开创性的书中期待什么。

是什么最初激发了你们写《The AI Dilemma》的灵感？

朱丽叶特曾在哥伦比亚大学学习AI的监管限制和可能性。她从朋友那里听说过AI项目中的紧张关系，并得出结论，存在一个比自我监管更大的问题——AI困境。她开发了Apex基准模型——一个关于AI决策的模型，表明由于公司和公司内部团体之间的相互作用，AI决策往往趋向于低责任。这导致了她的论文。

阿特曾与朱丽叶特合作过多个写作项目。他读了她的论文，说：“你有了一本书。”朱丽叶特邀请他作为共同作者。在合作过程中，他们发现自己有着不同的观点，但都认为这个复杂、风险很高的AI现象需要被更好地理解，以便人们能够更负责任、更有效地使用它。

《The AI Dilemma》中强调的一个基本问题是，仅通过研究AI系统的源代码，无法确定该系统是否负责任，或者是否会延续社会不平等。这个问题有多大？

问题不主要在于源代码。正如凯西·奥尼尔指出的，当存在一个封闭系统时，不仅仅是代码，还有社会技术系统——塑造彼此的技术和人类力量——需要被探索。构建和发布AI系统的逻辑包括确定目的、确定数据、设置优先级、创建模型、设置机器学习的指南和护栏，并决定何时和如何进行人工干预。这部分需要被透明化——至少对于观察者和审计员来说。社会不平等和其他风险的可能性更大，当这些过程的部分被隐藏时。从源代码中无法真正重新设计逻辑。

专注于可解释的AI（XAI）是否可以解决这个问题？

对于工程师来说，可解释的AI目前被认为是一组技术约束和实践，旨在使模型对工程师更透明。对于被错误指控的人来说，可解释性有着不同的意义和紧迫性。他们需要可解释性来为自己辩护。我们都需要可解释性，以使模型背后的商业或政府决策更加清晰。至少在美国，总会存在可解释性和组织竞争和创新权之间的紧张关系。审计员和监管机构需要不同的可解释性水平。我们在《The AI Dilemma》中对此进行了更详细的讨论。

您能简要分享一下您对让利益相关者（AI公司）对其发布的代码负责的重要性的看法吗？

例如，在亚利桑那州坦佩的自动驾驶汽车碰撞事件中，操作员被追究责任。一个人入狱。然而，最终，这是一个组织性的失败。

当一座桥梁倒塌时，机械工程师会被追究责任。这是因为机械工程师经过培训、不断培训，并被其职业所追究责任。计算机工程师则没有。

利益相关者，包括AI公司，是否应该接受培训和再培训，以便更好地做出决定并承担更多责任？

《The AI Dilemma》重点介绍了像谷歌和Meta这样的公司如何收集和利用我们的个人数据。您能分享一个显著的数据滥用例子，应该让每个人都警惕吗？

从《The AI Dilemma》第67页开始：

个人数据滥用的新案例不断被曝光，许多案例涉及面部识别的隐蔽使用。2022年12月，MIT技术评论发表了iRobot公司长期以来的一种做法的报道。Roomba家用机器人记录了在测试者的家中拍摄的图像和视频，这无可避免地意味着收集了亲密的个人和家庭相关图像。这些图像被分享给了测试者不知情的外国团体。在至少一个案例中，一张一个人在厕所上的图像被发布在Facebook上。与此同时，在伊朗，政府开始使用面部识别系统来追踪和逮捕不戴头巾的女性。没有必要进一步详细说明这些故事。重要的是要确定这种生活方式的累积效应。当我们觉得我们的私人信息可能在任何时候、没有任何警告地被用于对付我们时，我们会失去对生活的控制感。

一个危险的概念是，我们的整个世界被设计成无摩擦的，摩擦的定义是“客户在公司的任何一个环节遇到障碍，减慢速度或引起不满”。我们对无摩擦体验的期望如何可能导致危险的AI？

在新西兰，一个Pak’n’Save的智能机器人建议了一种食谱，如果使用，会产生氯气。这被宣传为一种让顾客使用剩余食物和节省钱的方法。

无摩擦性制造了控制的幻觉。听从应用程序比查找祖母的食谱更快、更容易。人们遵循最小阻力之路，却不知道它会把他们带到哪里。摩擦则是创造性的。你会参与其中。这带来了真正的控制。真正的控制需要注意力和工作——在AI的例子中，需要进行广泛的成本效益分析。

随着控制的幻觉，我们似乎生活在一个AI系统提示人类，而不是人类完全控制的世界。您能给出一些人类集体认为自己有控制权，但实际上没有控制权的例子吗？

旧金山现在有自动驾驶出租车。自动驾驶出租车的想法会引起两种相互矛盾的情绪：兴奋（“出租车费用更低！”）和恐惧（“会撞到我吗？”）。因此，许多监管机构建议在测试中让人坐在车里，以便在需要时控制车辆。遗憾的是，让人类处于警戒状态，随时准备在实时中覆盖系统，可能不是公共安全的良好测试。过度自信是AI系统中经常出现的动态。系统越自动化，人类操作员就越倾向于相信它，不会全神贯注地监视。当事故即将发生时，我们不会预料到，也往往没有足够的时间反应。

在研究这本书的过程中，有什么让你感到惊讶的东西吗？

真正让我们惊讶的一件事是，来自世界各地的人们无法就谁应该活谁应该死在《道德机器》模拟的自动驾驶汽车碰撞中达成一致。如果我们无法在这个问题上达成统一的全球治理或AI系统的通用标准，那么很难想象我们能够达成一致的意见。

你们都将自己描述为企业家，你们从这本书中学到的东西将如何影响你们未来的努力？

我们的AI咨询业务致力于帮助组织负责任地使用该技术。律师、工程师、社会科学家和商业思想家都是AI未来的利益相关者。在我们的工作中，我们将所有这些观点结合起来，并通过创造性摩擦来寻找更好的解决方案。我们开发了像故意风险的微积分这样的框架来帮助应对这些问题。感谢你们的精彩答案，希望了解更多的读者可以访问《The AI Dilemma》。