Lama Nachman, 英特尔 Fellow & 预测计算实验室主任 – 采访系列

Lama Nachman, 是一位英特尔 Fellow 和预测计算实验室主任。Lama 最为人所知的是她与斯蒂芬·霍金教授的合作，她在帮助霍金教授通过计算机系统进行交流方面发挥了重要作用。如今，她正在帮助英国机器人专家彼得·斯科特-摩根（Peter Scott-Morgan）进行交流。2017 年，彼得·斯科特-摩根被诊断出患有运动神经元疾病（MND），也称为ALS 或卢·盖里格病。MND 攻击大脑和神经，最终会使所有肌肉都瘫痪，包括那些使呼吸和吞咽成为可能的肌肉。

彼得·斯科特-摩根曾经说过：“我将继续进化，作为人类死去，作为机器人活着。”

是什么吸引你来到 AI 领域？

我一直被这样一个想法所吸引：技术可以成为伟大的平等者。当负责任地开发时，它有潜力平衡竞争环境，解决社会不平等问题，并放大人类的潜力。在 AI 领域，这一点尤其明显。虽然业界大部分关于 AI 和人类的讨论都将两者之间的关系描述为对立的，但我认为机器和人类都有其擅长的领域，因此我更倾向于通过人类-AI 协作的视角来看待未来，而不是人类-AI 竞争。我领导英特尔实验室的预测计算实验室，我们的所有研究工作都集中在为广泛的社会影响提供计算创新。在 AI 已经非常普遍并且在我们生活的各个方面都有着越来越大的影响力的情况下，我认为我的团队正在进行的研究有很大的前景，可以使 AI 更加易于使用、更具上下文意识、更负责，并最终为人们提供技术解决方案来解决现实世界的问题。

您曾与传奇物理学家斯蒂芬·霍金教授密切合作，创建了一个 AI 系统来帮助他进行交流和完成大多数人认为是日常任务的工作。这些日常任务包括什么？

与斯蒂芬·霍金教授合作是我的一生中最有意义和最具挑战性的经历。这让我深刻地认识到技术可以深刻地改善人们的生活。他患有 ALS，一种退行性神经疾病，会随着时间的推移逐渐剥夺患者执行最简单活动的能力。2011 年，我们开始与他合作，探索如何改进使他能够与世界交互的辅助计算机系统。除了使用计算机与人交谈外，斯蒂芬还像我们一样使用他的计算机，编辑文档，浏览网页，发表讲座，阅读/写电子邮件等。技术使斯蒂芬能够继续积极地参与并激励世界多年，即使他的身体能力迅速下降。那对我来说就是技术对某人生活的有意义的影响！

您从与斯蒂芬·霍金教授合作中获得了一些什么关键的见解？

我们的电脑屏幕确实是我们进入世界的大门。如果人们可以控制他们的电脑，他们就可以控制生活的各个方面（消费内容，访问数字世界，控制物理环境，导航轮椅等）。对于那些仍然可以说话的人来说，语音识别的进步使他们能够完全控制自己的设备（并且在很大程度上控制自己的物理环境）。然而，那些无法说话和无法移动的人确实受到限制，无法独立。与霍金教授合作的经历教会了我，辅助技术平台需要根据用户的具体需求量身定制。例如，我们不能假设一个单一的解决方案将适用于所有 ALS 患者，因为这种疾病影响患者的不同能力。因此，我们开发了 ACAT（辅助上下文感知工具包），一个模块化的开源软件平台，允许开发人员在其基础上创新和构建不同的功能。

我还了解到，了解每个用户在交换效率时放弃控制的舒适度阈值的重要性（这不仅限于残疾人）。例如，AI 可能能够通过牺牲更多的控制权来更快、更高效地完成任务，但每个用户都有不同的风险规避度。有些用户愿意放弃更多的控制权，而其他用户则希望保留更多的控制权。了解这些阈值以及人们愿意走多远将对这些系统的设计产生重大影响。我们需要从用户的舒适度出发，而不是仅仅从效率和准确性的客观措施出发来重新思考系统设计。

最近，您一直在与一位著名的英国科学家彼得·斯科特-摩根合作，他正在患有运动神经元疾病，并旨在成为世界上第一个完全的机器人。彼得的一些雄心壮志是什么？

AAC（辅助和增强交流）的一个问题是“沉默间隙”。许多 ALS 患者（包括彼得）使用凝视控制来在屏幕上选择字母/单词来与他人交流。这导致了长时间的沉默，等待他凝视电脑并开始制定他的字母和单词来回应。彼得希望尽可能地减少这个沉默间隙，以恢复交流的口头自发性。他还希望保留他的声音和个性，并使用一个可以表达他独特的交流风格（例如他的俏皮话，他的机智的讽刺，他的情绪）的文本转语音系统。

英国机器人专家彼得·斯科特-摩根（Peter Scott-Morgan）患有运动神经元疾病，于 2019 年开始接受一系列手术，以使用技术延长他的生命。（来源：Cardiff Productions）

您能否讨论一下目前正在使用的帮助彼得·斯科特-摩根的技术？

彼得正在使用 ACAT（辅助上下文感知工具包），我们在与霍金博士合作期间开发的平台，并后来开源了。与霍金博士不同，霍金博士使用脸颊肌肉作为“输入触发器”来控制屏幕上的字母，彼得正在使用凝视控制（我们添加到现有的 ACAT 中）来与他的电脑交谈和控制电脑，该电脑与一家名为 CereProc 的公司提供的定制文本转语音解决方案接口，该解决方案使他能够表达不同的情绪/强调。该系统还控制了一个为他定制的头像。

我们目前正在为 ACAT 开发一个响应生成系统，该系统将允许彼得使用 AI 功能以更高的层次与系统交互。该系统将随着时间的推移倾听彼得的对话，并为彼得在屏幕上选择的响应提供建议。目标是，随着时间的推移，AI 系统将从彼得的数据中学习，并使他能够使用一些关键字（类似于今天在网络上搜索的方式）“提示”系统提供最佳响应。我们使用响应生成系统的目标是减少交流中的沉默间隙，并赋予彼得和未来的 ACAT 用户以更自然的速度进行交流的能力。

您还谈到了 AI 透明度的重要性，这个问题有多大？

这是一个大问题，尤其是在部署决策系统或人机协作系统时。例如，在彼得的辅助系统中，我们需要了解系统为什么会做出这些推荐，以及如何影响系统的学习以更准确地表达他的想法。

在更广泛的决策系统背景下，无论是帮助基于医疗图像的诊断还是做出贷款建议，AI 系统都需要提供人类可解释的信息，说明它们如何得出这些决定，哪些属性或特征对这些决定产生了最大的影响，系统在推理中有多大的信心等。这样可以增加对 AI 系统的信任，并在人类和 AI 之间的混合决策场景中实现更好的协作。

AI 偏见，特别是在种族主义和性别歧视方面，是一个巨大的问题，但当您不知道要寻找什么偏见时，如何识别其他类型的偏见？

这是一个非常难以解决的问题，仅凭技术无法解决。我们需要在 AI 系统的开发中引入更多的多样性（种族、性别、文化、身体能力等）。这是当前 AI 系统开发人员中一个巨大的差距。另外，定义和开发这些系统时，必须让多学科的团队参与，包括社会科学、哲学、心理学、伦理和政策（不仅仅是计算机科学），并在特定项目和问题的背景下进行探究。

您之前曾谈到使用 AI 来放大人类潜能。哪些领域显示出最大的希望？

一个明显的领域是使残疾人能够更独立地生活，与亲人交流，并继续创造和为社会做出贡献。我认为在教育方面有很大的潜力，了解学生的参与度，并根据学生的个人需求和能力量身定制学习体验，以提高参与度，赋予教师以这些知识，并改善学习成果。今天的教育不平等如此深刻，如果我们做得正确，AI 有助于减少一些不平等。人类-AI 协作系统在许多领域（医疗保健、制造业等）都有无尽的机会为人类带来价值，因为人类和 AI 所带来的东西是互补的。为了实现这一点，我们需要在社会科学、人机交互和 AI 的交叉点进行创新。强大的多模式感知、上下文感知、从有限数据中学习、物理环境中的人机交互和可解释性都是我们需要专注的关键挑战，以使这一愿景成为现实。

您还谈到了情绪识别在 AI 未来发展中的重要性。为什么 AI 行业应该更加关注这一研究领域？

情绪识别是人机系统的一个关键能力，原因有几点。一个方面是人类的情绪为任何主动系统提供了关键的上下文，以便在采取行动之前了解情况。

更重要的是，这些系统需要在野外继续学习，并根据与用户的交互来适应，而间接信号非常重要且免费（减少用户的工作量）。例如，数字助理可以从用户的声音中的沮丧中学习，并使用它作为反馈信号来学习如何在未来做得更好，而不是每次都要求用户提供反馈。这些信息可以用于主动学习 AI 系统，以继续随着时间的推移而改进。

您是否还有其他想分享的关于您在预测计算实验室的工作或我们讨论过的其他问题？

在构建辅助系统时，我们真的需要思考如何负责任地构建这些系统，以及如何使人们能够理解正在收集什么信息以及如何控制这些系统。作为 AI 研究人员，我们经常被数据所吸引，想要尽可能多地收集数据来改进这些系统，但是收集的数据类型和数量之间存在权衡，用户的隐私也存在权衡。我们真的需要限制我们收集的数据量，只收集执行推理任务所需的数据，并使用户意识到我们正在收集的数据，并使他们能够以有意义和可用的方式调整这种权衡。

感谢这次精彩的采访，希望读者能够通过阅读英特尔的 Lama Nachman 和 Peter Scott-Morgan：两位科学家，一位“人类机器人”来了解更多关于这个项目的信息。

英特尔预测计算实验室团队开发了辅助上下文感知工具包，包括（从左到右）Alex Nguyen、Sangita Sharma、Max Pinaroc、Sai Prasad、Lama Nachman 和 Pete Denman。未在照片中出现的成员包括 Bruna Girvent、Saurav Sahay 和 Shachi Kumar。（来源：Lama Nachman）