拉玛·纳赫曼（Lama Nachman），英特尔研究员和预测计算实验室主任 – 采访系列

拉玛·纳赫曼，是英特尔研究员和预测计算实验室主任。拉玛最著名的工作是与斯蒂芬·霍金教授合作，帮助他通过计算机系统进行交流。如今，她正在帮助英国机器人专家彼得·斯科特-摩根进行交流。2017年，彼得·斯科特-摩根被诊断出患有运动神经元疾病（MND），也称为ALS或卢·盖里格病。MND会攻击大脑和神经，最终会使所有肌肉瘫痪，包括那些使人能够呼吸和吞咽的肌肉。

彼得·斯科特-摩根曾经说过：“我将继续进化，作为人类死去，作为机器人活着。”

是什么吸引你进入人工智能领域？

我一直被这样一个想法所吸引：技术可以成为伟大的平等者。当技术被负责任地开发时，它有可能平衡竞争环境，解决社会不平等，放大人类潜能。在人工智能领域，这一点尤其明显。虽然业界对人工智能和人类的关系的讨论往往将其视为对立关系，但我认为机器和人类都有其独特的优势，所以我更愿意从人类-人工智能协作的角度来看待未来，而不是人类-人工智能竞争的角度。我领导英特尔实验室的预测计算实验室，我们的研究工作都集中在为社会带来广泛影响的计算创新上。考虑到人工智能已经在我们生活的每个方面都有广泛的应用，我认为我的团队正在进行的研究有很大的前景，可以使人工智能更加易用，更加上下文感知，更加负责，最终为人们提供技术解决方案来帮助他们在现实世界中解决问题。

您曾与著名物理学家斯蒂芬·霍金教授密切合作，创建了一个人工智能系统来帮助他交流和完成日常任务。这些日常任务包括哪些？

与斯蒂芬·霍金教授合作是我的人生中最有意义和最具挑战性的经历。这让我深刻地认识到技术可以如何深刻地改善人们的生活。他患有ALS，一种退行性神经疾病，会随着时间的推移逐渐剥夺患者进行最简单活动的能力。2011年，我们开始与他合作，探索如何改进使他能够与世界互动的辅助计算机系统。除了使用计算机与人交谈，斯蒂芬还像我们一样使用计算机，编辑文档，浏览互联网，发表演讲，阅读和写电子邮件等。技术使斯蒂芬能够在他的身体能力迅速下降之后的几年里继续积极地参与和激励世界。这对我来说就是技术对某个人的生活产生的有意义的影响的体现！

您从与斯蒂芬·霍金教授合作中得到了哪些关键的见解？

我们的电脑屏幕是我们进入世界的大门。如果人们可以控制他们的电脑，他们就可以控制生活的各个方面（消费内容，访问数字世界，控制物理环境，导航轮椅等）。对于那些仍然可以说话的人来说，语音识别技术可以让他们完全控制设备（并在很大程度上控制物理环境）。但是，对于那些不能说话和无法移动的人来说，他们确实被限制了不能独立行事。与霍金教授合作的经历教会了我，辅助技术平台需要根据用户的具体需求量身定制。例如，我们不能假设一个单一的解决方案可以适用于所有ALS患者，因为这种疾病会影响不同患者的不同能力。因此，我们需要可以轻松配置和适应个体需求的技术。这就是为什么我们建立了ACAT（辅助上下文感知工具包），一个模块化的开源软件平台，可以使开发人员能够在其基础上创新和构建不同的功能。

我还了解到，了解每个用户在交换效率时放弃控制的舒适度阈值是非常重要的（这不仅仅适用于残障人士）。例如，人工智能可能能够从用户那里夺走更多的控制权，以更快、更高效地完成任务，但每个用户都有不同的风险规避水平。有些人愿意放弃更多的控制权，而其他用户则希望保留更多的控制权。了解这些阈值以及人们愿意走多远将对这些系统的设计产生重大影响。我们需要从用户的舒适度而不是仅仅从效率和准确性的角度来思考系统设计。

最近，您还与一位著名的英国科学家彼得·斯科特-摩根合作，他正在患有运动神经元疾病，并且有成为世界上第一个完全的机器人的人的目标。彼得的一些雄心壮志是什么？

辅助和增强交流（AAC）中存在“沉默间隙”问题。许多ALS患者（包括彼得）使用凝视控制来在屏幕上选择字母/单词来与他人交流。这会导致沉默，因为他需要凝视电脑并开始制定他的字母和单词来回应。彼得希望尽可能地减少这种沉默间隙，以恢复言语的自发性。他还希望保留他的声音和个性，并使用一个可以表达他独特交流风格的文本转语音系统（例如他的俏皮话，他的机智讽刺，他的情绪）。

英国机器人专家彼得·斯科特-摩根患有运动神经元疾病，于2019年开始接受一系列手术，以使用技术延长他的生命。（来源：Cardiff Productions）

您能否讨论一下当前正在使用的帮助彼得·斯科特-摩根的技术？

彼得正在使用ACAT（辅助上下文感知工具包），这是我们在与霍金博士合作期间开发并后来开源的平台。与霍金博士不同，霍金博士使用脸颊肌肉作为“输入触发器”来控制屏幕上的字母，彼得正在使用凝视控制（我们添加到现有ACAT中的一个功能）来控制他的电脑，并通过一个来自CereProc公司的定制文本转语音解决方案与他人交流，这个解决方案使他能够表达不同的情绪/强调。该系统还控制一个为他定制的头像。

我们目前正在为ACAT开发一个响应生成系统，该系统将允许彼得使用人工智能功能以更高的层次与系统交互。该系统将随着时间的推移监听彼得的对话，并建议他在屏幕上选择的响应。我们的目标是，随着时间的推移，人工智能系统将从彼得的数据中学习，并使他能够使用仅几个关键字（类似于网络搜索）“推动”系统提供他最好的响应。我们开发响应生成系统的目标是减少交流中的沉默间隙，并赋予彼得和ACAT的未来用户以更“自然”的速度进行交流的能力。

您还谈到了人工智能领域中透明度的重要性。这是一个多大的问题？

这是一个很大的问题，特别是在决策系统或人工智能协作系统中部署时。例如，在彼得的辅助系统中，我们需要了解系统为什么会做出这些推荐，以及如何影响系统的学习，以更准确地表达他的想法。

在更广泛的决策系统中，无论是帮助根据医疗图像进行诊断还是提供贷款建议，人工智能系统都需要提供人类可以理解的信息，说明它们如何得出这些决定，哪些属性或特征对这些决定产生了最大的影响，系统在这些推理中有多大的信心等。这样可以增加对人工智能系统的信任，并使人与人工智能在混合决策场景中的协作更加顺畅。

人工智能偏见，特别是种族主义和性别歧视，是一个巨大的问题。但是，当您不知道要寻找哪些偏见时，如何识别其他类型的偏见？

这是一个非常难的问题，不能仅仅通过技术来解决。我们需要在人工智能系统的开发中增加多样性（种族、性别、文化、身体能力等）。这是当前人工智能系统开发中一个明显的缺口。另外，定义和开发这些系统时，需要由多学科团队参与，包括社会科学、哲学、心理学、伦理和政策（不仅仅是计算机科学），并在特定项目和问题的背景下进行探究。

您曾谈到过使用人工智能来放大人类潜能。哪些领域最有希望实现这一点？

一个明显的领域是使残障人士能够更独立地生活，交流和贡献于社会。我认为教育领域有很大的潜力，了解学生的参与度和个性化学习体验可以提高参与度，赋予教师以知识，改善学习成果。教育中的不平等是如此深刻，如果我们做得正确，人工智能可以帮助减少一些不平等。还有很多机会让人工智能在各个领域（如医疗保健、制造业等）带来价值，因为人类和人工智能可以互相补充。为了实现这一点，我们需要在社会科学、人机交互和人工智能的交叉点上进行创新。强大的多模式感知、上下文感知、有限数据学习、物理环境人机交互和可解释性是我们需要关注的关键挑战，以实现这一愿景。

您还谈到了情感识别在人工智能未来的重要性。为什么人工智能行业应该关注这一研究领域？

情感识别是人类-人工智能系统的一个关键能力，出于多种原因。一个方面是人类的情感为任何主动系统提供了关键的上下文，以便它可以采取行动。

更重要的是，这些系统需要在野外学习并根据与用户的交互来适应，而间接信号对于学习至关重要（这对用户来说是免费的，需要更少的工作）。例如，数字助手可以从用户的声音中的沮丧中学习很多东西，并使用它作为学习信号，以便在未来做出什么事情。这些信息可以用于主动学习的人工智能系统，使其能够在时间的推移中不断改进。

您是否还有其他想分享的关于您在预测计算实验室的工作或我们讨论过的其他问题？

在构建辅助系统时，我们需要真正思考如何负责任地构建这些系统，以及如何使人们能够理解正在收集什么信息以及如何以实际的方式控制这些系统。作为人工智能研究人员，我们经常被数据和想要尽可能多的数据所吸引，以提高这些系统的性能。然而，在我们想要收集的数据类型和数量与用户隐私之间存在权衡。我们需要限制我们收集的数据仅限于执行推理任务所需的数据，使用户意识到我们正在收集的数据，并使他们能够以有意义和可用的方式调整这一权衡。

感谢这次精彩的采访，希望阅读更多关于这个项目的读者可以阅读英特尔的拉玛·纳赫曼和彼得·斯科特-摩根：两位科学家，一位“人类机器人”文章。

英特尔预测计算实验室团队开发了辅助上下文感知工具包，包括（从左到右）Alex Nguyen，Sangita Sharma，Max Pinaroc，Sai Prasad，Lama Nachman和Pete Denman。未出现的还有Bruna Girvent，Saurav Sahay和Shachi Kumar。（来源：Lama Nachman）