Miguel Jetté, Head of AI R&D, Rev Miguel Jetté Head of AI R&D, Rev

可解释性可以解决每个行业的AI问题：缺乏透明度

作者：Migüel Jetté，Rev语音识别研发副总裁Rev。在其初期阶段，AI可能依赖于新颖性。机器学习可以慢慢学习，并保持一个不透明的过程，使得普通消费者难以理解AI的计算。这一情况正在改变。随着更多行业（如医疗保健、金融和司法系统）开始以影响人们生活的方式利用AI，更多人希望了解算法的使用、数据来源以及其能力的准确性。如果公司希望在创新中保持领先地位，他们需要依赖于受众信任的AI。AI可解释性是加深这种关系的关键成分。AI可解释性与标准AI程序不同，因为它为人们提供了了解机器学习算法如何生成输出的方法。可解释的AI是一个可以为人们提供潜在结果和缺陷的系统。它是一个可以满足人类对公平、责任感和隐私尊重的渴望的机器学习系统。可解释的AI对于企业与消费者建立信任至关重要。随着AI的扩展，AI提供商需要了解“黑盒”模型不能满足需求。黑盒模型直接从数据中创建，通常甚至开发人员也无法确定是什么驱动了机器学习的习惯。但是，消费者不希望与无法被问责的东西互动。人们希望了解AI算法如何得出特定结果，而不需要神秘的输入和输出，特别是当AI的错误往往是由于机器偏见时。随着AI变得更加先进，人们希望能够访问机器学习过程，以了解算法如何得出特定结果。各个行业的领导者必须了解，迟早，人们将不再满足于这种访问，而是要求它作为透明度的必要水平。语音识别（ASR）系统，例如语音助手、转录技术和将人类语音转换为文本的其他服务，尤其容易受到偏见的影响。当服务用于安全措施时，错误可能是严重的，特别是当服务用于警察的身体摄像头，以自动记录和转录互动时——如果转录准确，这可能会挽救生命。可解释性实践需要AI不仅依赖购买的数据集，还需要了解可能导致错误的输入音频的特征。声音的声学特征是什么？背景中有噪音吗？说话者来自非英语国家或使用AI尚未学习的词汇？机器学习需要更快地学习，并可以通过收集能够解决这些变量的数据来开始。必要性已经变得明显，但实施这种方法的途径并不总是容易。传统的解决方案是添加更多数据，但更复杂的解决方案将是必要的，特别是当许多公司使用的购买数据集本质上是有偏见的。由于历史原因，很难解释AI做出的特定决定，这是由于端到端模型的复杂性。但是，我们现在可以开始询问人们为什么失去了对AI的信任。不可避免地，AI会犯错误。公司需要建立能够意识到潜在缺陷、识别问题发生的位置并创建持续解决方案以建立更强大的AI模型的模型： 当出现问题时，开发人员需要解释发生了什么并制定一个改进计划，以减少类似的错误。 为了使机器能够了解它是否正确或错误，科学家需要创建一个反馈循环，以便AI可以学习其缺陷并进化。 ASR建立信任的另一种方法是在AI仍在改进的同时，创建一个可以提供置信度的系统，并提供AI不太自信的原因。例如，公司通常会生成0到100的分数来反映其AI的缺陷，并与客户建立透明度。在未来，系统可能会为音频提供后续解释，例如提供更多关于音频的元数据，例如感知到的噪音水平或不太理解的口音。 更多的透明度将导致对AI训练和性能的更好的人类监督。我们越是开放地展示我们需要改进的领域，我们就越是对采取行动负责。例如，研究人员可能希望了解为什么输出了错误的文本，以便他们可以缓解这个问题，而转录人员可能希望了解ASR误解输入的原因，以帮助他们评估其有效性。让人类参与可以缓解AI未经检查时出现的一些最明显的问题。它还可以加快AI发现错误、改进和最终在实时中纠正自己的速度。AI有能力改善人们的生活，但只有当人类正确地构建它时。我们需要让这些系统和创新背后的人们对自己的行为负责。未来的AI系统需要遵循由人类制定的原则，只有到那时，我们才会拥有一个值得信赖的系统。现在是时候为这些原则奠定基础，并努力实现它们，同时最终还是人类在为自己服务。