公司如何创建负责任和透明的AI – 思想领袖

作者 埃里克·帕特诺斯特，Infosys公共服务CEO

谷歌母公司Alphabet的CEO桑达尔·皮查伊将人工智能的发展描述为“比火或电力更深刻”，而COVID-19使得释放这一技术的承诺更加紧迫。人工智能的应用现在已经成为焦点，改善COVID治疗，追踪潜在的COVID携带者，并为零售网站的用户部署实时聊天机器人。这些应用已经证明，人工智能可以提高企业的韧性和造福更广泛的社会。

因此，除了“云原生”之外，最近一个季度的热词可能就是“AI优先转型”，这是行业从业者认为即使在COVID消失后仍然成立的术语。对于许多公司来说，降低成本（例如，供应链算法可以匹配供应和需求）和提高生产力的前景（例如，银行使用实时文档和身份验证）太诱人了，无法忽视。

为什么是AI优先转型？

在AI优先转型中，企业将人工智能作为北极星，不仅要智能地使用它，还要以影响人类、流程和系统的决策方式使用它。它可以让组织适应员工、合作伙伴和客户之间的变化动态，使他们能够快速应对不断变化的需求并创造长期的竞争优势。

但是，并非所有公司都处于相同的AI成熟度水平。有一些公司可以被称为“传统AI群体”，或H1。这些公司经验和投资较少，通常使用经典算法，如250年前的朴素贝叶斯或1995年由Tin Kam Ho开发的随机森林来增强现有系统中的分散式智能。这种人工智能的使用是严格基于规则的，缺乏从规则中概括的能力。然后还有“深度学习群体”，或H2。这些公司采用更复杂的人工智能，包括神经机器翻译和基于转录的系统，以挖掘对话式见解。这些系统更强大，但不容易解释为什么它们做出某些决定。它们也不透明。对于这两组公司，使用的人工智能往往不可信任或不可靠，可能会做出有偏见的决定，从而引起政府机构、监管机构和公众的负面关注。

这些公司需要立即采取行动，将他们的人工智能实施提升到一个新的水平——第三类（H3），其中人工智能是自学习和生成的。在这一点上，人工智能系统是半监督或甚至无监督的。它们是透明的，通过多任务学习实现“常识”。这些系统提供更丰富的智能，并提供实时、可行的见解。通过有效管理、治理人工智能，可以在所有阶段解释和说明。

如何朝着更负责、更透明的人工智能努力

人工智能越来越多地被用于管理学校、工作空间和其他公共实体。在这些环境中，人工智能的公平性和透明度比以往任何时候都更加重要。然而，随着社会经历人工智能采用的爆发，监管机构对人工智能技术的适当开发和部署提供了有限的指导。因此，公司必须承担领导角色。更广泛的科技行业必须将财务资源和人力投入到工作中，将最初的分散式人工智能实施转变为高效、创造性、负责和透明的智能驱动生态系统。为了进入这个领域，公司应该做以下四件事：

• 让人类参与其中: 人工智能模型通常被设计为独立于人类运行。然而，人类元素在许多情况下至关重要。人类需要审查决策并避免偏见和错误，这些错误经常阻碍人工智能项目。两个用例包括欺诈检测和涉及执法的案例。我们建议公司逐渐、持续地招聘人工智能从业者，以便在他们的人工智能第一旅程中占据先机。
• 消除偏见数据: 无偏见的数据集是创建可靠、公平和无歧视的人工智能模型的关键前提。为了理解其重要性，人工智能被用于筛选简历和银行信用评分，甚至已进入一些司法系统。在这种情况下，未经检查的偏见已经产生了真正的影响。
• 确保决策是可解释的: 这个特点已经被许多大型新闻媒体报道过了，也是有道理的。XAI有助于解释为什么人工智能系统做出了某个决定。它揭示了深度学习模型中哪些特征被使用得更多，哪些特征被使用得较少，以便对其预测或假设进行解释。了解特征的重要性并能够证明决策的合理性对于诸如自动驾驶汽车和用于医疗活检的计算机视觉等用例至关重要。
• 可靠地复制发现: 这是研究项目中的一个常见需求，人工智能模型应该在给出预测时保持一致性，即使面对新数据时也是如此。

这些四件事将创建透明、智能驱动的生态系统，朝着我们所说的“活企业”迈进。在这里，公正、可解释的决策几乎实时地做出，整个企业作为一个有感知的生物，由人类来管理。阅读Infosys知识研究所白皮书，了解更多信息。