Balakrishna, 也被称为 Bali D.R., 是 Infosys 的人工智能和自动化负责人，他同时推动Infosys内部的自动化和为客户提供独立的自动化服务，利用产品为客户提供服务。Bali已经在Infosys工作了超过25年，并在不同的地域和行业领域担任过销售、项目管理和交付角色。
随着人工智能（AI）在企业中得到广泛应用，它正逐渐成为我们生活中不可或缺的一部分。人工智能的民主化的一个重要方面是，终端用户应该能够完全理解人工智能使用的过程和机制，以便得出结论或实现预期结果。作为人类，我们有着深刻的需求，想要了解任何现象的“为什么”和“如何”，这推动了我们的技术进步。在人工智能的背景下，这种理解被称为“解释性”。为什么解释性是当今的需要？我们经常将人工智能视为一个“黑盒子”，我们只知道输入和输出，但不知道中间的过程。这种问题的加剧是因为大多数人工智能算法，例如复杂的深度学习预测系统和自然语言处理（NLP），对于即使是最熟练的从业者来说也是高度抽象的。信任和透明度：为了让用户信任人工智能的预测，人工智能必须具有一定的解释性。例如，如果一位医生需要根据人工智能的预测推荐治疗方法，他需要对预测有信心。银行必须对拒绝或批准贷款的决定充满信心，并能够为所有利益相关者辩护。用于筛选和招聘的人工智能必须证明其底层机制对所有申请人群体都是公平和公正的。使人工智能更具人性化并增加采用率：根据麦肯锡的《2020年人工智能状况报告》，一家制造商使用极其透明的模型来获得工厂工人的接受，他们需要相信人工智能对他们安全的判断。快速采用人工智能的主要障碍是获得利益相关者的认同，以便从简单的点解决方案扩展到企业级别并最大化投资回报率。如果性能是可解释的，透明度就会增加，从而提高整体用户体验和客户满意度。根据IBM商业价值研究所的调查，68%的高管认为，客户将在未来三年内要求人工智能提供更多解释性。揭示偏见并提高模型性能：开发人员需要知道如何提高模型的性能以及如何调试和优化它。清晰的解释性框架是进行彻底分析的最重要工具之一。获得更清晰、全面的洞察力：为了完全理解人工智能的任何处方，需要对其运作有360度的了解。例如，如果人工智能用于做出投资决策，人们还需要了解其背后的理由，以便在其他领域应用这种学习并了解采取该决策的潜在陷阱。对人工智能运作的深刻理解还将使决策者发现新的用例。法规和问责制：像GDPR这样的法规正在要求解释权，以解决自动决策过程中出现的问责问题。在像自动驾驶汽车这样的系统中，如果出了问题导致生命和财产损失，需要了解根源，这在黑盒系统中将很难确定。如何让人工智能更具解释性？解释性人工智能系统（XAI）是使用不同技术开发的，这些技术专注于解释模型本身或通过某些算法的帮助解释个别预测的推理。大多数解释性技术都依赖于： 将模型分解为个别组件） 可视化模型预测（例如，如果模型将汽车分类为某个品牌，它会突出导致它被标记为该品牌的部分） 解释性挖掘（使用机器学习技术来查找相关数据，以解释人工智能算法的预测）。 在一种称为代理建模的技术中，使用更简单、更易于理解的模型（如决策树）来近似表示更复杂的人工智能模型。这些简化的解释可以在高层次上提供对模型的良好理解，但有时会抑制某些细微差别。另一种方法称为“设计中的可解释性”这种方法通过在人工智能网络的设计和训练中添加约束，尝试从较小、更易于解释的块中构建整个网络。这需要在准确性和可解释性之间进行权衡，并可能限制数据科学家的工具包。此外，这可能需要大量计算资源。人工智能训练和测试还可以采用局部可解释模型（LIME）和Shapley加性解释（SHAP）等技术，这些技术应针对高准确率进行调整，使用F-score、精度和其他指标。当然，所有结果都应使用广泛的数据进行监控和验证。使用LIME，例如，组织可以创建临时模型来模拟不透明算法（如机器学习）的预测。这些LIME模型可以为给定数据集和其对应的输出创建一系列排列，然后用于训练简单、更易于解释的模型，并为每个决策和/或预测提供完整的解释列表。SHAP框架以博弈论为基础，特别是合作博弈论，是一种将最优信用分配与局部解释相结合的模型，使用原始Shapley值和其后代。原则性运营然而，在更战略的层面上，人工智能可靠性框架应该包含一套广泛的原则，以确保在部署开始时和随着时间的推移，在面对不断变化的情况时，得到适当的结果。至少，这些框架应该包括以下内容： 偏见检测 – 所有数据集都应清除偏见和歧视性属性，并在应用于训练模型时给予适当的权重和酌情权； 人工参与 – 操作员应能够随时调查和解释算法输出，特别是在用于执法和保护民权的模型中； 辩护 – 所有预测都必须能够经受审查，这本质上需要高水平的透明度，以便外部观察者能够衡量用于产生结果的过程和标准； 可复制性 – 可靠的人工智能模型必须在预测中保持一致，并且在遇到新数据时必须表现出高水平的稳定性。 但XAI不应该仅被视为提高盈利能力的手段，而是为了带来问责制，确保机构能够解释和证明其创造对整个社会的影响。因此，人工智能的解释性和可靠性对于确保人工智能系统的透明度、公平性和问责制至关重要。
作者：Balakrishna DR，Infosys 公司服务产品负责人 – ECS，AI 和自动化部。疫情后的数字加速正在迅速推进，许多组织都将云计算放在中心位置。云计算帮助他们变得更加敏捷，创新更多，并在挑战时期创造价值。根据 Gartner 的预测，云计算支出今年将增长 18.4%，达到 3049 亿美元。然而，尽管云计算采用率很高，许多组织仍然缺乏云计算成熟度，根据 Infosys 的 2021 云雷达报告。只有当公司对价值和业务案例有明确的认识时，才能在不陷入云混乱的情况下获得云计算的利益。云计算扩张是一个重大挑战。随着 SaaS 使业务部门能够自行做出 IT 购买决策，虽然可以立即获得收益，但也会带来多个挑战。这些多个购买中心会带来服务孤岛、成本激增和价值泄漏的风险。AI 可以通过帮助 IT 组织以更好的清晰度、预测和控制来应对这些挑战，从而使前进的道路变得更加容易。清晰度 不仅仅是云计算支出，还包括业务服务和技术驱动因素 – 通过自动化深度分析来驱动。预测 消费和预见季节模式，从而能够更好地规划和配置...
作者：Balakrishna (Bali) D R，Infosys 高级副总裁，服务产品负责人 – ECS，人工智能和自动化。我们很幸运生活在技术时代，人工智能努力使我们的生活更容易——我们的手机现在可以识别我们并解锁，当我们“看到”它们时，我们有可以帮助我们找到最短、最不拥挤的路径到达我们想要去的地方的语音地图，智能设备可以在我们说出之前预热和冷却我们的家，智能应用程序可以预测和防止欺诈，等等。然而，我们也遇到过这些智能人工智能系统从公平和伦理角度失败的例子。例如，一家与我们合作的著名银行怀疑他们用于评估信用价值的人工智能模型可能存在偏见，并要求我们帮助他们。另一方面，一家机械制造商与我们合作分析保修索赔模式，以消除数据集和过程中的偏见，然后重新设计和自动化他们的索赔批准流程。招聘相关的人工智能模型，我们经常发现，它们的数据集中存在年龄、性别、种族，甚至邮政编码的偏见——如果不加控制，会产生不公平的结果。由于人工智能偏见对整个企业可能产生巨大的影响，人工智能系统的开发、实施和使用中，伦理问题已成为焦点。人工智能系统是许多人类决策的集合，这些决策本身也基于人类偏见。保护员工自主权和隐私，偏见影响职业成长和机会的风险，基于皮肤颜色、种族或性别的歧视，人工智能解决方案的不可解释性，以及因此的人工智能决策的责任，在讨论人工智能及其优点时，正在被热烈讨论。创建负责任的人工智能人工智能偏见可能会在整个组织中产生连锁反应。因此，IT 领导者必须确保他们以符合员工的道德方式部署人工智能。为此，组织应在其人工智能部署中包括以下内容。数据治理： 人工智能的道德使用也取决于数据的良好治理，从数据的来源开始，需要以透明和合乎道德的方式进行。为此，IT 领导者应建立一个明确的治理框架，以确保数据安全、完整性和隐私，以及防止数据腐败和丢失——所有这些都是必要的。责任： 机器学习模型需要公平、无偏见、平等对待所有人，并在所有属性（如种族、宗教、性别等）中公平分享利益（类似的接受和拒绝率）。它们需要在整体数字上实现可接受的准确性，并且需要在概述结果的过程中做到可解释。例如，能够解释为什么模型拒绝了申请人 A 的贷款申请，但批准了申请人 B 的相同申请。开发人工智能解决方案的 IT 领导者需要使驱动这些决策的底层逻辑清晰地呈现给业务利益相关者，以便在整个企业中实现更大的透明度。对抗性鲁棒性：整个人工智能生态系统需要同意人工智能模型的必要性，即通过模拟测试潜在的不利结果。例如，IT 领导者可以使用以下测试来检查他们的人工智能系统并为潜在的障碍做好准备。 修改数据：直接修改用于训练的数据集，通过数据注入、修改和逻辑腐败 修改模型：测试置信度降低和误分类 辅助工具：使用工具来影响或腐败结果 人工智能中的人类： 人工智能模型需要通过在所有关键决策点都有人类介入，并且有有效的备份机制或替代路径，如果人工智能系统需要被撤回。开发人工智能的社会共识除了这些指南外，我们还需要在整个企业的所有领导者之间促进关于任何大规模人工智能部署的利益、利益、成本和后果的包容性讨论和辩论。只有这样包容的过程，涉及所有利益相关者，讨论和决定可接受的结果，并权衡风险和利益，才能使人工智能技术在整个企业中获得运营许可。 ross 企业，关于任何大规模人工智能部署的利益、利益、成本和后果。只有这样包容的过程，涉及所有利益相关者，讨论和决定可接受的结果，并权衡风险和利益，才能使人工智能技术在整个企业中获得运营许可。
作者：Balakrishna D R，Infosys公司服务产品负责人，能源、通信、服务和人工智能自动化服务高级副总裁。Infosys。2020年1月9日，世界卫生组织向公众通报了中国的冠状病毒爆发。三天前，美国疾病控制和预防中心已经发布了通知。但是，一个加拿大的健康监测平台已经比他们更早地做出了反应，在2019年12月31日就向其客户发送了爆发的警告！这个平台BlueDot使用人工智能驱动的算法来扫描外语新闻报道、动物和植物疾病网络以及官方声明，以便为其客户提供提前警告，避免危险区域如武汉。在过去的几年中，人工智能已经成为当今快速变化的经济中变革、破坏和竞争优势的关键来源。从疫情追踪到国防、医疗保健、自动驾驶汽车等，人工智能正在得到广泛的应用。 普华永道预测，到2030年，人工智能可能为全球经济贡献高达15.7万亿美元，按照当前的增长率计算。然而，尽管人工智能带来了希望，但它仍然存在未解答的问题，尤其是在透明度和可靠性方面。了解、预测和信任人工智能系统的决策能力在关键领域尤为重要，例如生命、死亡和个人健康。 进入未知领域当自动推理系统首次被引入以支持决策时，它们依赖于手工制定的规则。虽然这使得它们容易被解释和修改，但它们不具备可扩展性。基于机器学习的模型出现以满足后者的需求；它们不需要人工干预，可以从数据中学习——数据越多越好。虽然深度学习模型在建模能力和适用范围方面无与伦比，但它们大多是黑盒子，这引发了人们对其真实性、可靠性和偏见的担忧，特别是在其被广泛使用的背景下。目前，没有直接的机制可以追踪深度学习模型中隐含的推理过程。对于具有黑盒性质的机器学习模型，主要的可解释性类型是事后可解释性，这意味着解释是从模型生成的输出的性质和特征中推导出来的。早期从神经网络（即深度学习的早期名称）中提取规则的尝试已经不再被追求，因为网络已经变得太大、太多样化，无法进行可行的规则提取。因此，迫切需要将可解释性和透明度引入人工智能建模的基础中。 从黑夜到光明这种担忧已经导致了对机器学习透明度的需求，从而促进了可解释人工智能（XAI）的发展。 XAI旨在解决人工智能决策的主要问题，包括偏见和透明度。这个新的人工智能领域旨在确保人工智能能够为所有相关人员带来更好的结果，并对其决策负责。XAI将在帮助人工智能系统和算法中固有的偏见方面发挥关键作用，这些偏见是由开发人工智能系统的人的背景和经验无意中造成的。例如，不想要的偏见，如对某个国籍或民族的歧视，可能会因为系统基于真实数据而产生价值判断。例如，如果典型的贷款违约者来自某个特定的民族背景，基于此实施限制性政策可能不公平。错误的数据也是偏见的另一个原因。例如，如果某个面部识别扫描仪由于肤色或面部照明而5%的时间不准确，这可能会引入偏见。最后，如果您的样本数据不能代表整个人口，偏见就不可避免。XAI旨在解决人工智能系统如何做出黑盒决策的问题。它检查并尝试理解决策中涉及的步骤和模型。它回答诸如以下的问题：人工智能系统为什么做出特定的预测或决策？人工智能系统为什么没有做其他事情？人工智能系统何时成功或失败？人工智能系统何时对其决策充满信心，以至于您可以信任它？人工智能系统如何纠正错误？ 可解释、可预测和可追溯的人工智能一种实现人工智能系统可解释性的方法是使用具有内在可解释性的机器学习算法。例如，较简单的机器学习形式，如决策树、贝叶斯分类器和其他具有可追溯性和透明度的算法，可以在不牺牲太多性能或准确性的情况下提供必要的可见性，特别是在对人工智能系统的决策至关重要的领域。美国国防高级研究计划局（DARPA）已经认识到为深度学习和其他更复杂的算法方法提供可解释性的必要性，并正在通过多项资助研究计划来推动可解释人工智能解决方案的开发。 DARPA将人工智能可解释性描述为三个部分，包括：预测准确性，即模型将解释如何得出结论，以改善未来的决策；决策理解和来自人类用户和操作员的信任，以及人工智能系统采取的行动的检查和可追溯性。可追溯性将使人类能够进入人工智能决策循环，并在需要时停止或控制其任务。人工智能系统不仅需要执行特定任务或施加决策，还需要提供明确的报告，说明其决策的理由和支持依据。目前尚不可能标准化算法或XAI方法，但可以标准化透明度水平或可解释性水平。标准化组织正在尝试制定透明度水平的共同标准，以便于用户和技术供应商之间的沟通。随着政府、机构、企业和公众越来越依赖人工智能系统，通过决策过程的透明度来赢得他们的信任至关重要。首次全球会议专门致力于XAI，即国际人工智能联合会议：可解释人工智能研讨会的启动，是XAI时代到来的进一步证明。
