缺乏值得信赖的AI可能会扼杀创新和商业价值

最近的一项针对全球商业领袖的调查显示，值得信赖的AI是一个主要的优先事项，但许多公司并没有采取足够的措施来实现这一目标，这将带来什么样的代价呢?

的确，IBM调查显示，令人惊讶的85%的受访者同意，消费者更有可能选择一家关于其AI模型的构建、管理和使用透明的公司。

然而，大多数受访者承认，他们没有采取关键步骤来确保其AI是值得信赖和负责的，例如减少偏见（74%）、跟踪性能变化和模型漂移（68%）以及确保他们可以解释AI驱动的决策（61%）。这令人担忧，特别是考虑到AI的使用正在不断增长——35%的受访者表示，他们现在在业务中使用AI，高于去年的31%。

我最近参加了在多伦多举行的仅限邀请的企业创新峰会，与会者交流了创新理念并展示了能够塑造未来的技术。我有幸参加了金融服务、保险和零售领域的三个圆桌讨论，三个关键领域浮现出来：需要更多透明度以建立对AI的信任、通过无代码/低代码实现AI的民主化以及通过AI监管治理最佳实践实现更快的时间价值和风险缓解。

增加对AI技术的信任。 COVID-19放大并加速了对AI驱动的聊天机器人、虚拟金融助手和无接触客户入职的趋势。这种趋势将继续下去，如Cap Gemini的研究所示，78%的受访消费者计划增加使用AI技术，包括在与金融服务组织互动时使用数字身份管理。

尽管其固有的好处，许多挑战出现了。首先是消费者对AI技术的持续不信任以及其无处不在的性质如何影响他们的隐私和安全权利。30%的消费者表示，如果他们的金融服务提供商在收集、管理和保护其生物识别信息方面更加透明，他们将更愿意分享其生物识别信息。

CIO必须采用值得信赖的AI原则，并采取严格的措施来保障隐私和安全权利。他们可以通过加密、数据最小化和更安全的身份验证来实现这一目标，包括考虑正在出现的去中心化数字身份标准。因此，您的智能自动化工作和自助服务将会得到更多的采用，并需要更少的人工干预。

消除AI民主化的障碍。 正在发生向无代码/低代码AI应用开发的转变，研究预测到2025年将达到450亿美元。主要驱动因素是更快的时间价值，应用开发的生产力提高了10倍。

例如，56%的金融服务组织认为从借款人那里收集数据是贷款申请过程中最具挑战性和低效的步骤之一，导致放弃率很高。虽然AI驱动的生物识别识别和数据收集技术被证明可以提高贷款申请过程的效率，但它们也可能产生合规风险，特别是数据隐私、保密性和AI算法偏见。

为了减轻和补救这些风险，无代码/低代码应用程序必须包括全面测试，以确保它们按照初始设计目标运行，消除训练数据集中的潜在偏见，例如采样偏见、标签偏见，并且能够抵御对AI算法结果产生不利影响的对抗性AI攻击。考虑负责任的数据科学原则，包括公平性、准确性、保密性和安全性，是至关重要的。

开发AI治理和监管框架。 AI治理不再是一个很好的倡议，而是一个必要的要求。根据OECD的国家AI政策跟踪器，目前有超过700个AI监管计划正在60多个国家开发中。然而，国际标准组织（如IEEE和NIST）已经开发了自愿的行为准则和AI道德原则。

组织的担忧围绕着这样的假设：AI法规将对他们施加更严格的合规义务，后者将由严厉的执行机制支持，包括不合规的处罚。然而，AI监管是不可避免的。

欧洲和北美正在采取积极的立场，要求CIO与技术和业务伙伴合作，制定有效的政策。例如，欧盟委员会提出的人工智能法案提议对AI提供商施加基于风险的义务，以保护消费者权利，同时促进与AI技术相关的创新和经济机会。

此外，2022年6月， 加拿大联邦政府发布了其备受期待的数字宪章实施法案，该法案保护免受高风险AI系统的不利影响。美国也正在推进AI监管计划，尽管是按行业进行的。联邦贸易委员会（FTC）、消费者金融保护局（CFPB)和联邦储备委员会都在通过其执行机制来保护消费者免受AI应用增加可能带来的不利影响，特别是可能导致歧视性结果的不利影响，尽管这些结果是无意的。任何创新公司都必须拥有AI监管框架。

实现值得信赖的AI需要数据驱动的洞察力

值得信赖的AI的实施不能在没有数据驱动的方法来确定AI技术应用的最大影响之前实现。是为了提高客户参与度，还是为了实现运营效率，还是为了减轻合规风险?

每一个业务驱动因素都需要了解流程的执行方式、升级和异常的处理方式以及识别流程执行的道路和根本原因。根据这样的数据驱动分析，组织可以就AI解决方案的实施对客户入职摩擦和运营效率的影响和结果做出明智的业务决策。一旦组织拥有数据驱动的洞察力，他们就可以自动化诸如满足AI合规性要求、合规审计、KYC和AML（在金融服务中）等高度劳动密集的流程。

最重要的收获是，AI启用过程自动化的一个重要部分是实施值得信赖的AI最佳实践。AI的道德使用不应该仅仅被视为法律和道德义务，而应该被视为商业迫切需要。AI的透明应用是有商业道理的。它促进了信任，并培养了品牌忠诚度。