Falta de IA Confiável Pode Limitar a Inovação e o Valor dos Negócios

Uma pesquisa recente entre líderes empresariais globais mostra que a IA confiável é uma prioridade importante, mas muitos não estão tomando medidas suficientes para alcançá-la, mas a que custo?

De fato, a pesquisa da IBM revelou que um impressionante 85% dos respondentes concordam que os consumidores são mais propensos a escolher uma empresa que é transparente sobre como seus modelos de IA são construídos, gerenciados e utilizados.

No entanto, a maioria admitiu que não tomou medidas-chave para garantir que sua IA seja confiável e responsável, como reduzir o viés (74%), rastrear variações de desempenho e deriva de modelo (68%), e garantir que possam explicar decisões impulsionadas por IA (61%). Isso é preocupante, especialmente quando se considera que o uso de IA continua crescendo – com 35% dizendo que agora usam IA em seus negócios, em comparação com 31% no ano anterior.

Eu recentemente participei do Corporate Innovation Summit em Toronto, onde os participantes trocaram ideias inovadoras e apresentaram tecnologias prontas para moldar o futuro. Tive o privilégio de participar de três mesas-redondas dentro dos segmentos de serviços financeiros, seguros e varejo, com três áreas-chave emergindo: a necessidade de mais transparência para promover confiança na IA, democratização da IA por meio de tecnologias de código baixo/nenhum código, e desenvolvimento para entregar valor mais rápido e mitigar riscos por meio de boas práticas de governança regulatória de IA.

Aumentar a confiança nas tecnologias de IA. A COVID-19 amplificou e acelerou a tendência de adotar chatbots impulsionados por IA, assistentes financeiros virtuais e processos de atendimento ao cliente sem toque. Essa tendência continuará, como confirmado em pesquisa da Cap Gemini, que mostra que 78% dos consumidores pesquisados planejam aumentar o uso de tecnologias de IA, incluindo gerenciamento de identidade digital, em suas interações com organizações de serviços financeiros.

Os benefícios inerentes, não obstante, surgem vários desafios. O principal entre eles é a desconfiança contínua dos consumidores em relação às tecnologias de IA e como sua natureza onipresente impacta seus direitos de privacidade e segurança. 30% dos consumidores declararam que estariam mais confortáveis em compartilhar suas informações biométricas se seus provedores de serviços financeiros fornecessem mais transparência ao explicar como suas informações são coletadas, gerenciadas e seguras.

Os CIOs devem adotar princípios de IA confiável e instituir medidas rigorosas que salvaguardem os direitos de privacidade e segurança. Eles podem alcançar isso por meio de criptografia, minimização de dados e autenticação mais segura, incluindo considerar padrões emergentes de identidade digital descentralizada. Como resultado, seus esforços de automação inteligente e ofertas de autoatendimento verão mais adoção e necessitarão de menos intervenção humana.

Remover barreiras para a democratização da IA. Há uma tendência crescente em direção ao desenvolvimento de aplicações de IA de código baixo/nenhum código, que pesquisas prevêem alcançar $45,5 bilhões até 2025. O principal motor é tempo de valor mais rápido com melhorias na produtividade do desenvolvimento de aplicações por 10x.

Por exemplo, 56% das organizações de serviços financeiros pesquisadas consideram coleta de dados de mutuários como um dos passos mais desafiadores e ineficientes dentro do processo de solicitação de empréstimo, resultando em altas taxas de abandono. Embora as tecnologias de identificação biométrica e coleta de dados impulsionadas por IA sejam comprovadas para melhorar a eficiência no processo de solicitação de empréstimo, elas também podem criar riscos de conformidade, particularmente, privacidade de dados, confidencialidade e viés algorítmico de IA.

Para mitigar e remediar esses riscos, as aplicações de código baixo/nenhum código devem incluir testes abrangentes para garantir que elas sejam executadas de acordo com os objetivos de design iniciais, removam o viés potencial no conjunto de dados de treinamento que pode incluir viés de amostragem, viés de rotulagem, e sejam seguras contra ataques de IA adversários que podem impactar adversamente os resultados algorítmicos de IA. Consideração de princípios de ciência de dados responsáveis de justiça, precisão, confidencialidade e segurança é fundamental.

Desenvolver um quadro de governança e regulamentação de IA. A governança de IA não é mais uma iniciativa agradável, mas um imperativo. De acordo com o rastreador de políticas nacionais de IA da OCDE, existem mais de 700 iniciativas regulatórias de IA em desenvolvimento em mais de 60 países. No entanto, existem códigos de conduta voluntários e princípios éticos de IA desenvolvidos por organizações internacionais de padrões, como o Institute of Electrical and Electronic Engineers (IEEE) e o National Institute of Standards and Technology (NIST).

Preocupações das organizações cercam a suposição de que as regulamentações de IA imporão mais obrigações de conformidade rigorosas sobre elas, apoiadas por mecanismos de aplicação onerosos, incluindo penalidades por não conformidade. No entanto, a regulamentação de IA é inevitável.

Europa e América do Norte estão adotando posições proativas que exigirão que os CIOs colaborem com seus colegas de tecnologia e negócios para formar políticas eficazes. Por exemplo, a Comissão Europeia propôs um Ato de Inteligência Artificial que propõe instituir obrigações baseadas em risco para provedores de IA para proteger os direitos dos consumidores, ao mesmo tempo promovendo a inovação e as oportunidades econômicas associadas às tecnologias de IA.

Além disso, em junho de 2022, o governo federal canadense lançou sua muito aguardada Lei de Implementação da Carta Digital, que protege contra impactos adversos de sistemas de IA de alto risco. Os EUA também estão procedendo com iniciativas regulatórias de IA, embora de forma setorial. A Comissão Federal de Comércio (FTC), o Bureau de Proteção Financeira ao Consumidor (CFPB) e o Conselho Federal de Reserva estão todos flexionando seus músculos regulatórios por meio de seus mecanismos de aplicação para proteger os consumidores contra impactos adversos decorrentes do aumento das aplicações de IA que podem resultar em resultados discriminatórios, embora não intencionais. Um quadro de regulamentação de IA é necessário para qualquer empresa inovadora.

Alcançar IA Confiável Exige Insights Orientados por Dados

A implementação de IA confiável não pode ser alcançada sem uma abordagem orientada por dados para determinar onde as aplicações de tecnologias de IA podem ter o maior impacto antes de proceder com a implementação. É para melhorar a engajamento do cliente, ou para realizar eficiências operacionais, ou para mitigar riscos de conformidade?

Cada um desses drivers de negócios exige uma compreensão de como os processos são executados, como as escaladas e exceções são tratadas, e identificar variações na execução de processos, obstáculos e suas causas raiz. Com base em tal análise orientada por dados, as organizações podem tomar decisões de negócios informadas sobre o impacto e os resultados associados à implementação de soluções baseadas em IA para reduzir a fricção de atendimento ao cliente e melhorar as eficiências operacionais. Uma vez que as organizações tenham o benefício de insights orientados por dados, então elas podem automatizar processos altamente intensivos em mão de obra, como atender a mandatos de conformidade de IA, auditoria de conformidade, KYC e AML em serviços financeiros.

A principal lição é que uma parte integral da automação de processos habilitada por IA é a implementação de práticas de IA confiável. O uso ético de IA não deve ser considerado apenas como uma obrigação legal e moral, mas como um imperativo de negócios. Faz sentido empresarial ser transparente na aplicação de IA. Isso promove confiança e gera lealdade à marca.