Falta de Confiança na IA Pode Limitar a Inovação e o Valor dos Negócios

Uma pesquisa recente entre líderes empresariais globais mostra que a IA confiável é uma prioridade importante, mas muitos não estão tomando medidas suficientes para alcançá-la, mas a que custo?

De fato, a pesquisa da IBM revelou que um impressionante 85% dos respondentes concordam que os consumidores são mais propensos a escolher uma empresa que é transparente sobre como seus modelos de IA são construídos, gerenciados e utilizados.

No entanto, a maioria admitiu que não tomou medidas-chave para garantir que sua IA seja confiável e responsável, como reduzir o viés (74%), rastrear variações de desempenho e deriva de modelo (68%), e garantir que possam explicar decisões impulsionadas por IA (61%). Isso é preocupante, especialmente quando se considera que o uso de IA continua crescendo – com 35% dizendo que agora usam IA em seus negócios, em comparação com 31% no ano anterior.

Recentemente, participei do Corporate Innovation Summit em Toronto, onde os participantes trocaram ideias inovadoras e apresentaram tecnologias prontas para moldar o futuro. Tive o privilégio de participar de três mesas-redondas dentro dos segmentos de serviços financeiros, seguros e varejo, com três áreas-chave emergindo: a necessidade de mais transparência para promover confiança na IA, a democratização da IA por meio de aplicativos de código baixo/nenhum código, e o desenvolvimento para entregar um tempo de valor mais rápido e mitigar riscos por meio de práticas de governança regulatória de IA.

Aumentar a confiança nas tecnologias de IA. A COVID-19 amplificou e acelerou a tendência de adotar chatbots impulsionados por IA, assistentes financeiros virtuais e integração de clientes sem toque. Essa tendência continuará, como confirmado em pesquisa da Cap Gemini, que mostra que 78% dos consumidores pesquisados planejam aumentar o uso de tecnologias de IA, incluindo gerenciamento de identidade digital, em suas interações com organizações de serviços financeiros.

Os benefícios inerentes, no entanto, surgem vários desafios. O principal entre eles é a desconfiança contínua dos consumidores em relação às tecnologias de IA e como sua natureza onipresente impacta seus direitos de privacidade e segurança. 30% dos consumidores declararam que se sentiriam mais confortáveis em compartilhar suas informações biométricas se seus provedores de serviços financeiros fornecessem mais transparência ao explicar como suas informações são coletadas, gerenciadas e protegidas.

Os CIOs devem adotar princípios de IA confiável e instituir medidas rigorosas que salvaguardem os direitos de privacidade e segurança. Eles podem alcançar isso por meio de criptografia, minimização de dados e autenticação mais segura, incluindo a consideração de padrões de identidade digital descentralizados emergentes. Como resultado, seus esforços de automação inteligente e ofertas de autoatendimento verão mais adoção e necessitarão de menos intervenção humana.

Remover barreiras para a democratização da IA. Há uma tendência crescente em direção ao desenvolvimento de aplicativos de IA de código baixo/nenhum código, que pesquisa prevê que atinja $45,5 bilhões até 2025. O principal motor é tempo de valor mais rápido com melhorias na produtividade do desenvolvimento de aplicativos por 10x.

Por exemplo, 56% das organizações de serviços financeiros pesquisadas consideram coleta de dados de mutuários como uma das etapas mais desafiadoras e ineficientes dentro do processo de aplicação de empréstimo, resultando em altas taxas de abandono. Embora as tecnologias de identificação biométrica e coleta de dados impulsionadas por IA sejam comprovadas para melhorar a eficiência no processo de aplicação de empréstimo, elas também podem criar riscos de conformidade, particularmente, privacidade de dados, confidencialidade e viés algorítmico de IA.

Para mitigar e remediar esses riscos, os aplicativos de código baixo/nenhum código devem incluir testes abrangentes para garantir que eles funcionem de acordo com os objetivos de design iniciais, removam o viés potencial no conjunto de dados de treinamento que pode incluir viés de amostragem, viés de rotulagem, e sejam seguros contra ataques de IA adversários que podem afetar adversamente os resultados algorítmicos de IA. A consideração de princípios de ciência de dados responsáveis de justiça, precisão, confidencialidade e segurança é fundamental.

Desenvolver um quadro de governança e regulamentação de IA. A governança de IA não é mais uma iniciativa “bom para ter”, mas um imperativo. De acordo com o rastreador de políticas nacionais de IA da OCDE, existem mais de 700 iniciativas regulamentares de IA em desenvolvimento em mais de 60 países. No entanto, existem códigos de conduta voluntários e princípios éticos de IA desenvolvidos por organizações internacionais de padrões, como o Institute of Electrical and Electronic Engineers (“IEEE”) e o National Institute of Standards and Technology (NIST).

As preocupações das organizações giram em torno da suposição de que as regulamentações de IA imporão mais obrigações de conformidade rigorosas sobre elas, apoiadas por mecanismos de aplicação onerosos, incluindo penalidades por não conformidade. No entanto, a regulamentação de IA é inevitável.

A Europa e a América do Norte estão adotando posições proativas que exigirão que os CIOs colaborem com seus colegas de tecnologia e negócios para formar políticas eficazes. Por exemplo, a Comissão Europeia propôs um Ato de Inteligência Artificial que propõe instituir obrigações baseadas em risco para os provedores de IA para proteger os direitos dos consumidores, ao mesmo tempo em que promove a inovação e as oportunidades econômicas associadas às tecnologias de IA.

Além disso, em junho de 2022, o governo federal canadense lançou sua muito aguardada Lei de Implementação da Carta Digital, que protege contra impactos adversos de sistemas de IA de alto risco. Os EUA também estão procedendo com iniciativas regulamentares de IA, embora em uma base setorial. A Comissão Federal de Comércio (FTC), o Bureau de Proteção Financeira do Consumidor (CFPB) e o Conselho da Reserva Federal estão todos exercendo seus músculos regulamentares por meio de seus mecanismos de aplicação para proteger os consumidores contra impactos adversos decorrentes do aumento das aplicações de IA que podem resultar em resultados discriminatórios, ainda que não intencionais. Um quadro regulamentar de IA é necessário para qualquer empresa inovadora.

Alcançar IA Confiável Requer Insights Orientados por Dados

A implementação de IA confiável não pode ser alcançada sem uma abordagem orientada por dados para determinar onde as aplicações de tecnologias de IA podem ter o maior impacto antes de prosseguir com a implementação. É para melhorar a engajamento do cliente, ou para realizar eficiências operacionais ou para mitigar riscos de conformidade?

Cada um desses drivers de negócios exige uma compreensão de como os processos são executados, como as escaladas e exceções são tratadas, e identificar variações na execução do processo, bloqueios e suas causas raiz. Com base em tal análise orientada por dados, as organizações podem tomar decisões de negócios informadas sobre o impacto e os resultados associados à implementação de soluções baseadas em IA para reduzir a fricção de integração do cliente e melhorar a eficiência operacional. Uma vez que as organizações tenham o benefício de insights orientados por dados, então elas podem automatizar processos altamente intensivos em mão de obra, como atender a mandatos de conformidade de IA, auditoria de conformidade, KYC e AML em serviços financeiros.

A principal conclusão é que uma parte integral da automação de processos habilitada por IA é a implementação de práticas de IA confiáveis. O uso ético de IA não deve ser considerado apenas como uma obrigação legal e moral, mas como um imperativo de negócios. Faz sentido empresarial ser transparente na aplicação de IA. Isso promove confiança e gera lealdade à marca.