Como as Empresas Podem Criar AI Responsável e Transparente – Líderes de Pensamento

Por Eric Paternoster, CEO da Infosys Public Services

Sundar Pichai, CEO da empresa-mãe do Google, Alphabet, descreveu os desenvolvimentos em IA como “mais profundos do que o fogo ou a eletricidade” e a COVID-19 trouxe uma nova urgência para liberar a promessa dessa tecnologia. As aplicações de IA agora estão firmemente em evidência, melhorando os tratamentos de COVID, rastreando possíveis portadores de COVID e implantando chatbots em tempo real para usuários de sites de varejo afetados pelo fornecimento. Essas aplicações mostraram que a IA melhora a resiliência dos negócios e beneficia a sociedade como um todo.

Assim, junto com “cloud-native”, a palavra-chave do último trimestre pode ser “transformação AI-first”, um termo que os profissionais da indústria acreditam que será válido mesmo após a COVID desaparecer. Para muitas empresas, a promessa de menores custos (ou seja, algoritmos de cadeia de suprimentos que combinam a oferta com a demanda) e aumentos admiráveis na produtividade (ou seja, quando os bancos usam verificação de documentos e identidade em tempo real) é simplesmente boa demais para ser ignorada.

Por que Transformação AI-First?

Na transformação AI-first, uma empresa usa a IA como uma estrela-guia, trabalhando para usá-la não apenas de forma inteligente, mas também de forma que influencie as decisões tomadas por pessoas, processos e sistemas em escala. Isso sintoniza as organizações com as dinâmicas em mudança entre funcionários, parceiros e clientes. Isso permite que elas mudem rapidamente e atendam às demandas em mudança, criando uma vantagem competitiva de longo prazo.

Mas nem todas as empresas estão no mesmo nível de maturidade em IA. Existem algumas que podem ser denominadas como o “grupo de IA convencional”, ou H1. Essas empresas, que têm menos experiência e investimento, geralmente usam algoritmos clássicos, como o naïve Bayes, que existe há 250 anos, ou a random forest (desenvolvida por Tin Kam Ho em 1995) para aumentar a inteligência fragmentada dentro dos sistemas existentes. Tais usos de IA são estritamente baseados em regras e bastante rígidos, faltando a capacidade de generalizar a partir das regras que descobrem. Então, existe o “grupo de deep learning”, ou H2. Essas empresas abraçam IA mais complexa, incluindo traduções de máquina neural e sistemas baseados em transcrição, para minerar insights conversacionais. Tais sistemas têm mais poder, mas não explicam facilmente por que fazem as coisas que fazem. Eles também carecem de transparência. Para esses dois grupos, a IA usada frequentemente não é confiável ou confiável e pode tomar decisões tendenciosas que trazem atenção negativa das autoridades governamentais, reguladoras e do público em geral.

Essas empresas precisam fazer movimentos agora para levar suas implementações de IA um passo adiante — para um terceiro campo (H3) onde a IA é autoaprendiz e geradora. Nesse ponto, os sistemas de IA são semi-supervisionados ou até mesmo não supervisionados. Eles são transparentes e alcançam “senso comum” por meio do aprendizado multitarefa. Esses sistemas entregam inteligência mais rica e fornecem insights em tempo real e ações. Isso é feito por meio de IA bem gerenciada e governada, que é interpretável e explicável em todas as etapas.

Como trabalhar em direção a uma IA mais responsável e transparente

A IA está sendo cada vez mais usada para gerenciar escolas, ambientes de trabalho e outras entidades públicas. Nesses ambientes, é mais importante do que nunca que a IA seja justa e transparente. No entanto, à medida que a sociedade trabalha nessa explosão de adoção de IA, os órgãos reguladores estão fornecendo orientação limitada sobre o desenvolvimento e implantação adequados de tecnologias de IA. Portanto, a responsabilidade é das empresas liderarem. A indústria de tecnologia mais ampla deve colocar músculo financeiro e capital humano para trabalhar, transformando implementações iniciais de IA fragmentada em ecossistemas de inteligência impulsionados por IA eficientes, criativos, responsáveis e transparentes. Para se mover nesse espaço, as empresas devem fazer as seguintes quatro coisas:

• Mantenha os humanos no loop: Os modelos de IA são frequentemente projetados para operar independentemente dos humanos. No entanto, o elemento humano é crucial em muitos casos. Os humanos precisam revisar as decisões e evitar vieses e erros que frequentemente desviam os projetos de IA. Dois casos de uso incluem detecção de fraude e casos em que a aplicação da lei está envolvida. Recomendamos que as empresas contratem praticantes de IA lentamente, mas consistentemente ao longo do tempo, para obter uma vantagem em sua jornada de IA-first.
• Elimine conjuntos de dados tendenciosos: Um conjunto de dados imparcial é um pré-requisito crítico para criar modelos de IA confiáveis, justos e não discriminatórios. Para ter uma ideia de sua importância, a IA está sendo usada para selecionar currículos e pontuações de crédito por bancos e até mesmo fez seu caminho em alguns sistemas judiciais. Nesse cenário, vieses não verificados tiveram implicações muito reais.
• Certifique-se de que as decisões sejam explicáveis: Essa característica foi coberta por muitos dos principais veículos de notícias e, com razão. A XAI ajuda a explicar por que um sistema de IA tomou uma certa decisão. Ela descobre quais recursos do modelo de deep learning foram usados mais do que outros para fazer sua previsão ou hipótese. Entender a importância dos recursos e ser capaz de justificar como as decisões são tomadas é crucial para casos de uso, como veículos autônomos e visão computacional usada em biópsias médicas.
• Reproduza consistentemente os resultados: Uma necessidade comum em projetos de pesquisa, os modelos de IA devem ser consistentes ao fornecer previsões ao longo do tempo. Tais modelos não devem ser afetados quando apresentados com novos dados.

Essas quatro coisas criarão ecossistemas de inteligência impulsionados por IA transparentes, movendo-se em direção ao que chamamos de “empresa viva”. Aqui, as decisões imparciais e explicáveis são tomadas em tempo quase real, com toda a empresa agindo como um organismo sensível governado por humanos. Leia o white paper do Infosys Knowledge Institute para saber mais.