Como a Inteligência Artificial Explicável Melhora a Confiabilidade e a Confiância

À medida que a inteligência artificial (IA) está sendo democratizada em empresas, ela está sendo gradualmente incorporada à nossa existência. Um aspecto importante dessa democratização é que os usuários finais devem ser capazes de compreender completamente o processo e os mecanismos que a IA está usando para chegar a uma conclusão ou como está operando para entregar os resultados desejados. Como seres humanos, temos uma necessidade profundamente enraizada de descobrir o “porquê” e o “como” de qualquer fenômeno, o que acelerou nosso progresso tecnológico. No contexto da IA, essa compreensão é denominada “explicabilidade”.

Por que a Explicabilidade é a necessidade da hora?

Com frequência, abordamos a IA como uma “caixa preta”, onde temos apenas conhecimento das entradas e saídas, mas em algum lugar os processos utilizados são perdidos para nós. Agravando esse problema é o fato de que os algoritmos que alimentam a maioria das formas de IA, como sistemas de previsão baseados em aprendizado profundo complexos e Processamento de Linguagem Natural (NLP), são altamente abstratos, mesmo para seus praticantes mais experientes.

Confiança e Transparência: Para que os usuários confiem nas previsões da IA, ela deve ter algum nível de explicabilidade inerente. Por exemplo, se um médico precisa recomendar um tratamento com base nas previsões da IA, ele precisa ter confiança na previsão. Um banco deve ter total confiança na decisão de rejeitar ou aprovar um empréstimo e ser capaz de justificar a mesma para todos os stakeholders. Uma IA usada para triagem e contratação deve provar que os mecanismos subjacentes são justos e equitativos para todos os grupos de candidatos.

Torna a IA mais humana e aumenta a adoção: No relatório The state of AI in 2020 da McKinsey, aprendemos que um fabricante usa modelos extremamente transparentes para aceitação por parte de seus trabalhadores de fábrica, que precisam confiar nos julgamentos feitos pela IA sobre sua segurança. Para uma adoção rápida da IA, obter a aprovação dos stakeholders é o principal obstáculo para escalar de soluções simples para o nível empresarial e obter o máximo do investimento feito. Isso é aliviado em grande medida se o desempenho for explicável para o público em geral. Do ponto de vista empresarial, a explicabilidade melhora a experiência do usuário geral e aumenta a satisfação do cliente. De acordo com as descobertas de uma pesquisa do IBM Institute for Business Value, 68% dos principais executivos acreditam que os clientes exigirão mais explicabilidade da IA nos próximos três anos.

Descobrir vieses e melhorar o desempenho do modelo: Um desenvolvedor precisa saber como melhorar o desempenho do modelo e como exatamente depurá-lo e ajustá-lo. Um quadro de explicabilidade claro é uma das ferramentas mais importantes para realizar a análise aprofundada necessária.

Obter insights mais aguçados e abrangentes: Uma visão completa de 360 graus é necessária para entender completamente qualquer prescrição feita pela IA. Por exemplo, se a IA for usada para tomar uma decisão de investimento, também seria necessário saber a razão por trás disso, para que possa transferir esse aprendizado para outras áreas e entender os possíveis armadilhas de tomar essa decisão. Uma compreensão sólida de como a IA opera também permitirá que os tomadores de decisão descubram novos casos de uso.

Regulamentações e Responsabilidade: Várias regulamentações, como o GDPR, estão exigindo um direito à explicação para abordar as questões de responsabilidade que surgem de um processo de tomada de decisão automatizada. Em sistemas como veículos autônomos, se algo der errado, levando à perda de vidas e propriedades, é necessário ter um conhecimento adequado da causa raiz, o que será difícil de identificar em um sistema de caixa preta.

Como a IA pode ser mais explicável?

Sistemas de Inteligência Artificial Explicável (XAI) são desenvolvidos usando diferentes técnicas que se concentram em explicar o modelo como um todo ou em explicar o raciocínio por trás de cada previsão por meio da assistência de algum algoritmo.

A maioria das técnicas de explicabilidade depende de:

• Dividir um modelo em componentes individuais)
• Visualização das previsões do modelo (por exemplo, se um modelo classifica um carro como sendo de uma determinada marca, ele destaca a parte que causou isso)
• Mineração de Explicações (usando técnicas de aprendizado de máquina para encontrar dados relevantes que expliquem a previsão de um algoritmo de inteligência artificial).

Em uma técnica chamada modelagem proxy, um modelo mais simples e compreensível, como uma árvore de decisão, é usado para representar aproximadamente o modelo de IA mais elaborado. Essas explicações simplistas dão uma ideia justa do modelo em um nível alto, mas às vezes podem suprimir certas nuances.

Outra abordagem é chamada de “interpretabilidade por design”. Essa abordagem impõe restrições no design e no treinamento da rede de IA de uma nova maneira, que tenta construir a rede geral a partir de pedaços menores e mais explicáveis. Isso envolve uma troca entre o nível de precisão e a explicabilidade e limita certas abordagens da caixa de ferramentas do cientista de dados. Pode ser também altamente intensivo em computação.

O treinamento e teste da IA também podem empregar técnicas de verificação de dados agnósticas, como o modelo local interpretável (LIME) e as Explicações Aditivas de Shapley (SHAP), e essas devem ser personalizadas para alcançar alta precisão por meio do uso de métricas como F-pontuação e precisão. E, claro, todos os resultados devem ser monitorados e verificados usando uma ampla variedade de dados. Usando LIME, por exemplo, as organizações são capazes de criar modelos temporários que imitam as previsões de algoritmos não transparentes, como aprendizado de máquina. Esses modelos LIME podem então criar uma ampla gama de permutações com base em um conjunto de dados dado e sua saída correspondente, que podem ser usados para treinar modelos mais simples e interpretáveis, juntamente com listas completas de explicações para cada decisão e/ou previsão. O quadro SHAP, que tem suas bases na teoria dos jogos e, especificamente, na teoria dos jogos cooperativos, é um modelo que combina a alocação de crédito óptima com explicações locais usando os valores originais de Shapley da teoria dos jogos e seus descendentes.

Operações Principais

Em um nível mais estratégico, no entanto, os quadros de confiabilidade da IA devem incorporar um conjunto amplo de princípios destinados a garantir resultados adequados tanto no início do deploy quanto ao longo do tempo, à medida que os modelos evoluem diante de circunstâncias em mudança. No mínimo, esses quadros devem incluir coisas como:

• Deteção de Vieses – todos os conjuntos de dados devem ser limpos de vieses e atributos discriminatórios e, em seguida, receber o peso e a discrição adequados quando aplicados ao modelo de treinamento;
• Participação Humana – os operadores devem ser capazes de investigar e interpretar as saídas do algoritmo a qualquer momento, particularmente quando os modelos são usados para aplicação da lei e preservação das liberdades civis;
• Justificativa – todas as previsões devem ser capazes de resistir a escrutínio, o que, por natureza, exige um alto grau de transparência para permitir que observadores externos avaliem os processos e critérios usados para produzir resultados;
• Reprodutibilidade – modelos de IA confiáveis devem ser consistentes em suas previsões e devem exibir altos níveis de estabilidade ao encontrar novos dados.

Mas a XAI não deve ser vista apenas como um meio de melhorar a rentabilidade, mas também para trazer a responsabilidade para garantir que as instituições possam explicar e justificar o efeito de suas criações na sociedade como um todo.