Google Cria Novo Programa de IA Explicável para Melhorar a Transparência e a Depuração

Há pouco tempo, o Google (GOOGL ) anunciou a criação de uma nova plataforma de nuvem destinada a fornecer insights sobre como um programa de IA toma decisões, tornando mais fácil depurar o programa e melhorar a transparência. Conforme relatado pelo The Register, a plataforma de nuvem é chamada de IA Explicável e marca uma tentativa importante do Google de investir na explicabilidade da IA.

Redes neurais artificiais são empregadas em muitos, talvez na maioria, dos principais sistemas de IA empregados no mundo hoje. As redes neurais que executam aplicações de IA importantes podem ser extraordinariamente complexas e grandes, e à medida que a complexidade do sistema cresce, torna-se cada vez mais difícil intuir por que uma decisão particular foi tomada pelo sistema. Como explica o Google em seu white paper, à medida que os sistemas de IA se tornam mais poderosos, também se tornam mais complexos e, portanto, mais difíceis de depurar. A transparência também é perdida quando isso ocorre, o que significa que algoritmos tendenciosos podem ser difíceis de reconhecer e abordar.

O fato de a razão que impulsiona o comportamento de sistemas complexos ser tão difícil de interpretar muitas vezes tem consequências drásticas. Além de tornar difícil combater os vieses da IA, pode tornar extremamente difícil distinguir entre correlações espúrias e correlações genuinamente importantes e interessantes.

Muitas empresas e grupos de pesquisa estão explorando como abordar o problema da “caixa preta” da IA e criar um sistema que explique adequadamente por que certas decisões foram tomadas por uma IA. A plataforma de IA Explicável do Google representa sua própria tentativa de enfrentar esse desafio. A IA Explicável é composta por três ferramentas diferentes. A primeira ferramenta é um sistema que descreve quais recursos foram selecionados por uma IA e também exibe uma pontuação de atribuição que representa a quantidade de influência que um recurso particular tem na previsão final. O relatório do Google sobre a ferramenta fornece um exemplo de prever quanto tempo uma viagem de bicicleta durará com base em variáveis como chuva, temperatura atual, dia da semana e hora de início. Depois que a rede toma a decisão, é fornecido um feedback que exibe quais recursos tiveram o maior impacto nas previsões.

Como essa ferramenta fornece feedback no caso de dados de imagem? Nesse caso, a ferramenta produz uma sobreposição que realça as regiões da imagem que pesaram mais fortemente na decisão renderizada.

Outra ferramenta encontrada no kit de ferramentas é a ferramenta “E se”, que exibe flutuações potenciais no desempenho do modelo à medida que atributos individuais são manipulados. Finalmente, a última ferramenta pode ser configurada para fornecer resultados de amostra a revisores humanos em um cronograma consistente.

O Dr. Andrew Moore, cientista-chefe de IA e aprendizado de máquina do Google, descreveu a inspiração para o projeto. Moore explicou que há cerca de cinco anos, a comunidade acadêmica começou a se preocupar com os subprodutos nocivos do uso da IA e que o Google queria garantir que seus sistemas estivessem sendo usados apenas de maneira ética. Moore descreveu um incidente em que a empresa estava tentando projetar um programa de visão computacional para alertar trabalhadores da construção se alguém não estivesse usando um capacete, mas se preocupou que o monitoramento pudesse ser levado longe demais e se tornar desumanizador. Moore disse que houve um motivo semelhante para o Google decidir não lançar uma API de reconhecimento facial geral, pois a empresa queria ter mais controle sobre como sua tecnologia estava sendo usada e garantir que estivesse sendo usada apenas de maneira ética.

Moore também destacou por que é tão importante que as decisões da IA sejam explicáveis:

“Se você tiver um sistema crítico de segurança ou algo societariamente importante que possa ter consequências não intencionais se você achar que seu modelo cometeu um erro, você precisa ser capaz de diagnosticá-lo. Queremos explicar cuidadosamente o que a explicabilidade pode e não pode fazer. Não é uma panaceia.