Explicabilidade: A Próxima Fronteira para Inteligência Artificial em Seguros e Bancos

Por Dr. Ori Katz, Cientista de Pesquisa Analítica, Earnix.

“Qualquer tecnologia suficientemente avançada é indistinguível de magia”, argumentou o escritor de ficção científica Arthur C. Clarke. De fato, às vezes a tecnologia avançada, como os novos algoritmos de aprendizado de máquina, se assemelha a magia. As aplicações em evolução do aprendizado de máquina, incluindo classificação de imagens, reconhecimento de voz e seu uso nos setores de seguros e bancos, têm propriedades quase sobrenaturais.

Muitas empresas estão relutantes em mudar seus modelos analíticos tradicionais – e com razão. A magia é perigosa, especialmente se não for bem compreendida. Redes neurais e algoritmos de ensemble de árvores são “caixas pretas”, cuja estrutura interna pode ser extremamente complexa. Ao mesmo tempo, vários estudos [1] mostraram como as redes neurais e os algoritmos baseados em árvores podem superar até mesmo os modelos de risco de seguros tradicionais mais cuidadosamente ajustados, construídos por atuários experientes. Isso ocorre devido à capacidade dos novos algoritmos de identificar automaticamente estruturas ocultas nos dados. O mistério e a utilidade das redes neurais e dos algoritmos baseados em árvores são contrastantes. Há um trade-off inerente entre a precisão de um modelo analítico e seu nível de “explicabilidade”. Como podemos confiar nos modelos se não podemos entender como eles chegam a suas conclusões? Devemos simplesmente nos render à magia, sacrificar nossa confiança e controle sobre algo que não podemos compreender totalmente por precisão?

Gerentes e analistas não são os únicos preocupados com esse trade-off. Nos últimos anos, reguladores começaram a explorar o lado sombrio da magia para aumentar sua capacidade de monitorar esses setores. Os setores de bancos e seguros são altamente regulamentados em muitos aspectos, e as tendências atuais de regulamentação envolvem uma análise mais detalhada dos modelos utilizados para fazer previsões. O Considerando 71 do Regulamento Geral de Proteção de Dados da União Europeia (GDPR), por exemplo, afirma que os clientes devem ter o direito de obter uma explicação para uma decisão automatizada única após sua tomada. Desde sua criação, esse elemento da regulamentação tem sido centro de um debate acadêmico altamente controverso.

A necessidade urgente de explicar modelos analíticos “caixas pretas” levou ao surgimento de um novo campo de pesquisa: Inteligência Artificial Explicável. Especialistas estão desenvolvendo ferramentas que nos permitem olhar dentro da caixa preta e desvendar pelo menos parte da magia. Dois tipos de ferramentas que os pesquisadores criaram incluem ferramentas de “Explicabilidade Global”, que podem nos ajudar a entender quais recursos estão impulsionando as previsões gerais do modelo, e ferramentas de “Explicabilidade Local”, que visam explicar uma previsão específica.

O seguinte gráfico é um exemplo de explicabilidade local. Ele se baseia nas ideias do economista ganhador do Prêmio Nobel Lloyd Shapley, que desenvolveu um método de teoria dos jogos para calcular a contribuição de vários jogadores cooperando na mesma tarefa. Na Inteligência Artificial Explicável, os “jogadores” são os recursos do modelo, enquanto a “tarefa” é a previsão do modelo. Os números que descrevem a contribuição de cada recurso são chamados de “Valores de Shapley”. Pesquisadores recentemente desenvolveram métodos para a estimativa rápida de Valores de Shapley [2], permitindo-nos distribuir de forma justa uma previsão entre os diferentes recursos.

Usando Valores de Shapley para Explicar a Demanda de Renovação Prevista de um Cliente Específico

O gráfico, baseado em dados simulados, mostra o resultado de um modelo de demanda que prevê a probabilidade de renovação de uma apólice de seguro de automóvel. Esta é uma explicação local para um cliente específico. O modelo de demanda é baseado em um ensemble complexo de árvores de decisão, mas o gráfico apresenta a contribuição separada de cada recurso para a previsão final. Neste exemplo, o modelo prevê que o indivíduo médio nos dados renovará a apólice com uma probabilidade de 0,64. No entanto, para este cliente específico, a probabilidade prevista é muito maior, em 0,72. O gráfico permite ver a causa dessa diferença.

Embora não possamos entender completamente a estrutura interna desse modelo complexo, os Valores de Shapley permitem que vejamos quais são os recursos mais importantes para uma previsão específica, desvendando parte da magia. A média dos Valores de Shapley individuais sobre a população nos permite ver quais recursos são mais importantes e obter explicabilidade global do modelo. Outras ferramentas de explicabilidade populares incluem “Importância de Recurso por Permutação”, modelos substitutos simples ajustados localmente e exemplos contrafactuais, para citar alguns [3].

As novas ferramentas de explicabilidade são o próximo passo necessário na evolução do aprendizado de máquina. Elas podem permitir que as companhias de seguros e bancos entendam e confiem nos seus modelos de aprendizado de máquina, cumpram com as novas regulamentações e forneçam aos seus clientes informações valiosas. Agora podemos parcialmente superar o trade-off entre precisão e explicabilidade e desfrutar das vantagens dos novos modelos de aprendizado de máquina com menos preocupações sobre sua natureza de caixa preta.

No nosso mundo rapidamente digitalizado, tornar-se totalmente orientado por análise é o critério básico de sobrevivência para seguradoras e bancos. Essa capacidade sempre foi importante – mas se tornou vital com as condições de mercado voláteis que 2020 trouxe para nós. Seguradoras e bancos precisam de análises mais inteligentes para modelar uma nova realidade complexa sobre a qual possam basear suas decisões de negócios e servir aos seus clientes de forma mais rápida e melhor. As ferramentas de explicabilidade podem permitir que seguradoras e bancos alcancem isso. Com o tempo, chegaremos ao ponto em que os modelos de aprendizado de máquina não serão mais considerados magia, mas uma ferramenta essencial no arsenal central de qualquer negócio orientado por dados.

Fontes:

[1] Bärtl, M., & Krummaker, S. (2020). Previsão de sinistros em finanças de crédito à exportação: Uma comparação de quatro técnicas de aprendizado de máquina. Riscos, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Estudo de caso: Sinistros de responsabilidade civil de motoristas franceses. Disponível em SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). A precisão do XGBoost para previsão de sinistros de seguros. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Um estudo comparativo de algoritmos de mineração de dados na previsão de sinistros de seguros de automóvel. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Uma abordagem unificada para interpretar previsões de modelos. Em Advances in neural information processing systems (pp. 4765-4774).

[3] Veja aqui para mais detalhes: https://christophm.github.io/interpretable-ml-book/index.html