Pesquisadores de IA Desenvolvem Método Rápido para Calcular Intervalos de Confiança, Relatando Quando o Modelo Não Deve Ser Confiável

Pesquisadores do MIT recentemente desenvolveram uma técnica que permite que modelos de rede neural profunda calculem rapidamente níveis de confiança, o que pode ajudar cientistas de dados e outros usuários de IA a saber quando confiar nas previsões renderizadas por um modelo.

Sistemas de IA baseados em redes neurais artificiais são responsáveis por mais e mais decisões nos dias de hoje, incluindo muitas decisões que envolvem a saúde e a segurança das pessoas. Devido a isso, as redes neurais devem ter algum método de estimar a confiança em suas saídas, permitindo que os cientistas de dados saibam quão confiáveis são suas previsões. Recentemente, uma equipe de pesquisadores de Harvard e MIT projetou uma maneira rápida para que as redes neurais gerem um indicador da confiança do modelo ao lado de suas previsões.

Modelos de aprendizado profundo se tornaram cada vez mais sofisticados ao longo da última década e agora podem facilmente superar os humanos em tarefas de classificação de dados. Modelos de aprendizado profundo estão sendo usados em campos onde a saúde e a segurança das pessoas podem estar em risco se falharem, como dirigir veículos autônomos e diagnosticar condições médicas a partir de exames. Nesses casos, não é suficiente que um modelo seja 99% preciso, os 1% de vezes que o modelo falha têm o potencial de levar a catástrofes. Como resultado, é necessário haver uma maneira pela qual os cientistas de dados possam determinar quão confiável é uma previsão específica.

Existem algumas maneiras pelas quais um intervalo de confiança pode ser gerado junto com as previsões das redes neurais, mas os métodos tradicionais de estimar incerteza para uma rede neural são bastante lentos e computacionalmente caros. As redes neurais podem ser incrivelmente grandes e complexas, cheias de bilhões de parâmetros. Apenas gerar previsões pode ser computacionalmente caro e levar um tempo considerável, e gerar um nível de confiança para as previsões leva ainda mais tempo. A maioria dos métodos anteriores de quantificar incerteza dependia de amostragem ou execução da rede várias vezes para obter uma estimativa de sua confiança. Isso não é sempre viável para aplicações que exigem tráfego de alta velocidade.

Conforme relatado pelo MIT News, Alexander Amini lidera o grupo combinado de pesquisadores do MIT e Harvard, e de acordo com Amini, o método desenvolvido por seus pesquisadores acelera o processo de gerar estimativas de incerteza usando uma técnica chamada “regressão evidencial profunda”. Amini explicou, por meio do MIT, que os cientistas de dados precisam de modelos de alta velocidade e estimativas confiáveis de incerteza para que os modelos não confiáveis possam ser discernidos. Para preservar tanto a velocidade do modelo quanto gerar uma estimativa de incerteza, os pesquisadores projetaram uma maneira de estimar a incerteza a partir de apenas uma execução do modelo.

Os pesquisadores projetaram o modelo de rede neural de tal forma que uma distribuição probabilística foi gerada ao lado de cada decisão. A rede mantém evidências para suas decisões durante o processo de treinamento, gerando uma distribuição de probabilidade com base nas evidências. A distribuição evidencial representa a confiança do modelo e representa a incerteza tanto para a decisão final do modelo quanto para os dados de entrada originais. Capturar a incerteza tanto para os dados de entrada quanto para as decisões é importante, pois reduzir a incerteza depende de saber a fonte da incerteza.

Os pesquisadores testaram sua técnica de estimativa de incerteza aplicando-a a uma tarefa de visão computacional. Após o modelo ser treinado em uma série de imagens, ele gerou previsões e estimativas de incerteza. A rede projetou corretamente alta incerteza para instâncias em que a previsão errada foi feita. “Foi muito calibrado para os erros que a rede comete, o que acreditamos ser uma das coisas mais importantes ao julgar a qualidade de um novo estimador de incerteza”, disse Amini sobre os resultados do teste do modelo.

A equipe de pesquisa realizou mais testes com sua arquitetura de rede. Para estressar a técnica, eles também testaram os dados em “dados fora da distribuição”, conjuntos de dados compostos por objetos que a rede nunca havia visto antes. Como esperado, a rede relatou alta incerteza para esses objetos não vistos. Quando treinada em ambientes internos, a rede exibiu alta incerteza quando testada em imagens de ambientes externos. Os testes mostraram que a rede poderia destacar quando suas decisões estavam sujeitas a alta incerteza e não deveriam ser confiáveis em certas circunstâncias de alto risco.

A equipe de pesquisa relatou que a rede também pôde discernir quando as imagens haviam sido alteradas. Quando a equipe de pesquisa alterou fotos com ruído adversário, a rede marcou as imagens alteradas com estimativas de incerteza altas, apesar de o efeito ser muito sutil para ser visto por um observador humano médio.

Se a técnica se provar confiável, a regressão evidencial profunda poderia melhorar a segurança dos modelos de IA em geral. De acordo com Amini, a regressão evidencial profunda poderia ajudar as pessoas a tomar decisões cuidadosas ao usar modelos de IA em situações de risco. Conforme Amini explicou por meio do MIT News:

“Estamos começando a ver mais e mais desses [modelos de rede neural] saírem do laboratório de pesquisa e entrarem no mundo real, em situações que estão tocando seres humanos com consequências potencialmente letais. Qualquer usuário do método, seja um médico ou uma pessoa no banco de passageiro de um veículo, precisa estar ciente de qualquer risco ou incerteza associado a essa decisão.”