Explicação de Inteligência Artificial Usando Fórmulas Booleanas Expressivas

A explosão em aplicações de inteligência artificial (IA) e aprendizado de máquina está permeando quase todas as indústrias e aspectos da vida.

No entanto, seu crescimento não vem sem ironia. Embora a IA exista para simplificar e/ou acelerar a tomada de decisões ou fluxos de trabalho, a metodologia para fazê-lo é frequentemente extremamente complexa. De fato, alguns algoritmos de aprendizado de máquina “caixa preta” são tão intricados e multifacetados que podem desafiar uma explicação simples, mesmo por parte dos cientistas da computação que os criaram.

Isso pode ser bastante problemático quando certos casos de uso – como nos campos de finanças e medicina – são definidos por práticas recomendadas da indústria ou regulamentos governamentais que exigem explicações transparentes sobre o funcionamento interno das soluções de IA. E se essas aplicações não forem expressivas o suficiente para atender aos requisitos de explicabilidade, elas podem ser tornadas inúteis, independentemente de sua eficácia geral.

Para resolver esse dilema, nossa equipe no Fidelity Center for Applied Technology (FCAT) — em colaboração com o Amazon Quantum Solutions Lab — propôs e implementou um modelo de aprendizado de máquina interpretável para Inteligência Artificial Explicável (XAI) baseado em fórmulas booleanas expressivas. Essa abordagem pode incluir qualquer operador que possa ser aplicado a uma ou mais variáveis booleanas, fornecendo assim uma expressividade mais alta em comparação com abordagens baseadas em regras e árvores mais rígidas.

Você pode ler o artigo completo aqui para obter detalhes abrangentes sobre esse projeto.

Nossa hipótese era que, desde que os modelos – como árvores de decisão – podem se tornar profundos e difíceis de interpretar, a necessidade de encontrar uma regra expressiva com baixa complexidade, mas alta precisão, era um problema de otimização intransponível que precisava ser resolvido. Além disso, ao simplificar o modelo por meio dessa abordagem avançada de XAI, poderíamos alcançar benefícios adicionais, como expor vieses que são importantes no contexto do uso ético e responsável de ML; ao mesmo tempo, tornaria mais fácil manter e melhorar o modelo.

Propusemos uma abordagem baseada em fórmulas booleanas expressivas porque elas definem regras com complexidade (ou interpretabilidade) ajustável de acordo com os dados de entrada que estão sendo classificados. Tal fórmula pode incluir qualquer operador que possa ser aplicado a uma ou mais variáveis booleanas (como E ou PeloMenos), fornecendo assim uma expressividade mais alta em comparação com metodologias baseadas em regras e árvores mais rígidas.

Nesse problema, temos dois objetivos concorrentes: maximizar o desempenho do algoritmo, enquanto minimiza sua complexidade. Portanto, em vez de adotar a abordagem típica de aplicar um dos dois métodos de otimização – combinando vários objetivos em um ou restringindo um dos objetivos – escolhemos incluir ambos em nossa formulação. Ao fazer isso, e sem perda de generalidade, usamos principalmente a precisão balanceada como nossa métrica de desempenho abrangente.

Além disso, ao incluir operadores como PeloMenos, fomos motivados pela ideia de atender à necessidade de listas de verificação altamente interpretáveis, como uma lista de sintomas médicos que significam uma condição particular. É concebível que uma decisão seja tomada usando tal lista de sintomas de uma maneira pela qual um número mínimo precisaria estar presente para um diagnóstico positivo. Da mesma forma, no setor financeiro, um banco pode decidir se conceder ou não crédito a um cliente com base na presença de um certo número de fatores de uma lista maior.

Implementamos com sucesso nosso modelo de XAI e o testamos em alguns conjuntos de dados públicos para crédito, comportamento do cliente e condições médicas. Descobrimos que nosso modelo é geralmente competitivo com outras alternativas bem conhecidas. Também descobrimos que nosso modelo de XAI pode potencialmente ser alimentado por hardware de propósito especial ou dispositivos quânticos para resolver rapidamente a Programação Linear Inteira (ILP) ou a Otimização Binária Quadrática não Restrita (QUBO). A adição de solucionadores QUBO reduz o número de iterações – levando assim a um aumento de velocidade pela rápida proposta de movimentos não locais.

Como observado, modelos de IA explicáveis usando fórmulas booleanas podem ter muitas aplicações em saúde e no setor financeiro da Fidelity (como pontuação de crédito ou para avaliar por que alguns clientes podem ter selecionado um produto, enquanto outros não). Ao criar essas regras interpretáveis, podemos alcançar níveis mais altos de insights que podem levar a melhorias futuras no desenvolvimento ou aperfeiçoamento de produtos, bem como na otimização de campanhas de marketing.

Com base em nossas descobertas, determinamos que a Inteligência Artificial Explicável usando fórmulas booleanas expressivas é apropriada e desejável para aqueles casos de uso que exigem explicabilidade adicional. Além disso, à medida que a computação quântica continua a se desenvolver, antevemos a oportunidade de ganhar aumentos de velocidade potenciais usando-a e outros aceleradores de hardware de propósito especial.

Trabalhos futuros podem se concentrar em aplicar esses classificadores a outros conjuntos de dados, introduzir novos operadores ou aplicar esses conceitos a outros casos de uso.