Inteligencia Artificial Explicable Utilizando Fórmulas Booleanas Expresivas

La explosión en aplicaciones de inteligencia artificial (IA) y aprendizaje automático está permeando casi todas las industrias y aspectos de la vida.

Pero su crecimiento no viene sin ironía. Mientras que la IA existe para simplificar y/o acelerar la toma de decisiones o flujos de trabajo, la metodología para hacerlo es a menudo extremadamente compleja. De hecho, algunos algoritmos de aprendizaje automático “caja negra” son tan intrincados y multifacéticos que pueden desafiar una explicación simple, incluso por parte de los científicos informáticos que los crearon.

Eso puede ser bastante problemático cuando ciertos casos de uso – como en los campos de finanzas y medicina – están definidos por las mejores prácticas de la industria o regulaciones gubernamentales que requieren explicaciones transparentes sobre el funcionamiento interno de las soluciones de IA. Y si estas aplicaciones no son lo suficientemente expresivas como para cumplir con los requisitos de explicabilidad, pueden ser inútiles, independientemente de su eficacia general.

Para abordar este dilema, nuestro equipo en el Centro de Tecnología Aplicada de Fidelity (FCAT) — en colaboración con el Laboratorio de Soluciones Cuánticas de Amazon — ha propuesto e implementado un modelo de aprendizaje automático interpretable para Inteligencia Artificial Explicable (IAE) basado en fórmulas booleanas expresivas. Este enfoque puede incluir cualquier operador que se pueda aplicar a una o más variables booleanas, lo que proporciona una mayor expresividad en comparación con enfoques más rígidos basados en reglas y árboles.

Puedes leer el artículo completo aquí para obtener detalles completos sobre este proyecto.

Nuestra hipótesis fue que, dado que los modelos – como los árboles de decisión – pueden volverse profundos y difíciles de interpretar, la necesidad de encontrar una regla expresiva con baja complejidad pero alta precisión era un problema de optimización intratable que necesitaba ser resuelto. Además, al simplificar el modelo a través de este enfoque avanzado de IAE, podríamos lograr beneficios adicionales, como exponer sesgos que son importantes en el contexto de uso ético y responsable de ML; al mismo tiempo, hacer que sea más fácil mantener y mejorar el modelo.

Propusimos un enfoque basado en fórmulas booleanas expresivas porque definen reglas con complejidad (o interpretabilidad) ajustable según los datos de entrada que se estén clasificando. Esta fórmula puede incluir cualquier operador que se pueda aplicar a una o más variables booleanas (como Y o AlMenos), lo que proporciona una mayor expresividad en comparación con metodologías más rígidas basadas en reglas y árboles.

En este problema tenemos dos objetivos en competencia: maximizar el rendimiento del algoritmo, mientras se minimiza su complejidad. Por lo tanto, en lugar de tomar el enfoque típico de aplicar uno de dos métodos de optimización – combinar múltiples objetivos en uno o restringir uno de los objetivos – elegimos incluir ambos en nuestra formulación. Al hacerlo, y sin pérdida de generalidad, utilizamos principalmente la precisión equilibrada como nuestra métrica de rendimiento general.

Además, al incluir operadores como AlMenos, nos motivó la idea de abordar la necesidad de listas de verificación altamente interpretables, como una lista de síntomas médicos que significan una condición particular. Es concebible que una decisión se tome utilizando dicha lista de síntomas de una manera en que se requiera un número mínimo para un diagnóstico positivo. De manera similar, en finanzas, un banco puede decidir si otorgar o no crédito a un cliente basándose en la presencia de ciertos factores de una lista más grande.

Implementamos con éxito nuestro modelo de IAE y lo evaluamos en algunos conjuntos de datos públicos para crédito, comportamiento del cliente y condiciones médicas. Encontramos que nuestro modelo es generalmente competitivo con otras alternativas bien conocidas. También encontramos que nuestro modelo de IAE puede potencialmente ser alimentado por hardware especializado o dispositivos cuánticos para resolver rápidamente la Programación Lineal Entera (PLE) o la Optimización Binaria no Restringida Cuadrática (QUBO). La adición de solvers QUBO reduce el número de iteraciones – lo que conduce a una aceleración por la propuesta rápida de movimientos no locales.

Como se mencionó, los modelos de inteligencia artificial explicable que utilizan fórmulas booleanas pueden tener muchas aplicaciones en atención médica y en el campo de finanzas de Fidelity (como puntuación de crédito o para evaluar por qué algunos clientes pueden haber seleccionado un producto mientras que otros no). Al crear estas reglas interpretables, podemos alcanzar niveles más altos de conocimiento que pueden conducir a mejoras futuras en el desarrollo o refinamiento de productos, así como en la optimización de campañas de marketing.

Basándonos en nuestros hallazgos, hemos determinado que la Inteligencia Artificial Explicable que utiliza fórmulas booleanas expresivas es adecuada y deseable para aquellos casos de uso que requieren una mayor explicabilidad. Además, a medida que la computación cuántica continúa desarrollándose, predecimos la oportunidad de obtener aceleraciones potenciales al utilizarla y otros aceleradores de hardware especializados.

El trabajo futuro puede centrarse en aplicar estos clasificadores a otros conjuntos de datos, introducir nuevos operadores o aplicar estos conceptos a otros casos de uso.