¿Qué es la Inteligencia Artificial Explicable?

A medida que la inteligencia artificial (IA) se vuelve más compleja y se adopta más ampliamente en la sociedad, uno de los conjuntos de procesos y métodos más críticos es la inteligencia artificial explicable (IAE), a veces denominada XAI. 

La inteligencia artificial explicable se puede definir como:

• Un conjunto de procesos y métodos que ayudan a los usuarios humanos a comprender y confiar en los resultados de los algoritmos de aprendizaje automático. 

Como puede suponer, esta capacidad de explicación es increíblemente importante ya que los algoritmos de IA toman el control de muchos sectores, lo que conlleva el riesgo de sesgo, algoritmos defectuosos y otros problemas. Al lograr la transparencia con la explicabilidad, el mundo puede aprovechar verdaderamente el poder de la IA. 

La inteligencia artificial explicable, como sugiere su nombre, ayuda a describir un modelo de IA, su impacto y posibles sesgos. También juega un papel en la caracterización de la precisión del modelo, la equidad, la transparencia y los resultados en los procesos de toma de decisiones impulsados por la IA. 

Las organizaciones impulsadas por la IA de hoy en día deben adoptar siempre procesos de inteligencia artificial explicable para ayudar a construir confianza y confianza en los modelos de IA en producción. La inteligencia artificial explicable también es clave para convertirse en una empresa responsable en el entorno de la IA de hoy. 

Debido a que los sistemas de IA de hoy en día son tan avanzados, los humanos suelen realizar un proceso de cálculo para rastrear cómo el algoritmo llegó a su resultado. Este proceso se convierte en una “caja negra”, lo que significa que es imposible de entender. Cuando estos modelos inexplicables se desarrollan directamente a partir de los datos, nadie puede entender qué está sucediendo dentro de ellos. 

Al entender cómo funcionan los sistemas de IA a través de la inteligencia artificial explicable, los desarrolladores pueden asegurarse de que el sistema funcione como se supone. También puede ayudar a asegurarse de que el modelo cumpla con los estándares regulatorios y proporciona la oportunidad de que el modelo sea desafiado o modificado. 

Imagen: Dr. Matt Turek/DARPA

Diferencias entre IA y XAI

Algunas diferencias clave ayudan a separar la “IA regular” de la inteligencia artificial explicable, pero lo más importante es que la XAI implementa técnicas y métodos específicos que ayudan a garantizar que cada decisión en el proceso de aprendizaje automático sea rastreable y explicable. En comparación, la IA regular suele llegar a su resultado utilizando un algoritmo de aprendizaje automático, pero es imposible entender completamente cómo el algoritmo llegó a su resultado. En el caso de la IA regular, es extremadamente difícil verificar la precisión, lo que resulta en una pérdida de control, responsabilidad y auditoría. 

Beneficios de la Inteligencia Artificial Explicable

Hay muchos beneficios para cualquier organización que busque adoptar la inteligencia artificial explicable, como:

• Resultados más rápidos: La inteligencia artificial explicable permite a las organizaciones monitorear y gestionar sistemáticamente los modelos para optimizar los resultados comerciales. Es posible evaluar y mejorar continuamente el rendimiento del modelo y ajustar el desarrollo del modelo.
  
• Mitigar riesgos: Al adoptar procesos de inteligencia artificial explicable, se asegura de que los modelos de IA sean explicables y transparentes. Pueden gestionar los riesgos regulatorios, de cumplimiento y otros requisitos mientras minimizan la sobrecarga de la inspección manual. Todo esto también ayuda a mitigar el riesgo de sesgo no intencional. 
• Construir confianza: La inteligencia artificial explicable ayuda a establecer confianza en la IA en producción. Los modelos de IA pueden ser rápidamente llevados a producción, se puede asegurar la interpretación y la explicabilidad, y el proceso de evaluación del modelo se puede simplificar y hacer más transparente. 

Técnicas para la Inteligencia Artificial Explicable

Hay algunas técnicas de XAI que todas las organizaciones deben considerar, y consisten en tres métodos principales: precisión de la predicción, rastreabilidad y comprensión de la decisión. 

El primer método de los tres, precisión de la predicción, es esencial para utilizar con éxito la IA en las operaciones diarias. Se pueden realizar simulaciones y se puede comparar la salida de la XAI con los resultados en el conjunto de datos de entrenamiento, lo que ayuda a determinar la precisión de la predicción. Una de las técnicas más populares para lograr esto es llamada Explicaciones Locales de Modelo-Agnóstico (LIME), una técnica que explica la predicción de los clasificadores por el algoritmo de aprendizaje automático. 

El segundo método es rastreabilidad, que se logra limitando cómo se pueden tomar decisiones, así como estableciendo un alcance más estrecho para las reglas y características de aprendizaje automático. Una de las técnicas de rastreabilidad más comunes es DeepLIFT, o Características Importantes de Aprendizaje Profundo. DeepLIFT compara la activación de cada neurona con su neurona de referencia mientras demuestra un enlace rastreable entre cada neurona activada. También muestra las dependencias entre ellas. 

El tercer y último método es comprensión de la decisión, que es centrada en el ser humano, a diferencia de los otros dos métodos. La comprensión de la decisión implica educar a la organización, específicamente al equipo que trabaja con la IA, para permitirles entender cómo y por qué la IA toma decisiones. Este método es crucial para establecer confianza en el sistema. 

Principios de la Inteligencia Artificial Explicable

Para proporcionar una mejor comprensión de la XAI y sus principios, el Instituto Nacional de Estándares (NIST), que es parte del Departamento de Comercio de EE. UU., proporciona definiciones para cuatro principios de la inteligencia artificial explicable:

1. Un sistema de IA debe proporcionar evidencia, apoyo o razonamiento para cada salida. 
2. Un sistema de IA debe dar explicaciones que puedan ser entendidas por sus usuarios. 
3. La explicación debe reflejar con precisión el proceso utilizado por el sistema para llegar a su salida. 
4. El sistema de IA solo debe operar bajo las condiciones para las que fue diseñado, y no debe proporcionar salida cuando carezca de confianza suficiente en el resultado. 

Estos principios se pueden organizar aún más en:

• Significativo: Para lograr el principio de significación, un usuario debe entender la explicación proporcionada. Esto también podría significar que en el caso de un algoritmo de IA utilizado por diferentes tipos de usuarios, puede haber varias explicaciones. Por ejemplo, en el caso de un automóvil autónomo, una explicación podría ser similar a… “la IA clasificó la bolsa de plástico en la carretera como una roca, y por lo tanto tomó medidas para evitar golpearla”. Mientras que este ejemplo funcionaría para el conductor, no sería muy útil para un desarrollador de IA que busque corregir el problema. En ese caso, el desarrollador debe entender por qué hubo una mala clasificación. 
• Precisión de la explicación: A diferencia de la precisión de la salida, la precisión de la explicación implica que el algoritmo de IA explica con precisión cómo llegó a su salida. Por ejemplo, si un algoritmo de aprobación de préstamos explica una decisión basada en la renta de la solicitud cuando en realidad se basó en el lugar de residencia del solicitante, la explicación sería inexacta. 
• Límites del conocimiento: Los límites del conocimiento de la IA se pueden alcanzar de dos maneras, y se refiere a la entrada que está fuera del alcance del sistema. Por ejemplo, si un sistema está diseñado para clasificar especies de aves y se le da una imagen de una manzana, debe ser capaz de explicar que la entrada no es un ave. Si el sistema se le da una imagen borrosa, debe ser capaz de informar que no puede identificar el ave en la imagen, o alternativamente, que su identificación tiene muy poca confianza. 

Papel de los datos en la Inteligencia Artificial Explicable

Uno de los componentes más importantes de la inteligencia artificial explicable es el dato. 

Según Google (GOOGL ) , en cuanto a los datos y la inteligencia artificial explicable, “un sistema de IA se entiende mejor por los datos de entrenamiento subyacentes y el proceso de entrenamiento, así como por el modelo de IA resultante”. Esta comprensión depende de la capacidad de asignar un modelo de IA entrenado al conjunto de datos exacto utilizado para entrenarlo, así como de examinar los datos de cerca. 

Para mejorar la explicabilidad de un modelo, es importante prestar atención a los datos de entrenamiento. Los equipos deben determinar el origen de los datos utilizados para entrenar un algoritmo, la legalidad y la ética que rodean su obtención, cualquier posible sesgo en los datos y qué se puede hacer para mitigar cualquier sesgo. 

Otro aspecto crítico de los datos y la XAI es que los datos irrelevantes para el sistema deben excluirse. Para lograr esto, los datos irrelevantes no deben incluirse en el conjunto de entrenamiento o en los datos de entrada. 

Google ha recomendado un conjunto de prácticas para lograr la interpretación y la rendición de cuentas:

• Planificar las opciones para perseguir la interpretación
• Tratar la interpretación como una parte fundamental de la experiencia del usuario
• Diseñar el modelo para que sea interpretable
• Elegir métricas que reflejen el objetivo final y la tarea final
• Entender el modelo entrenado
• Comunicar explicaciones a los usuarios del modelo
• Realizar muchas pruebas para asegurarse de que el sistema de IA esté funcionando como se pretendía 

Al seguir estas prácticas recomendadas, su organización puede asegurarse de lograr la inteligencia artificial explicable, que es clave para cualquier organización impulsada por la IA en el entorno de hoy.