Presentando Nuevos Niveles de Transparencia con IA – Líderes de Pensamiento

Por Balakrishna D R, Vicepresidente Senior, Jefe de Oferta de Servicio – Energía, Comunicaciones, Servicios y Servicios de Automatización y IA, en Infosys.

El 9 de enero de 2020, la Organización Mundial de la Salud notificó al público sobre el brote de Coronavirus en China. Tres días antes, los Centros para el Control y la Prevención de Enfermedades de EE. UU. habían dado la noticia. Pero fue una plataforma de monitoreo de salud canadiense que había superado a ambos, enviando la noticia del brote a sus clientes ya el 31 de diciembre de 2019. La plataforma, BlueDot, utiliza algoritmos impulsados por inteligencia artificial que buscan informes de noticias en idiomas extranjeros, redes de enfermedades de animales y plantas, y proclamaciones oficiales para dar a sus clientes una advertencia anticipada para evitar zonas de peligro como Wuhan.

En los últimos años, la inteligencia artificial se ha convertido en la principal fuente de transformación, disruptión y ventaja competitiva en la economía en constante cambio de hoy. Desde el seguimiento de epidemias hasta la defensa, la atención médica, los vehículos autónomos y todo lo demás, la IA está ganando una adopción generalizada. PwC predice que la IA podría contribuir hasta $15.7 billones a la economía global en 2030, a su tasa de crecimiento actual.

Aun así, por toda la esperanza que la IA trae, todavía plantea preguntas sin respuesta sobre transparencia y confiabilidad. La necesidad de entender, predecir y confiar en la capacidad de toma de decisiones de los sistemas de IA es importante, especialmente en áreas que son críticas para la vida, la muerte y el bienestar personal.

Entrando en lo desconocido

Cuando se introdujeron los sistemas de razonamiento automatizado para apoyar la toma de decisiones, dependían de reglas creadas manualmente. Si bien esto hizo que fuera fácil interpretar y modificar su comportamiento, no eran escalables. Los modelos basados en aprendizaje automático llegaron para abordar esta necesidad; no requerían intervención humana y podían entrenarse con datos, cuanto más mejor. Si bien los modelos de aprendizaje profundo son insuperables en su capacidad de modelado y alcance de aplicabilidad, el hecho de que estos modelos sean cajas negras en gran medida, plantea preguntas inquietantes sobre su veracidad, confiabilidad y sesgos en el contexto de su amplio uso.

Actualmente, no hay un mecanismo directo para rastrear el razonamiento implícito utilizado por los modelos de aprendizaje profundo. Con los modelos de aprendizaje automático que tienen una naturaleza de caja negra, el tipo principal de explicabilidad es la explicabilidad post-hoc, lo que implica que las explicaciones se derivan de la naturaleza y las propiedades de las salidas generadas por el modelo. Los primeros intentos de extraer reglas de las redes neuronales (como se conocía anteriormente al aprendizaje profundo) no se persiguen actualmente, ya que las redes se han vuelto demasiado grandes y diversas para la extracción de reglas tratables. Por lo tanto, es urgente introducir interpretabilidad y transparencia en el tejido mismo del modelado de IA.

Salida de la noche, entrada de la luz

Esta preocupación ha creado una necesidad de transparencia en el aprendizaje automático, lo que ha llevado al crecimiento de la IA explicativa, o XAI. Busca abordar los principales problemas que obstaculizan nuestra capacidad para confiar plenamente en la toma de decisiones de la IA, incluida la sesgo y la transparencia. Este nuevo campo de la IA aporta responsabilidad para garantizar que la IA beneficie a la sociedad con mejores resultados para todos los involucrados.

XAI será fundamental para ayudar con el sesgo inherente a los sistemas y algoritmos de IA, que son programados por personas cuyos antecedentes y experiencias llevan involuntariamente al desarrollo de sistemas de IA que exhiben sesgo. Los sesgos no deseados, como la discriminación contra una nacionalidad o etnia en particular, pueden infiltrarse porque el sistema agrega un valor a ellos en función de los datos reales. Por ejemplo, puede encontrarse que los prestatarios típicos de préstamos provienen de un trasfondo étnico particular, sin embargo, implementar cualquier política restrictiva basada en esto puede ir en contra de las prácticas justas. Los datos erróneos son otra causa de sesgo. Por ejemplo, si un escáner de reconocimiento facial es inexacto el 5% de las veces debido al tono de la piel de la persona o la luz que cae en la cara, podría introducir sesgo. Por último, si sus datos de muestra no son una representación verdadera de la población en su conjunto, el sesgo es inevitable.

XAI busca abordar cómo se toman las decisiones de las cajas negras de los sistemas de IA. Examina y trata de entender los pasos y modelos involucrados en la toma de decisiones. Responde preguntas cruciales como: ¿Por qué el sistema de IA hizo una predicción o decisión específica? ¿Por qué el sistema de IA no hizo algo más? ¿Cuándo el sistema de IA tuvo éxito o fracasó? ¿Cuándo los sistemas de IA dan suficiente confianza en la decisión para que se pueda confiar en ella, y cómo puede el sistema de IA corregir errores?

IA explicativa, predecible y rastreable

Una forma de obtener explicabilidad en los sistemas de IA es utilizar algoritmos de aprendizaje automático que sean inherentemente explicativos. Por ejemplo, formas más simples de aprendizaje automático, como los árboles de decisión, los clasificadores bayesianos y otros algoritmos que tienen cierta cantidad de rastreabilidad y transparencia en su toma de decisiones. Pueden proporcionar la visibilidad necesaria para los sistemas de IA críticos sin sacrificar demasiado rendimiento o precisión.

Al darse cuenta de la necesidad de proporcionar explicabilidad para el aprendizaje profundo y otros enfoques algorítmicos más complejos, la Agencia de Investigación y Desarrollo Avanzado de Defensa de EE. UU. (DARPA) está llevando a cabo esfuerzos para producir soluciones de IA explicativa a través de varias iniciativas de investigación financiadas. DARPA describe la explicabilidad de la IA en tres partes que incluyen: precisión de predicción, que significa que los modelos explicarán cómo se llegan a las conclusiones para mejorar la toma de decisiones futura; comprensión y confianza de la decisión por parte de los usuarios y operadores humanos, así como inspección y rastreabilidad de las acciones emprendidas por los sistemas de IA.

La rastreabilidad permitirá a los humanos entrar en los bucles de decisión de la IA y tener la capacidad de detener o controlar sus tareas cuando sea necesario. Un sistema de IA no solo se espera que realice una tarea específica o imponga decisiones, sino que también proporcione un informe transparente de por qué tomó decisiones específicas con la justificación de apoyo.

La estandarización de algoritmos o incluso enfoques de XAI no es posible actualmente, pero podría ser posible estandarizar niveles de transparencia/niveles de explicabilidad. Las organizaciones de estandarización están tratando de llegar a comprensiones comunes y estandarizadas de estos niveles de transparencia para facilitar la comunicación entre los usuarios finales y los proveedores de tecnología.

A medida que los gobiernos, instituciones, empresas y el público en general dependen de sistemas basados en IA, ganar su confianza a través de una mayor transparencia del proceso de toma de decisiones será fundamental. El lanzamiento de la primera conferencia global exclusivamente dedicada a XAI, la Conferencia Internacional Conjunta sobre Inteligencia Artificial: Taller sobre Inteligencia Artificial Explicativa, es una prueba adicional de que la era de XAI ha llegado.