La explicabilidad puede abordar el problema de la inteligencia artificial de cada industria: la falta de transparencia

Por: Migüel Jetté, VP de I+D de Speech, Rev.

En sus primeras etapas, la inteligencia artificial (IA) podía apoyarse en la novedad. Estaba bien que el aprendizaje automático aprendiera lentamente y mantuviera un proceso opaco donde el cálculo de la IA era imposible de penetrar para el consumidor promedio. Eso está cambiando. A medida que más industrias, como la atención médica, las finanzas y el sistema de justicia penal, comienzan a utilizar la IA de manera que puede tener un impacto real en la vida de las personas, más personas quieren saber cómo se están utilizando los algoritmos, cómo se está obteniendo los datos y cuán precisas son sus capacidades. Si las empresas quieren mantenerse a la vanguardia de la innovación en sus mercados, necesitan confiar en una IA que su audiencia confíe. La explicabilidad de la IA es el ingrediente clave para profundizar en esa relación.

La explicabilidad de la IA se diferencia de los procedimientos estándar de la IA porque ofrece a las personas una forma de entender cómo los algoritmos de aprendizaje automático crean resultados. La IA explicativa es un sistema que puede proporcionar a las personas resultados potenciales y limitaciones. Es un sistema de aprendizaje automático que puede cumplir con el deseo humano de equidad, responsabilidad y respeto a la privacidad. La IA explicativa es imperativa para que las empresas establezcan confianza con los consumidores.

Mientras la IA se expande, los proveedores de IA necesitan entender que la caja negra no puede. Los modelos de caja negra se crean directamente a partir de los datos y, a menudo, ni siquiera el desarrollador que creó el algoritmo puede identificar qué impulsó los hábitos aprendidos por la máquina. Pero el consumidor consciente no quiere interactuar con algo tan impenetrable que no pueda ser responsable. Las personas quieren saber cómo un algoritmo de IA llega a un resultado específico sin el misterio de la entrada y la salida controlada, especialmente cuando los errores de la IA a menudo se deben a sesgos de la máquina. A medida que la IA se vuelve más avanzada, las personas quieren acceder al proceso de aprendizaje automático para entender cómo el algoritmo llegó a su resultado específico. Los líderes de cada industria deben entender que, más temprano que tarde, las personas ya no preferirán este acceso, sino que lo exigirán como un nivel necesario de transparencia.

Los sistemas de reconocimiento de voz (ASR), como los asistentes de voz, la tecnología de transcripción y otros servicios que convierten el habla humana en texto, están especialmente afectados por sesgos. Cuando el servicio se utiliza para medidas de seguridad, los errores debido a acentos, edad o antecedentes de una persona, pueden ser errores graves, por lo que el problema debe ser tomado en serio. El ASR se puede utilizar de manera efectiva en cámaras de cuerpo de la policía, por ejemplo, para grabar y transcribir automáticamente las interacciones — manteniendo un registro que, si se transcribe con precisión, podría salvar vidas. La práctica de la explicabilidad requerirá que la IA no solo confíe en conjuntos de datos comprados, sino que busque entender las características del audio entrante que podrían contribuir a errores si existen. ¿Cuál es el perfil acústico? ¿Hay ruido en el fondo? ¿El hablante es de un país donde el inglés no es el primer idioma o de una generación que utiliza un vocabulario que la IA aún no ha aprendido? El aprendizaje automático necesita ser proactivo para aprender más rápido y puede comenzar recopilando datos que puedan abordar estas variables.

La necesidad se está volviendo obvia, pero el camino para implementar esta metodología no siempre tendrá una solución fácil. La respuesta tradicional al problema es agregar más datos, pero se necesitará una solución más sofisticada, especialmente cuando los conjuntos de datos que muchas empresas utilizan están inherentemente sesgados. Esto se debe a que históricamente ha sido difícil explicar una decisión particular que fue tomada por la IA y eso se debe a la complejidad de los modelos de extremo a extremo. Sin embargo, ahora podemos y podemos comenzar preguntando cómo las personas perdieron la confianza en la IA en primer lugar.

Inevitablemente, la IA cometerá errores. Las empresas necesitan construir modelos que sean conscientes de sus limitaciones potenciales, identificar cuándo y dónde ocurren los problemas y crear soluciones continuas para construir modelos de IA más fuertes:

1. Cuando algo sale mal, los desarrolladores necesitan explicar qué sucedió y desarrollar un plan inmediato para mejorar el modelo y disminuir los errores similares en el futuro.
2. Para que la máquina pueda saber si estaba en lo correcto o no, los científicos necesitan crear un bucle de retroalimentación para que la IA pueda aprender de sus limitaciones y evolucionar.
3. Otra forma para que el ASR establezca confianza mientras la IA aún se está mejorando es crear un sistema que pueda proporcionar puntuaciones de confianza y ofrecer razones por las que la IA es menos confiable. Por ejemplo, las empresas suelen generar puntuaciones del 0 al 100 para reflejar las imperfecciones de su propia IA y establecer transparencia con sus clientes. En el futuro, los sistemas pueden proporcionar explicaciones post-hoc sobre por qué el audio fue desafiante, ofreciendo más metadatos sobre el audio, como el nivel de ruido percibido o un acento menos entendido.

La transparencia adicional dará como resultado una mejor supervisión humana del entrenamiento y el rendimiento de la IA. Cuanto más abiertos seamos sobre dónde necesitamos mejorar, más responsables somos de tomar medidas para mejorar. Por ejemplo, un investigador puede querer saber por qué se produjo un texto erróneo para que pueda mitigar el problema, mientras que un transcriptor puede querer pruebas de por qué el ASR malinterpretó la entrada para ayudar en su evaluación de la validez. Mantener a los humanos en el bucle puede mitigar algunos de los problemas más obvios que surgen cuando la IA no está controlada. También puede acelerar el tiempo necesario para que la IA detecte sus errores, mejore y eventualmente se corrija en tiempo real.

La IA tiene la capacidad de mejorar la vida de las personas, pero solo si los humanos la construyen para producir adecuadamente. Necesitamos responsabilizar no solo a estos sistemas, sino también a las personas detrás de la innovación. Los sistemas de IA del futuro se espera que cumplan con los principios establecidos por las personas, y solo hasta entonces tendremos un sistema en el que las personas confíen. Es hora de sentar las bases y esforzarnos por esos principios ahora, mientras todavía somos los humanos que nos servimos a nosotros mismos.