Cómo las empresas pueden crear un AI responsable y transparente – Líderes de pensamiento

Por Eric Paternoster, CEO de Infosys Public Services

Sundar Pichai, CEO de la empresa matriz de Google, Alphabet, ha descrito los desarrollos en AI como “más profundos que el fuego o la electricidad”, y la COVID-19 ha traído una nueva urgencia para desencadenar la promesa de esta tecnología. Las aplicaciones de AI están ahora firmemente en el centro de atención, mejorando los tratamientos contra la COVID, rastreando a los posibles portadores de la COVID y desplegando chatbots en tiempo real para los usuarios de sitios web de retail afectados por la escasez. Estas aplicaciones han demostrado que AI mejora la resistencia de una empresa y beneficia a la sociedad en general.

Así, junto con “cloud-native”, la palabra de moda del último trimestre podría ser “transformación AI-first”, un término que los profesionales de la industria creen que seguirá siendo válido incluso después de que la COVID desaparezca. Para muchas empresas, la promesa de costos más bajos (es decir, algoritmos de cadena de suministro que coinciden con la demanda) y mejoras admirables en la productividad (es decir, cuando los bancos utilizan verificación de documentos e identidad en tiempo real) es demasiado buena para ignorarla.

¿Por qué la transformación AI-First?

En la transformación AI-first, una empresa utiliza AI como una estrella del norte, trabajando para utilizarla no solo de manera inteligente, sino también de una manera que influya en las decisiones tomadas por las personas, los procesos y los sistemas a gran escala. Esto ajusta a las organizaciones a las dinámicas cambiantes entre los empleados, los socios y los clientes. Esto les permite pivotar rápidamente y satisfacer las demandas cambiantes, al mismo tiempo que crean una ventaja competitiva a largo plazo.

Pero no todas las empresas están al mismo nivel de madurez en AI. Hay algunas que se pueden denominar el “grupo de AI convencional”, o H1. Estas empresas, que tienen menos experiencia e inversión, generalmente utilizan algoritmos clásicos como el de Bayes ingenuo, que lleva 250 años existiendo, o el bosque aleatorio (desarrollado por Tin Kam Ho en 1995) para aumentar la inteligencia fragmentada dentro de los sistemas existentes. Este tipo de uso de AI es estrictamente basado en reglas y bastante rígido, careciendo de la capacidad de generalizar a partir de las reglas que descubre. Luego está el “grupo de aprendizaje profundo”, o H2. Estas empresas adoptan AI más compleja, incluyendo traducciones de máquina neuronal y sistemas basados en transcripción, para extraer conocimientos conversacionales. Estos sistemas tienen más poder, pero no explican fácilmente por qué hacen las cosas que hacen. También carecen de transparencia. Para estos dos grupos, el AI utilizado a menudo no es de confianza ni fiable y puede tomar decisiones sesgadas que atraen la atención negativa de los organismos gubernamentales, los reguladores y el público en general.

Estas empresas necesitan hacer movimientos ahora para llevar sus implementaciones de AI un paso más allá — a un tercer campamento (H3) donde el AI es autoaprendiz y generativo. En este punto, los sistemas de AI son semi-supervisados o incluso no supervisados. Son transparentes y logran “sentido común” a través del aprendizaje multi-tarea. Estos sistemas entregan inteligencia más rica y proporcionan conocimientos en tiempo real y accionables. Esto se logra a través de un AI bien administrado y gobernado que es interpretable y explicable en todas las etapas.

¿Cómo trabajar hacia un AI más responsable y transparente?

El AI se utiliza cada vez más para gestionar escuelas, espacios de trabajo y otras entidades públicas. En estos contextos, es más importante que nunca que el AI sea justo y transparente. Sin embargo, a medida que la sociedad atraviesa esta explosión de adopción de AI, los organismos reguladores proporcionan poca orientación sobre el desarrollo y la implementación adecuados de las tecnologías de AI. Por lo tanto, la responsabilidad recae en las empresas para tomar la iniciativa. La industria tecnológica en general debe poner en marcha su musculo financiero y capital humano, transformando las implementaciones iniciales de AI fragmentado en ecosistemas de inteligencia impulsados por la eficiencia, la creatividad, la responsabilidad y la transparencia. Para moverse hacia este espacio, las empresas deben hacer las siguientes cuatro cosas:

• Mantener a los humanos en el bucle: Los modelos de AI a menudo están diseñados para operar de forma independiente de los humanos. Sin embargo, el elemento humano es crucial en muchos casos. Los humanos necesitan revisar las decisiones y evitar sesgos y errores que a menudo desvían los proyectos de AI. Dos casos de uso incluyen la detección de fraude y los casos en los que participa la aplicación de la ley. Recomendamos que las empresas contraten a practicantes de AI de manera lenta pero constante con el tiempo para obtener una ventaja en su viaje hacia la transformación AI-first.
• Eliminar conjuntos de datos sesgados: Un conjunto de datos sin sesgo es un requisito previo crítico para crear modelos de AI confiables, justos y no discriminatorios. Para tener una idea de su importancia, el AI se utiliza para la selección de currículos y la puntuación crediticia de los bancos, e incluso ha llegado a algunos sistemas judiciales. En este panorama, los sesgos sin control han tenido implicaciones muy reales.
• Asegurarse de que las decisiones sean explicables: Esta característica ha sido cubierta por muchos de los grandes medios de comunicación, y con razón. El AI explicable (XAI) ayuda a explicar por qué un sistema de AI tomó una determinada decisión. Desvela qué características del modelo de aprendizaje profundo se utilizaron más que otras para hacer su predicción o hipótesis. Entender la importancia de las características y ser capaz de justificar cómo se toman las decisiones es crucial para casos de uso como los vehículos autónomos y la visión computacional utilizada en biopsias médicas.
• Reproducir los hallazgos de manera fiable: Una necesidad común en los proyectos de investigación, los modelos de AI deben ser consistentes al dar predicciones con el tiempo. Dichos modelos no deben verse afectados cuando se les presentan nuevos datos.

Estas cuatro cosas crearán ecosistemas de inteligencia impulsados por la transparencia, avanzando hacia lo que denominamos una “empresa en vivo”. Aquí, las decisiones imparciales y explicables se toman en tiempo casi real, con toda la empresa actuando como un organismo sensible gobernado por humanos. Lea el documento blanco del Instituto de Conocimiento de Infosys para obtener más información.