La falta de confianza en la IA puede frenar la innovación y el valor empresarial

Una encuesta reciente entre líderes empresariales globales muestra que la IA de confianza es una prioridad importante, sin embargo, muchos no están tomando suficientes medidas para lograrlo, ¿cuál es el costo?

En efecto, la encuesta de IBM reveló que un asombroso 85% de los encuestados están de acuerdo en que los consumidores son más propensos a elegir a una empresa que sea transparente sobre cómo se construyen, gestionan y utilizan sus modelos de IA.

Sin embargo, la mayoría admitió que no han tomado medidas clave para garantizar que su IA sea confiable y responsable, como reducir los sesgos (74%), rastrear las variaciones en el rendimiento y el desplazamiento del modelo (68%), y asegurarse de que puedan explicar las decisiones impulsadas por la IA (61%). Esto es preocupante, especialmente cuando se considera que el uso de la IA sigue creciendo, con un 35% que dice que ahora utiliza la IA en su negocio, en comparación con el 31% del año anterior.

Recientemente asistí a la cumbre de innovación corporativa de solo invitación en Toronto donde los asistentes intercambiaron ideas innovadoras y presentaron tecnologías que están a punto de dar forma al futuro. Tuve el privilegio de participar en tres mesas redondas dentro de los segmentos de servicios financieros, seguros y minoristas con tres áreas clave que surgieron: la necesidad de más transparencia para fomentar la confianza en la IA, la democratización de la IA a través de no código/bajo código y el desarrollo para entregar un valor y una mitigación de riesgos más rápidos a través de las mejores prácticas de gobernanza regulatoria de la IA.

Aumentar la confianza en las tecnologías de IA. La COVID-19 amplificó y aceleró la tendencia hacia el uso de chatbots impulsados por IA, asistentes financieros virtuales y procesos de incorporación de clientes sin contacto. Esta tendencia continuará, como lo confirma la investigación de Cap Gemini, que muestra que el 78% de los consumidores encuestados planean aumentar el uso de tecnologías de IA, incluida la gestión de identidad digital en sus interacciones con organizaciones de servicios financieros.

A pesar de los beneficios inherentes, surgen una serie de desafíos. Entre ellos se encuentra la desconfianza continua de los consumidores hacia las tecnologías de IA y cómo su naturaleza ubicua impacta sus derechos de privacidad y seguridad. El 30% de los consumidores declaró que se sentirían más cómodos compartiendo su información biométrica si sus proveedores de servicios financieros proporcionaran más transparencia al explicar cómo se recopila, gestiona y segura su información.

Los CIO deben adoptar principios de IA de confianza e instituir medidas rigurosas que salvaguarden los derechos de privacidad y seguridad. Pueden lograrlo a través de cifrado, minimización de datos y autenticación más segura, incluyendo la consideración de estándares de identidad digital descentralizados emergentes. Como resultado, sus esfuerzos de automatización inteligente y sus ofertas de autoservicio verán una mayor adopción y necesitarán menos intervención humana.

Eliminar las barreras para la democratización de la IA. Hay una tendencia creciente hacia el desarrollo de aplicaciones de IA de no código/bajo código, que investigaciones prevén que alcance los $45.5 mil millones para 2025. El principal impulsor es un tiempo de valor más rápido con mejoras en la productividad del desarrollo de aplicaciones por 10 veces.

Por ejemplo, el 56% de las organizaciones de servicios financieros encuestadas considera que la recopilación de datos de los prestatarios como uno de los pasos más desafiantes y poco eficientes dentro del proceso de solicitud de préstamo, lo que resulta en altas tasas de abandono. Si bien las tecnologías de identificación biométrica y recopilación de datos impulsadas por IA están comprobadas para mejorar las eficiencias en el proceso de solicitud de préstamo, también pueden crear riesgos de cumplimiento, particularmente, privacidad de datos, confidencialidad y sesgo algorítmico de IA.

Para mitigar y remediar dichos riesgos, las aplicaciones de no código/bajo código deben incluir pruebas exhaustivas para garantizar que funcionen de acuerdo con los objetivos de diseño iniciales, eliminar los posibles sesgos en el conjunto de datos de entrenamiento que pueden incluir sesgo de muestreo, sesgo de etiquetado y estar seguras contra ataques de IA adversariales que pueden afectar negativamente los resultados algorítmicos de la IA. La consideración de principios de ciencia de datos responsable de equidad, precisión, confidencialidad y seguridad es fundamental.

Desarrollar un marco de gobernanza y regulación de la IA. La gobernanza de la IA ya no es una iniciativa opcional, sino una imperativa. Según el seguimiento de políticas nacionales de IA de la OCDE, hay más de 700 iniciativas regulatorias de IA en desarrollo en más de 60 países. Sin embargo, existen códigos de conducta voluntarios y principios éticos de IA desarrollados por organizaciones internacionales de estándares como el Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) y el Instituto Nacional de Estándares y Tecnología (NIST).

Las preocupaciones de las organizaciones rodean la suposición de que las regulaciones de IA impondrán más obligaciones de cumplimiento rigurosas sobre ellos, respaldadas por mecanismos de aplicación onerosos, incluidas sanciones por incumplimiento. Sin embargo, la regulación de la IA es inevitable.

Europa y Norteamérica están adoptando posturas proactivas que requerirán que los CIO colaboraran con sus homólogos tecnológicos y empresariales para formar políticas efectivas. Por ejemplo, la Comisión Europea ha propuesto un Ley de Inteligencia Artificial que propone instituir obligaciones basadas en riesgos a los proveedores de IA para proteger los derechos de los consumidores, al mismo tiempo que promueve la innovación y las oportunidades económicas asociadas con las tecnologías de IA.

Además, en junio de 2022, el gobierno federal canadiense lanzó su muy esperada Ley de implementación de la Carta Digital, que protege contra los impactos adversos de los sistemas de IA de alto riesgo. Estados Unidos también está procediendo con iniciativas regulatorias de IA, aunque de manera sectorial. La Comisión Federal de Comercio (FTC), la Oficina de Protección Financiera del Consumidor (CFPB) y la Junta de la Reserva Federal están ejerciendo sus músculos regulatorios a través de sus mecanismos de aplicación para proteger a los consumidores contra los impactos adversos que surgen del aumento de las aplicaciones de IA que pueden resultar en resultados discriminatorios, aunque no intencionados. Un marco regulatorio de IA es obligatorio para cualquier empresa innovadora.

Lograr una IA de confianza requiere conocimientos basados en datos

La implementación de una IA de confianza no se puede lograr sin un enfoque basado en datos para determinar dónde las aplicaciones de tecnologías de IA pueden tener el mayor impacto antes de proceder con la implementación. ¿Es para mejorar la participación del cliente, o para realizar eficiencias operativas o para mitigar los riesgos de cumplimiento?

Cada uno de estos impulsores comerciales requiere una comprensión de cómo se ejecutan los procesos, cómo se manejan las escalaciones y las excepciones, e identificar variaciones en la ejecución de los procesos, obstáculos y sus causas raíz. En función de dicho análisis basado en datos, las organizaciones pueden tomar decisiones comerciales informadas sobre el impacto y los resultados asociados con la implementación de soluciones basadas en IA para reducir la fricción de incorporación de clientes y mejorar las eficiencias operativas. Una vez que las organizaciones tengan el beneficio de los conocimientos basados en datos, entonces pueden automatizar procesos altamente laboriosos como el cumplimiento de los mandatos de IA, la auditoría de cumplimiento, KYC y AML en los servicios financieros.

La principal conclusión es que una parte integral de la automatización de procesos habilitada por IA es la implementación de las mejores prácticas de IA de confianza. El uso ético de la IA no debe considerarse solo como una obligación legal y moral, sino como una imperativa comercial. Tiene sentido comercial ser transparente en la aplicación de la IA. Fomenta la confianza y genera lealtad a la marca.