La falta de confianza en la IA puede frenar la innovación y el valor empresarial

Una reciente encuesta entre líderes empresariales globales muestra que la IA confiable es una prioridad importante, pero muchos no están tomando suficientes medidas para lograrlo, ¿a qué costo?

En efecto, la encuesta de IBM reveló que un asombroso 85% de los encuestados están de acuerdo en que los consumidores son más propensos a elegir a una empresa que sea transparente sobre cómo se construyen, gestionan y utilizan sus modelos de IA.

Sin embargo, la mayoría admitió que no han tomado medidas clave para garantizar que su IA sea confiable y responsable, como reducir los sesgos (74%), rastrear las variaciones en el rendimiento y el desplazamiento del modelo (68%), y asegurarse de que puedan explicar las decisiones impulsadas por la IA (61%). Esto es preocupante, especialmente cuando se considera que el uso de la IA sigue creciendo, con el 35% de los encuestados que dicen que ahora utilizan la IA en su negocio, en comparación con el 31% del año anterior.

Recientemente asistí a la cumbre de innovación corporativa de invitación solo en Toronto, donde los asistentes intercambiaron ideas innovadoras y mostraron tecnologías que están a punto de dar forma al futuro. Tuve el privilegio de participar en tres mesas redondas dentro de los segmentos de servicios financieros, seguros y minoristas, con tres áreas clave que surgieron: la necesidad de más transparencia para fomentar la confianza en la IA, la democratización de la IA a través de aplicaciones de código bajo/no código, y el desarrollo para entregar un tiempo de valor más rápido y mitigar los riesgos a través de las mejores prácticas de gobernanza regulatoria de la IA.

Aumentar la confianza en las tecnologías de IA. La COVID-19 amplificó y aceleró la tendencia hacia el uso de chatbots impulsados por IA, asistentes financieros virtuales y procesos de incorporación de clientes sin contacto. Esta tendencia continuará, como se confirma en la investigación de Cap Gemini, que muestra que el 78% de los consumidores encuestados planean aumentar el uso de tecnologías de IA, incluida la gestión de identidad digital, en sus interacciones con organizaciones de servicios financieros.

A pesar de los beneficios inherentes, surgen una serie de desafíos. El principal es la desconfianza continua de los consumidores hacia las tecnologías de IA y cómo su naturaleza ubicua impacta sus derechos de privacidad y seguridad. El 30% de los consumidores declaró que se sentirían más cómodos compartiendo su información biométrica si sus proveedores de servicios financieros proporcionaran más transparencia al explicar cómo se recopila, gestiona y segura su información.

Los directores de informática deben adoptar principios de IA confiable e instituir medidas rigurosas que salvaguarden los derechos de privacidad y seguridad. Pueden lograrlo a través de cifrado, minimización de datos y autenticación más segura, incluyendo la consideración de estándares emergentes de identidad digital descentralizada. Como resultado, sus esfuerzos de automatización inteligente y sus ofertas de autoservicio verán una mayor adopción y necesitarán menos intervención humana.

Eliminar las barreras para la democratización de la IA. Hay una tendencia creciente hacia el desarrollo de aplicaciones de IA de código bajo/no código, que investigaciones prevén que alcance los 45.500 millones de dólares para 2025. El principal impulsor es un tiempo de valor más rápido con mejoras en la productividad del desarrollo de aplicaciones 10 veces mayor.

Por ejemplo, el 56% de las organizaciones de servicios financieros encuestadas considera la recopilación de datos de los prestatarios como uno de los pasos más desafiantes y poco eficientes dentro del proceso de solicitud de préstamo, lo que resulta en altas tasas de abandono. Si bien las tecnologías de identificación biométrica y recopilación de datos impulsadas por IA están comprobadas para mejorar la eficiencia en el proceso de solicitud de préstamo, también pueden crear riesgos de cumplimiento, particularmente en cuanto a la privacidad de los datos, la confidencialidad y el sesgo algorítmico de la IA.

Para mitigar y remediar estos riesgos, las aplicaciones de código bajo/no código deben incluir pruebas exhaustivas para garantizar que funcionen de acuerdo con los objetivos de diseño iniciales, eliminar posibles sesgos en el conjunto de datos de entrenamiento que pueden incluir sesgo de muestreo, sesgo de etiquetado, y estar seguras contra ataques de IA adversariales que pueden afectar negativamente los resultados algorítmicos de la IA. La consideración de principios de ciencia de datos responsable de equidad, precisión, confidencialidad y seguridad es fundamental.

Desarrollar un marco de gobernanza y regulación de la IA. La gobernanza de la IA ya no es una iniciativa opcional, sino una necesidad. Según el rastreador de políticas nacionales de IA de la OCDE, hay más de 700 iniciativas regulatorias de IA en desarrollo en más de 60 países. Sin embargo, existen códigos de conducta voluntarios y principios éticos de IA desarrollados por organizaciones de estándares internacionales como el Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) y el Instituto Nacional de Estándares y Tecnología (NIST).

Las preocupaciones de las organizaciones rodean la suposición de que las regulaciones de la IA impondrán más obligaciones de cumplimiento riguroso sobre ellos, respaldadas por mecanismos de aplicación onerosos, incluyendo sanciones por incumplimiento. Sin embargo, la regulación de la IA es inevitable.

Europa y Norteamérica están adoptando posturas proactivas que requerirán que los directores de informática colaboren con sus homólogos tecnológicos y empresariales para formar políticas efectivas. Por ejemplo, la Comisión Europea ha propuesto un Ley de Inteligencia Artificial que propone instituir obligaciones basadas en riesgos para los proveedores de IA para proteger los derechos de los consumidores, al mismo tiempo que promueve la innovación y las oportunidades económicas asociadas con las tecnologías de IA.

Además, en junio de 2022, el gobierno federal canadiense lanzó su muy esperada Ley de Implementación de la Carta Digital, que protege contra los impactos adversos de los sistemas de IA de alto riesgo. Estados Unidos también está procediendo con iniciativas regulatorias de IA, aunque de manera sectorial. La Comisión Federal de Comercio (FTC), la Oficina de Protección al Consumidor de Finanzas (CFPB) y la Junta de la Reserva Federal están ejerciendo sus músculos regulatorios a través de sus mecanismos de aplicación para proteger a los consumidores contra los impactos adversos que pueden resultar de las aplicaciones crecientes de la IA que pueden dar lugar a resultados discriminatorios, aunque no intencionados. Un marco regulatorio de la IA es una necesidad para cualquier empresa innovadora.

Lograr una IA confiable requiere conocimientos impulsados por datos

La implementación de una IA confiable no se puede lograr sin un enfoque impulsado por datos para determinar dónde las aplicaciones de tecnologías de IA pueden tener el mayor impacto antes de proceder con la implementación. ¿Es para mejorar la participación del cliente, o para realizar eficiencias operativas o para mitigar los riesgos de cumplimiento?

Cada uno de estos impulsores comerciales requiere una comprensión de cómo se ejecutan los procesos, cómo se manejan las escalaciones y las excepciones, e identificar variaciones en la ejecución del proceso, bloqueos y sus causas raíz. En función de este análisis impulsado por datos, las organizaciones pueden tomar decisiones comerciales informadas sobre el impacto y los resultados asociados con la implementación de soluciones basadas en IA para reducir la fricción de incorporación del cliente y mejorar las eficiencias operativas. Una vez que las organizaciones tienen el beneficio de los conocimientos impulsados por datos, entonces pueden automatizar procesos altamente laboriosos como el cumplimiento de los mandatos de la IA, la auditoría de cumplimiento, la verificación de identidad del cliente y la lucha contra el blanqueo de capitales en los servicios financieros.

La principal conclusión es que una parte integral de la automatización de procesos habilitada por IA es la implementación de las mejores prácticas de IA confiable. El uso ético de la IA no debe considerarse solo como una obligación legal y moral, sino como una necesidad empresarial. Tiene sentido comercial ser transparente en la aplicación de la IA. Esto fomenta la confianza y genera lealtad a la marca.