Muévase rápido, pero no rompa nada: Cómo equilibrar la adopción responsable de IA y la innovación

Según una reciente encuesta global de McKinsey, aunque el 78% de las organizaciones ahora utilizan IA en al menos una función empresarial, solo el 13% han contratado especialistas en cumplimiento de IA, y un escaso 6% tienen especialistas en ética de IA en su personal.

Esto es, francamente, un comportamiento temerario.

Aunque en mi pasado no muy lejano era un gran creyente en la ética de “moverse rápido y romper cosas” del Valle de Silicio, no podemos permitirnos ser tan despreocupados con la IA – una tecnología que es más poderosa que cualquier cosa que hayamos visto antes y que crece a una velocidad vertiginosa.

Adoptar IA sin ninguna salvaguarda significativa es exactamente el tipo de esquina rápida y corte que está garantizado para eventualmente fallar y arriesgar romper todo. Solo se necesita un incidente de sesgo de IA o mal uso para deshacer años de construcción de marca reputacional.

Y aunque muchos directores de información y directores de tecnología son conscientes de estos riesgos, parecen estar operando bajo la suposición de que los reguladores eventualmente intervendrán y los salvarán de establecer sus propios marcos, lo que resulta en mucha charla sobre riesgo con muy poca supervisión real.

Aunque no tengo duda de que las regulaciones eventualmente llegarán, estoy menos seguro de que se establezcan pronto. ChatGPT se introdujo hace aproximadamente tres años y solo ahora estamos empezando a ver cosas como la reunión del Senado sobre chatbots y riesgos de seguridad. La realidad es que podría ser años antes de que veamos alguna regulación significativa.

En lugar de tomar esto como una excusa para procrastinar en la gobernanza interna, esto debería animar a las empresas a adoptar un enfoque más proactivo. Especialmente considerando que cuando las regulaciones finalmente lleguen, las empresas sin sus propios marcos estarán luchando para adaptarse a la conformidad. Esto fue precisamente lo que sucedió cuando se promulgaron la GDPR y la CCPA.

Al igual que las startups esforzadas de los primeros años 2000 ahora son consideradas como gigantes corporativos de tecnología en los que han crecido, colectivamente tenemos que madurar en nuestro enfoque para adoptar la IA de manera responsable.

No hay “compra ahora y paga después” con despliegues de IA responsables – comienza ahora

El primer paso en un enfoque más responsable para la IA es dejar de esperar a los reguladores y establecer tus propias reglas. Cualquier ventaja que puedas pensar que estás ganando al evitar salvaguardas hoy solo te morderá en el futuro cuando te enfrentes al proceso extremadamente costoso y disruptivo de adaptar la conformidad.

Por supuesto, para muchos, el problema es no saber por dónde empezar. Mi empresa recientemente encuestó a 500 directores de información y directores de tecnología en grandes empresas y casi la mitad (48%) citó “determinar qué constituye un uso o despliegue responsable de IA” como un desafío para garantizar el uso ético de la IA.

Un lugar fácil para empezar es expandir tu enfoque más allá de las características posibles de la IA y considerar los posibles riesgos. Por ejemplo, aunque el uso de IA puede ahorrar tiempo a los empleados, también abre la posibilidad de que se compartan grandes cantidades de información de identificación personal (PII) o secretos comerciales con LLM no autorizados y no aprobados.

Cualquier empresa digital hoy en día es familiar con el Ciclo de Vida de Desarrollo de Software (SDLC), que proporciona un marco para construir productos de calidad. Las mejores prácticas de gobernanza de IA deben estar incrustadas en ese flujo de trabajo diario para garantizar que la toma de decisiones responsable se convierta en parte de la rutina, no en un pensamiento posterior.

Un cuerpo de gobierno, como un comité de ética o una junta de gobierno, debe establecerse para definir los estándares sobre qué aspecto tienen las aplicaciones de IA dentro de la organización, y definir los indicadores de cómo monitorear y mantener ese estándar. Funcionalmente, esto se parece a la gobernanza de herramientas de IA y modelos, aprobaciones de soluciones, gestión de riesgos, alineación con regulaciones y estándares, y comunicación transparente. Aunque técnicamente puede ser un “nuevo” proceso, no es muy diferente de las mejores prácticas de datos y la seguridad cibernética, y se puede automatizar para garantizar la detección temprana de cualquier problema.

Por supuesto, no todos los riesgos requieren el mismo nivel de atención, por lo que también es importante desarrollar un proceso de gestión de riesgos por niveles para que tu equipo pueda centrar la mayoría de sus esfuerzos en lo que se ha definido como de alta prioridad.

Finalmente, y lo más crucial, la comunicación clara y transparente sobre las prácticas de gobernanza tanto interna como externamente es fundamental. Esto incluye mantener documentos vivos para los estándares de gobernanza y proporcionar capacitación continua para mantener a los equipos actualizados.

Deja de tratar la gobernanza como una amenaza a la innovación

Es muy posible que la verdadera amenaza a la IA responsable sea la creencia de que la gobernanza y la innovación están en desacuerdo entre sí. Nuestros datos de la encuesta reflejaron un abrumador 87% de directores de información y directores de tecnología que sintieron que demasiada regulación limitaría la innovación.

Pero la gobernanza debe tratarse como un socio estratégico, no como algún tipo de freno de innovación.

Una razón por la que la gobernanza se considera como una fuerza de fricción que ralentiza el impulso es que a menudo se deja para el final del desarrollo del producto, pero las salvaguardas deben ser parte del proceso. Como se mencionó anteriormente, la gobernanza se puede incorporar a los ciclos de sprint para que un equipo de producto pueda moverse rápidamente, mientras que las comprobaciones automatizadas de equidad, sesgo y cumplimiento se ejecutan en paralelo. A largo plazo, esto se paga como los clientes, empleados y reguladores se sienten más confiados cuando ven la responsabilidad incorporada desde el principio.

Y esto ha sido demostrado que produce recompensas financieras. La investigación ha mostrado que las organizaciones con marcos de gobernanza de datos y IA bien implementados experimentan una mejora del 21-49% en el rendimiento financiero. Un fallo en el establecimiento de estos marcos, sin embargo, también conlleva sus propias consecuencias. Según ese mismo estudio, para 2027, la mayoría de las organizaciones (60%) “no lograrán realizar el valor anticipado de sus casos de uso de IA debido a marcos de gobernanza ética incoherentes”.

Una salvedad al argumento de que la gobernanza no tiene que ir en detrimento de la innovación es que los equipos legales que se involucran en estas conversaciones tienden a ralentizar las cosas. En mi experiencia, sin embargo, establecer un equipo de Gobernanza, Riesgo y Cumplimiento (GRC) va muy lejos en mantener las cosas funcionando suavemente y rápidamente, sirviendo como un puente entre los equipos legales y de producto.

Cuando se gestiona bien, el equipo de GRC construye relaciones positivas con el equipo legal, sirviendo como sus ojos en el terreno y obteniendo los informes que necesitan, mientras colabora con el equipo de desarrollo para mitigar los riesgos futuros de demandas y multas. En última instancia, esto refuerza aún más que invertir en la gobernanza desde el principio es la mejor manera de garantizar que no interfiera con la innovación.

Crear sistemas de supervisión y gobernanza que puedan escalarse

A pesar de que muchos de los directores de información y directores de tecnología encuestados sintieron que las regulaciones podrían limitar la innovación, un porcentaje similar (84%) esperaba que su empresa aumentara la supervisión de IA en los próximos 12 meses. Considerando la probabilidad de que las integraciones de IA continúen expandiéndose y escalando con el tiempo, es igualmente importante que los sistemas de gobernanza puedan escalarse junto con ellos.

Algo que veo a menudo en las primeras etapas de las implementaciones de IA dentro de las empresas es que diferentes unidades dentro del negocio están trabajando en silos, de modo que están ejecutando diferentes despliegues concurrentemente y con diferentes visiones de lo que significa “IA responsable”. Para evitar estas inconsistencias, las empresas serían sabias al establecer un Centro de Excelencia de IA dedicado que combine experiencia técnica, de cumplimiento y empresarial.

El Centro de Excelencia de IA establecería tanto estándares a nivel de empresa como procesos de aprobación por niveles donde haya un camino para casos de uso de bajo riesgo. Esto, a su vez, mantiene la velocidad mientras también asegura que los despliegues de alto riesgo pasen por comprobaciones de seguridad más formales. De manera similar, el Centro de Excelencia también debe establecer indicadores de seguridad de IA para los altos ejecutivos para que la rendición de cuentas no se pierda en las funciones empresariales diarias.

Pero para hacer que esto sea una realidad, los ejecutivos necesitan una mejor visibilidad en la seguimiento de los indicadores de gobernanza. Los paneles que sirven datos en tiempo real sobre estos indicadores serían mucho más efectivos que los informes de cumplimiento estáticos actuales que están inmediatamente desactualizados y a menudo no se leen. Idealmente, las empresas también deberían construir registros de riesgos de IA, de la misma manera que ya están rastreando los riesgos de seguridad cibernética, además de mantener registros de auditoría que reflejen quién construyó una implementación de ML/IA, cómo se probó y cómo se está desempeñando con el tiempo.

La conclusión más importante aquí es que la IA responsable requiere que la gobernanza sea un proceso continuo. No se trata solo de aprobaciones en el lanzamiento, sino de monitoreo continuo durante todo el ciclo de vida del modelo. Como tal, la capacitación es clave. Los desarrolladores, tecnólogos y líderes empresariales deben ser capacitados en prácticas de IA responsables para que puedan detectar problemas temprano y mantener altos estándares de gobernanza a medida que los sistemas evolucionan. Al hacerlo, los despliegues de IA están seguros de ser más confiables, efectivos y rentables – sin tener que romper nada en el proceso.