Kimberly Nevala, Directora de Estrategias Empresariales en SAS – Serie de Entrevistas

SAS es una empresa global de análisis y IA que ofrece soluciones en gestión de datos, análisis avanzados y inteligencia artificial. Su plataforma insignia, SAS Viya, enfatiza la velocidad, escalabilidad y toma de decisiones confiables para organizaciones de various sectores. La empresa muestra casos de uso en detección de fraude, optimización de marketing, IoT y gestión de riesgos, y también proporciona pruebas gratuitas, capacitación y programas académicos para apoyar la adopción generalizada de análisis.

Has construido tu carrera guiando a organizaciones a través de transformaciones culturales, estratégicas y técnicas complejas, desde la consultoría de gestión hasta liderar la estrategia empresarial en SAS. ¿Cómo ha moldeado ese viaje tu visión sobre lo que realmente se necesita para que las empresas adopten la IA de manera significativa y inclusiva?

A pesar del alcance expansivo de las capacidades de IA emergentes y sus igualmente sísmicas ramificaciones, los bloques de construcción básicos para impulsar la transformación técnica no han cambiado. Aunque las ramificaciones de equivocarse han cambiado.

En primer lugar, es necesario que haya una articulación clara de los valores y prioridades de la organización. Junto con una comprensión clara de cómo estos factores influyen en la forma en que los empleados o clientes interactúan con la marca. A continuación, es necesario tener una comprensión amplia de la tecnología emergente, incluidas sus limitaciones y restricciones innatas. Finalmente, visibilidad sobre las brechas de habilidades y barreras para la adopción predecibles basadas en uno y dos anteriormente. Notablemente, esto no se limita a la experiencia técnica, sino también a la astucia empresarial.

Todos los cuales deben estar respaldados por una gobernanza robusta pero adaptable. Sustentada, por supuesto, por inversiones dirigidas y deliberadas en personas y tecnología.

Hablas sobre la alfabetización en IA que llega al nivel de habilidades de liderazgo esenciales como el pensamiento estratégico y la astucia financiera. ¿Qué se ve la fluidez en IA en la práctica para los líderes de hoy?

La prueba de la fluidez práctica es sencilla. ¿Tienen los líderes el conocimiento necesario para interrogar inteligentemente a una solución de IA propuesta?

Esto no sugiere que los líderes necesitan meterse en el código. Más bien, los líderes en todos los niveles deben demostrar competencia contextual. Es decir, están educados en los factores que podrían impactar o influir en su juicio de un sistema de IA. Estos factores cambiarán según el rol del líder. Específicamente, el alcance de la decisión que están a cargo de tomar.

En resumen, la prueba es esta: ¿saben qué preguntas hacer? Por ejemplo, ¿puede un ejecutivo identificar los factores humanos y técnicos con el mayor impacto en la viabilidad y el perfil de riesgo de una solución de IA dada? Tanto en general como en un contexto aplicado.

Incluso mejor: ¿entienden las limitaciones de la tecnología? Las relaciones públicas y el marketing tienden a centrarse en el lado positivo, mientras que la capacitación experiencial expone las limitaciones. Estas limitaciones pueden dictar los guardrails procedimentales y técnicos necesarios para desplegar una solución de IA de manera rentable. En este sentido, el grado en que los líderes entienden e identifican tales limitaciones es a menudo la diferencia entre una adopción significativa y el fracaso.

¿Por qué la equidad de género en el liderazgo de IA es un tema tan crucial en este momento, y qué riesgos enfrentamos si las mujeres siguen siendo adoptadoras pasivas en lugar de formadoras activas del desarrollo y la gobernanza de la IA?

Tengo el privilegio de trabajar, hablar con y aprender de mujeres que trabajan en todos los aspectos de la IA todos los días. Así que, el marco de las mujeres como adoptadoras pasivas, para mí, evoca imágenes que son infantiles y engañosas. Las mujeres están activamente involucradas en liderar esfuerzos de IA, aunque en números menores que nuestra población educada indicaría.

La inequidad de género en la tecnología es un tema multifacético que precede a la IA. No hay una sola solución, ya que hay varios factores en juego. Algunos resultan en menos financiamiento para y/o reconocimiento de las mujeres en el campo. Haciendo que sea dolorosamente irónico que las mujeres que reciben un reconocimiento amplio estén trabajando en IA responsable o ética. Inicialmente etiquetadas como anti-IA, su trabajo está siendo reconsiderado a medida que evolucionan las actitudes.

Independientemente, sin una intervención deliberada, corremos el riesgo de que los sistemas de IA exacerben las inequidades existentes a gran escala. Lo vemos en el uso de sistemas de selección y contratación de recursos humanos automatizados que prefieren a los candidatos masculinos debido a los sesgos históricos capturados en los datos.

La falta de diversidad en todos los niveles significa que las decisiones sobre qué tipo de sistemas de IA se construyen, cómo se despliegan, qué perspectivas y necesidades abordan y cuáles no, están dictadas por un grupo cada vez más insular. Esto es malo para todos. Los equipos de gestión diversificados impulsan mejores resultados empresariales. Los equipos de productos diversificados entregan soluciones de IA que son más robustas, resilientes y funcionan mejor.

Al final, si los sistemas de IA no abordan las perspectivas y necesidades de las mujeres (o cualquier otra demografía subatendida) o se muestran activamente perjudiciales, ¿cuál es el incentivo para la adopción? Excepto, por supuesto, que estos sistemas se desplegarán con o sin nuestra participación. Al incluir voces diversas y hacer cumplir la gobernanza de la IA, es posible cumplir con la promesa de la IA.

Dado que las últimas innovaciones de SAS, como los agentes de IA dentro de SAS Viya, los marcos de toma de decisiones inteligentes, las herramientas de datos sintéticos como Data Maker y los modelos de IA personalizados, ¿cómo están replanteando las empresas sus pipelines de liderazgo para elevar tanto la fluidez en IA como la equidad?

Las empresas están reconociendo que el alcance y el impacto de estas aplicaciones superan la capacidad de cualquier tomador de decisiones o hacedor individual. El despliegue exitoso de la IA avanzada depende de la confianza y el compromiso de la “aldea”. Los problemas y gotchas potenciales son demasiado amplios para que cualquier líder los aborde de manera efectiva solo.

En reconocimiento a esta realidad, las empresas de IA líderes están inclinándose hacia prácticas de diseño y gobernanza participativas. En este modelo, la fluidez y la equidad no se mejoran solo con programas de alfabetización y capacitación formales, ni con iniciativas de RRHH solas. Sino con el intercambio de conocimientos y la toma de decisiones colectiva que ocurre cuando se reúnen perspectivas diversas de todo el ecosistema empresarial. Estas colaboraciones no se limitan estrictamente a los tomadores de decisiones, sino que incluyen activamente a las personas cuyo trabajo será afectado por el sistema de IA que se considere. Si bien principalmente es el dominio de las agencias públicas y gubernamentales hoy en día, algunas organizaciones han involucrado activamente a partes interesadas externas, incluidos grupos de clientes y organizaciones de interés público.

¿Qué pasos prácticos pueden tomar los líderes aspirantes, particularmente las mujeres, para construir credibilidad y agencia en un mercado cada vez más impulsado por la IA?

Primero es reconocer que tenemos agencia. Cada individuo tiene la oportunidad de influir en el desarrollo de la IA de varias maneras: a través del consumo y uso deliberado de herramientas de IA particulares; a través de la defensa y la participación colectiva en foros comunitarios y política local; uniéndose a grupos de interés de empleados o redes de campeones comunitarios (y si no existen, creándolos); y levantando la mano para participar en programas de IA o liderar iniciativas en el trabajo.

Segundo, es invertir en su propia alfabetización en el nivel que tenga sentido para usted. Hay numerosos recursos en línea que abarcan desde cursos sobre gobernanza y ética de IA, hasta clases universitarias introductorias en línea que cubren todo el espectro de capacidades de IA. Muchas de estas opciones se proporcionan de forma gratuita o por cargos nominales.

Finalmente, únete y contribuye activamente a los grupos de networking de la industria de IA o de interés especial. Estos proporcionan una oportunidad no solo para compartir conocimientos, sino para curar relaciones que pueden proporcionar mentoría, alianzas y credibilidad a medida que construyes tu experiencia y tu red.

Has enfatizado durante mucho tiempo la transformación cultural, la gobernanza de los datos y la adopción responsable de la tecnología. ¿Cómo apoyan estos elementos fundamentales el desarrollo de líderes listos para la IA!

La respuesta tradicional es que estos fundamentos arman a los líderes con las herramientas para abordar la complejidad, gestionar el riesgo, reducir el costo y aumentar la productividad. Todos estos resultados son ciertos, sin embargo, el beneficio más subestimado de estas prácticas es la confianza.

Hecho correctamente, estos elementos crean un entorno en el que los empleados pueden experimentar e innovar con confianza dentro de los límites de la ética, la legalidad y el ethos empresarial de la empresa.

Esto es particularmente importante, ya que las soluciones disponibles van desde herramientas de productividad personal hasta flujos de trabajo integrados. Las decisiones sobre el uso de la IA no solo ocurren en la sala de juntas o en el contexto de un proyecto de IA formal. Desde el desarrollo hasta la exploración, el despliegue y más allá, una miríada de factores compuestos influye en cómo se realiza y se percibe el sistema.

La orientación receptiva permite a individuos y equipos en todos los niveles experimentar activamente, tomar decisiones oportunas sobre si y cómo avanzar en soluciones, y construir mejor dentro de los confines de un sistema de regulaciones.

Desde las conversaciones en tu podcast Pondering AI, ¿qué insights sobre liderazgo responsable e inclusivo destacan como los más críticos para las organizaciones que navegan la transformación de la IA?

El lenguaje de la IA es complicado. Hablamos de sistemas de IA que piensan, alucinan y hasta se portan mal. Conceptualizamos los sistemas de IA como compañeros de equipo o colegas. Como tal, es tentador transferir suposiciones y expectativas de los humanos a la IA. Perdiendo así el enfoque en la responsabilidad humana, la participación y el uso responsable. También obscurecemos el rigor necesario para entregar sistemas de IA robustos y resilientes que, cuando se hacen bien, parecen simples.

Esto hace que sea crítico centrar nuestra comprensión de la IA como una empresa innatamente humana. A pesar de las narrativas antropomórficas prevalentes, los sistemas de IA siempre reflejan los valores y las intenciones de sus creadores: los problemas que elegimos resolver, las técnicas o modelos que aplicamos, los datos que usamos en el entrenamiento, y cómo los usuarios interactúan con el sistema. Cada sistema de IA es el producto de estas decisiones humanas.

La confianza y la fe en los sistemas de IA no provienen de la IA. Los humanos deciden en última instancia automatizar o aumentar el trabajo de una persona. No es el sistema el que determina qué nivel de precisión o explicabilidad es suficiente. No es la IA la que determina el modelo de interacción del usuario más apropiado. Cuando un chatbot se porta mal, no afecta al sistema; degrada la marca y la línea de fondo de la empresa que empuña la IA.

Por lo tanto, la IA centrada en el ser humano es clave.

Muchas organizaciones tienen conjuntos de herramientas de IA avanzados, pero aún luchan con la cultura, la gobernanza y la inclusión. ¿Qué intervenciones o mentalidades ayudan a las organizaciones a cerrar esa brecha de manera efectiva?

La IA, como muchas tecnologías emergentes, está sujeta a caer en el mismo ciclo de hype que sus predecesoras. Durante la era de los grandes datos, ser impulsado por los datos era todo el furor. Pocas organizaciones cumplieron con su visión. Aquellas que lo hicieron fueron disciplinadas sobre resolver problemas identificables, como reducir los tiempos de cumplimiento para X o habilitar la autoservicio para Y. No es coincidencia que muchas de esas mismas empresas ahora sean líderes en la industria de la IA.

Al identificar las iniciativas de IA, comience con objetivos comerciales claros y resultados medibles, luego identifique qué técnicas de IA disponibles son aptas para el propósito. Resista la tentación de ser llamativo. Las soluciones innovadoras a problemas aburridos pagan dividendos en última instancia. Aborde procesos y tareas repetitivos y aburridos que ocurren a gran escala.

No siempre lo harás bien. Pero centrar tu atención y tu inversión con el resultado comercial en mente permite la mayor probabilidad de éxito.

A medida que los sistemas de IA se vuelven más autónomos y se integran en la toma de decisiones, a través de herramientas como agentes de IA y asistentes de copiloto, ¿qué guardias éticos o estructuras de gobernanza considera esenciales para mantener la confianza, la transparencia y la equidad en el liderazgo?

En SAS, definimos la gobernanza de la IA a través de la lente de la supervisión, el cumplimiento, las operaciones y la cultura. Independientemente del marco que adopte, hay dos factores que subrayaría.

El primero es que cada aplicación de IA, incluso si se construye sobre el mismo modelo o conjunto de datos subyacente, debe evaluarse de forma independiente y de forma continua. Lo que funciona para el marketing puede que no funcione para las finanzas. Una tasa de error, o “alucinación”, aceptable para los empleados no será efectiva en las interacciones con los clientes. Además, debido a su naturaleza probabilística, los cambios en el comportamiento del usuario, el flujo de datos subyacente y una miríada de otros factores pueden cambiar rápidamente el comportamiento y los resultados del sistema de IA.

El segundo es que la ética y la gobernanza de la IA no existen en el vacío. La naturaleza de estas soluciones requiere la colaboración con la gobernanza corporativa, el cumplimiento legal y normativo, la gestión de riesgos empresariales y la ciberseguridad. Al aprovechar y ampliar estas prácticas en lugar de reinventarlas, se puede obtener un buen comienzo.

¿Cómo ve el futuro de las competencias de liderazgo en un mundo impulsado por la IA, y cuáles son las implicaciones para las organizaciones que no cultivan esa nueva fluidez?

Creo que la previsión y la resiliencia se volverán cada vez más importantes. El ritmo rápido de cambio anima a los líderes a evaluar y adaptar continuamente las estrategias y tácticas comerciales a medida que evoluciona la tecnología. Los líderes deben evaluar el valor, la viabilidad y el riesgo en diferentes horizontes temporales y perspectivas. Dado el carácter sociotécnico de la IA, esas perspectivas deben incluir cada vez más no solo a los accionistas, sino también a los clientes, empleados y, a veces, a la sociedad en general. La previsión es necesaria para navegar este paisaje.

La resiliencia también es un factor en la IA. Como Jordan Loewen-Colón destaca elegantemente en referencia a la adopción y la gobernanza de la IA: la IA es un proceso, no un interruptor. La capacidad de aprender intencionalmente, adaptarse y mejorar continuamente mientras se mantiene el curso general diferenciará a los líderes del resto.

Gracias por la gran entrevista, los lectores que desean aprender más pueden visitar SAS.