Barb Hyman, fundadora y directora ejecutiva de Sapia.ai – Serie de entrevistas

Barb Hyman, fundadora y directora ejecutiva de Sapia.ai es una líder empresarial experimentada cuya carrera ha abarcado derecho, consultoría de gestión, marketing, aprendizaje y desarrollo, recursos humanos y tecnología. Comenzó su carrera como abogada en Herbert Smith Freehills antes de pasar a la consultoría en Boston Consulting Group, donde ascendió a líder de proyecto y luego volvió en cargos senior supervisando aprendizaje y desarrollo, RR.HH. y marketing en Australasia. Hyman también se desempeñó como directora de Marketing y Patrocinio en el Museum of Contemporary Art de Sydney y como directora general ejecutiva de People & Culture en REA Group. Fundó Sapia.ai en 2018, basándose en su experiencia en liderazgo organizacional y gestión del talento para replantear cómo las empresas evalúan y contratan a las personas usando inteligencia artificial.

Sapia.ai es una empresa de tecnología de contratación impulsada por IA centrada en evaluaciones estructuradas y conversacionales de candidatos. Su plataforma utiliza entrevistas basadas en chat para evaluar a los candidatos de manera constante a gran escala, ayudando a los empleadores a valorar habilidades y idoneidad mientras reduce la dependencia de la revisión tradicional de CV y de otras señales que pueden introducir sesgos. Sapia.ai afirma que su tecnología ha evaluado a más de 10 millones de candidatos y combina la ciencia de evaluación estructurada con inteligencia de talento impulsada por IA, retroalimentación personalizada para los candidatos e integraciones con los sistemas de seguimiento de candidatos y de recursos humanos existentes. La compañía también enfatiza la explicabilidad, la equidad y el cumplimiento empresarial, con su plataforma más amplia que abarca entrevistas con IA, análisis de puestos, programación de entrevistas, inteligencia de talento y coaching profesional impulsado por IA.

Antes de fundar Sapia.ai, construiste una carrera que abarcó consultoría en Boston Consulting Group, derecho, marketing, aprendizaje y desarrollo, y finalmente liderazgo de People & Culture en REA Group. ¿Qué experiencias de ese recorrido te convencieron de que la contratación necesitaba replantearse fundamentalmente, y qué problema pretendías resolver originalmente con Sapia.ai?

La forma actual en que evaluamos a las personas está rota — especialmente en la contratación.

Nos basamos en los CV. No vemos a la persona completa. Tomamos nuestras decisiones más trascendentales — a quién contratar, a quién ascender — basándonos en la intuición y en proxies. La contratación espejo está generalizada: ¿desde cuándo la escuela o universidad a la que alguien asistió se convirtió en un proxy de inteligencia? No lo es. Es un proxy de ventaja.

Parte de esto está relacionado con mi historia personal. Soy una inmigrante y sé que caí en una categoría afortunada de inmigrantes: soy blanca y tengo un nombre que la gente encuentra fácil de pronunciar. Vengo de una familia en la que nadie fue a la universidad; mi padre era tendero. Y, sin embargo, he tenido oportunidades extraordinarias y, tras cinco carreras, aquí estoy. Cuando pienso en los dos mil millones de trabajadores del mundo, pienso en cuántos de ellos poseen exactamente el talento, la motivación y el pensamiento crítico que se me atribuye, pero nunca son vistos porque estamos cegados por el prisma de nuestra propia experiencia. El sesgo es un atajo maravilloso para tomar una decisión rápida, y es precisamente por eso que la contratación sigue premiando a los ya favorecidos. Nunca me ha parecido justo o racional.

La otra mitad de la historia proviene de la consultoría. Después de mi MBA, me adentré en un mundo donde nunca se entra a una sala de juntas y se hace una recomendación sin una investigación real detrás. Sin embargo, la decisión de mayor riesgo que toma cualquier empresa (quién se une, quién lidera, quién moldea la cultura) sigue basándose en la intuición, o en un proxy tan delgado como el nombre de una universidad. Las personas no aparecen en el balance, pero en los servicios profesionales, especialmente, son el activo. Esa desconexión me parecía absurda.

El CV en sí no ha cambiado fundamentalmente desde que Leonardo da Vinci inventó el formato. Wikipedia enumera más de 180 sesgos humanos documentados. Un tercio de los candidatos norteamericanos que completan una solicitud de empleo quedan sin respuesta dos meses después. Nada de eso es un problema de talento: el talento está distribuido de manera equitativa, pero la oportunidad no.

Lo que me propuse corregir con Sapia no era solo una decisión — surgió de la experiencia de buscar empleo. Mi equipo se ríe de mí por esto, pero siempre he pensado en la contratación como en una cita. Es una relación. Pasarás más tiempo con las personas de tu trabajo que con tu pareja. Entonces, ¿por qué tomar esa decisión con algo menos riguroso — los datos — que exigimos para cualquier otra decisión importante?

Has argumentado que la mayoría de las organizaciones abordan la adopción de IA como un proyecto de eficiencia cuando debería comenzar como un proyecto de confianza. ¿Cómo se ve realmente la “confianza” en la práctica, y cómo deberían las empresas medirla junto a métricas más tradicionales como productividad, ahorro de costos y adopción?

Aprendí esto como CHRO: si no eres transparente sobre por qué haces un cambio, la confianza es la primera víctima. Y creo que la mayoría de las empresas invierten la adopción de IA. Miden la ganancia de productividad, por ejemplo, las horas ahorradas, el costo por contratación, pero nunca se detienen a medir lo que realmente determina si algo perdura: ¿confían tus empleados en cómo utilizas la IA y por qué?

La confianza es el sustrato de tu cultura. No es una métrica blanda que se sitúe al lado de las reales — es lo que sustenta a las reales. Piensa en ello como lo harías con cualquier relación. Una alta confianza te brinda grados de libertad. Una baja confianza hace que todo sea más pequeño, menos flotante, menos relajado. Y nadie rinde al máximo cuando no se siente seguro. Las organizaciones no son diferentes.

Sin embargo, gran parte de lo que se ha hecho con la IA en el lugar de trabajo ha weaponizado los propios datos de las personas contra ellas, por ejemplo rastreando las redes sociales de alguien para inferir si es una buena contratación, un buen riesgo o un mal riesgo. Sinceramente no puedo imaginar la reunión en la que se tomó esa decisión, o cómo alguien pensó que no corroería la cultura en el momento en que la gente se enterara.

Así que si te tomas en serio la adopción de IA, la confianza debe ser una métrica desde el primer día, situada justo al lado de la productividad y el ahorro de costos. Pregunta a la gente directamente: ¿entienden por qué estamos usando esto? ¿Creen que se está usando de manera justa? Si no puedes responder sí a ambas, los aumentos de eficiencia que celebras están prestados contra una cultura que estás agotando silenciosamente.

Una de las mayores preocupaciones sobre la IA en la contratación es que los modelos pueden aprender de datos históricos de empleo y potencialmente reforzar los mismos sesgos humanos que las organizaciones intentan eliminar. ¿Cómo pueden las empresas evitar que la IA simplemente automatice los sesgos de contratación existentes, y qué salvaguardas deberían incorporarse a estos sistemas desde el principio?

Esta es exactamente la trampa que la mayoría de las conversaciones sobre IA en la contratación pasan por alto y la razón por la que construí Sapia como lo hice. Si entrenas un modelo con datos históricos de contratación (quién fue contratado, quién fue ascendido, quién obtuvo esa primera entrevista) no estás eliminando el sesgo, lo estás industrializando. Estás enseñando a una máquina a replicar cada decisión de contratación espejo, cada llamado de “encaje cultural”, cada atajo basado en la intuición que te dio la fuerza laboral que ya tienes. Eso no es innovación. Eso es sesgo a escala, solo más rápido y con una apariencia de objetividad que lo hace más difícil de cuestionar.

Por lo tanto, la salvaguarda debe comenzar antes que el algoritmo. No entrenamos con CV, fotos, nombres, universidades, ni con ninguno de los proxies tradicionales que correlacionan con privilegio más que con potencial. Si la entrada lleva el sesgo, ninguna cantidad de modelado inteligente posterior lo corrige. Es el problema de “basura entra, basura sale”, excepto que la basura son décadas de prejuicio humano disfrazado de currículum.

La segunda pieza es contra qué mides realmente el modelo. No basta con decir “la IA funciona”, tienes que probar constantemente el impacto adverso en género, etnia, edad, discapacidad, cada característica protegida que puedas medir de forma continua, no como una auditoría puntual antes del lanzamiento. El sesgo no es un error que se arregla una vez. Es algo que debes vigilar continuamente, de la misma manera que monitorizarías cualquier sistema que tome decisiones trascendentales sobre la vida de las personas.

Y tercero — esto es lo que la gente omite — necesitas ojos externos. Auditorías independientes de terceros de tus modelos, metodología publicada, verdadera transparencia sobre lo que el sistema hace y lo que no hace. Si solo estás dispuesto a que tu herramienta de contratación con IA sea revisada por las personas que la construyeron y que tienen un interés financiero en defenderla, en realidad no has resuelto el problema de confianza, solo lo has reubicado.

El argumento de “lo hizo el algoritmo” no es una excusa, sino una admisión de que no construiste las salvaguardas desde el principio. Recuerda, la IA no elimina la responsabilidad humana de garantizar la equidad.

La contratación es una aplicación de IA inusualmente de alto riesgo porque un algoritmo puede influir directamente en la carrera de alguien. ¿Dónde deben las organizaciones trazar la línea entre decisiones que pueden automatizarse y aquellas que siempre deben permanecer bajo una supervisión humana significativa?

La línea que trazo es la siguiente: la IA puede ayudarte a ver a una persona con mayor claridad, pero nunca debe ser quien decida su destino por sí sola. Hay una diferencia real entre ampliar una decisión y externalizarla. La contratación es uno de los pocos ámbitos donde equivocarse en esa distinción realmente cambia la vida de alguien.

Entonces, ¿dónde gana la automatización su lugar? En la detección de señales que los humanos no pueden ver de forma constante y justa, por ejemplo leer miles de respuestas a entrevistas sin cansancio, sin tener un mal día, sin favorecer inconscientemente al candidato que les recuerda a ellos mismos a los veinticinco años. Ese es un trabajo que la IA puede hacer mejor que un gerente de contratación agotado en su octava entrevista del día. Filtrar habilidades blandas genuinas, estructurar la información para que cada candidato sea evaluado con los mismos criterios, ahí es donde la máquina aporta valor real porque no estamos diseñados para ser tan consistentes.

La decisión final — quién es contratado, quién es rechazado, quién recibe una segunda mirada — debe recaer en un ser humano que pueda rendir cuentas por ello. No como una simple aprobación automática de lo que el modelo genera, sino con una supervisión real y significativa: alguien que entienda qué está midiendo el sistema, que pueda cuestionar un resultado que parezca erróneo y que pueda anularlo. Si un humano no puede desafiar de manera significativa la recomendación de la IA, no se trata de supervisión sino de una coartada humana.

Yo también trazaría la línea en cualquier cosa irreversible u opaca. Si un candidato no puede obtener una explicación comprensible de por qué no avanzó, el sistema ha fallado sin importar cuán “preciso” sea. Y si el modelo está tomando decisiones que nadie en la empresa puede explicar —incluidas las personas que lo construyeron— eso no es una herramienta de contratación, es una caja negra con la carrera de alguien dentro. La prueba que le daría a cualquier organización es simple: ¿podrías sentarte frente a un candidato al que rechazaste y explicar, en lenguaje sencillo, por qué? Si la respuesta honesta es “Realmente no lo sé, lo decidió el modelo”, has automatizado la parte equivocada del proceso.

Sapia.ai distingue entre IA generativa usada para conversaciones abiertas y sistemas más determinísticos usados para puntuar candidatos. ¿Por qué es importante esa distinción, particularmente cuando los resultados de la IA deben ser consistentes, auditables y defendibles?

La gente oye “IA” y asume que es una sola cosa, pero en la contratación esa confusión es precisamente donde las cosas salen mal. Deliberadamente dividimos el trabajo en dos, porque la conversación abierta y la puntuación de alto riesgo tienen requisitos completamente diferentes, y pretender que son la misma tecnología es cómo las empresas terminan con sistemas que no pueden explicar, defender o confiar.

La IA generativa es brillante en la capa conversacional —tener un intercambio natural, con sensación humana, con un candidato, hacer buenas preguntas de seguimiento, hacer que la experiencia se sienta como una conversación y no como un formulario. Ahí es donde se desea flexibilidad, matices, incluso un poco de imprevisibilidad, porque las conversaciones reales no están guionizadas.

Pero en el momento en que pasas de hablar con un candidato a puntuarlo, todo lo que necesitas del sistema se invierte. La puntuación debe ser consistente: la misma respuesta debe recibir la misma evaluación, sea el candidato uno o el milésimo, sea una mañana de lunes o una tarde de viernes. Debe ser auditable, lo que significa que debes poder retroceder y mostrar exactamente por qué un candidato obtuvo la puntuación que obtuvo, no solo confiar en que el modelo “lo averiguó”. Y debe ser defendible porque la vida de alguien está en juego, y “el modelo generativo sintió que esta era una buena respuesta” no es una frase que sobreviva al escrutinio de un regulador, un periodista o un candidato que quiere saber por qué no consiguió el empleo.

Los modelos generativos, por su naturaleza, son probabilísticos —si haces la misma pregunta dos veces puedes obtener respuestas sutilmente diferentes. Eso es una característica para la conversación y una seria responsabilidad para la puntuación. En Sapia, usamos sistemas determinísticos para la parte del proceso que realmente decide el resultado de una persona. Modelamos donde la misma entrada produce de forma fiable la misma salida, donde podemos rastrear el razonamiento y donde podemos demostrar que dos candidatos similares son tratados de manera equivalente.

Realmente es una separación de responsabilidades: deja que la IA generativa sea excelente en ser humana, y permite que los sistemas determinísticos y auditables lleven el peso de una decisión que debe ser justa, explicable y defendible bajo escrutinio.

La explicabilidad se discute a menudo como un requisito para una IA responsable, pero muchos modelos avanzados siguen siendo difíciles de entender para los usuarios. ¿Cuánta explicación debería razonablemente esperar un candidato o empleado cuando la IA ha influido en una decisión de contratación?

Creo que los candidatos merecen más de lo que la mayoría de las empresas les brinda actualmente, y honestamente, más de lo que la mayoría de las empresas creen que pueden ofrecer. “El algoritmo decidió” es una admisión de fracaso disfrazada de sofisticación.

Aquí es donde me posiciono: un candidato siempre debe poder entender, en lenguaje sencillo, en qué fue evaluado y, en términos generales, por qué obtuvo el resultado que obtuvo. No la matemática subyacente, no una impresión de los pesos del modelo. Lo que quieren y lo que se les debe es algo más cercano a lo que un buen gerente les diría cara a cara: estas son las cualidades que buscábamos, aquí fuiste fuerte, aquí no fuiste el mejor ajuste esta vez. Ese es un criterio completamente razonable, y cualquier sistema que no pueda cumplirlo no debería tomar decisiones sobre la vida laboral de alguien en primer lugar.

Así que, para nosotros, la explicabilidad debe estar incorporada en la arquitectura desde el primer día, porque no puedes explicar lo que no puedes rastrear.

Donde empujaría un poco atrás es en la idea de que la explicabilidad signifique que los candidatos necesiten una educación técnica sobre cómo funciona el modelo. Ese es un estándar falso, y a menudo se usa como excusa cuando en realidad simplemente no se ha diseñado para ser explicado. Un buen médico no te explica la bioquímica de un diagnóstico; te dice lo que encontró y lo que significa para ti. La IA en la contratación debería adherirse al mismo estándar de honestidad legible por humanos.

La prueba real es la misma que aplicaría a la supervisión humana: ¿podría un candidato preguntar “¿por qué no progresé?” y obtener una respuesta que sea específica, honesta y realmente suya? Si tu IA no puede producir esa respuesta, no has construido un sistema explicable. Has construido uno con la esperanza de que nadie pregunte al respecto.

Las empresas a menudo se enfocan en si los empleados y gerentes están usando una herramienta de IA, más que en si realmente confían en sus resultados. ¿Qué señales de advertencia sugieren que una organización ha logrado adopción de IA sin alcanzar una confianza genuina en la tecnología?

La adopción es la métrica más fácil de falsificar, y por eso tantas empresas la confunden con el éxito. Si te digo que todos en la empresa “están usando” la herramienta de IA, eso no te dice casi nada sobre si creen en ella; podría significar simplemente que es obligatoria, o que es la vía de menor resistencia, o que nadie ha encontrado aún una forma de evitarla.

La primera señal de alerta es el comportamiento de solución alternativa. Si la gente usa la herramienta de IA pero también, en silencio, sigue realizando el proceso antiguo en paralelo — verificando manualmente sus resultados, manteniendo notas separadas, ejecutando un sistema sombra por si acaso — eso es cumplimiento con una póliza de seguro adjunta. Los números de uso se ven excelentes. La verdad es que todos piensan que la herramienta podría estar equivocada.

La segunda es el silencio. En una cultura que realmente confía, la gente cuestiona el sistema cuando algo parece incorrecto: hacen preguntas, se oponen, señalan resultados que no les parecen correctos. Cuando la adopción es real pero la confianza no lo es, ocurre lo contrario. La gente deja de cuestionarlo porque ha decidido que no vale la pena luchar. Ese silencio es interpretado por la dirección como satisfacción. En realidad es una resignación.

La tercera alerta es la brecha entre lo que la gente dice en una encuesta y lo que comenta entre ellos. Me preocuparía mucho más una empresa cuyo panel de adopción oficial está verde en todos los indicadores, pero la conversación real en la sala de descanso es “sí, simplemente hacemos lo que dice porque es más fácil que discutir”; eso indica una cultura que no se ha convertido.

Y la señal de alerta más profunda y la que más me importa: cuando la gente deja de aportar su propio juicio por completo. Eso es una abdicación. La verdadera confianza en una herramienta implica que las personas aún se sientan facultadas para discrepar con ella cuando su propia experiencia les indica algo diferente, y se sientan seguras al hacerlo. Si tus gerentes se han quedado callados y simplemente se someten a lo que diga la IA, has creado una dependencia.

Así que la prueba real no es “¿la están usando?” sino “¿la gente elegiría seguir usándola si fuera opcional, y te dirían honestamente cuando se equivoque?” La mayoría de las empresas nunca han formulado realmente ninguna de esas preguntas. Eso suele ser la señal reveladora.

Las herramientas de contratación basadas en IA pueden evaluar a los candidatos a una escala y consistencia que los reclutadores humanos no pueden, pero la contratación también implica contexto y matices. ¿Dónde crees que la IA puede superar al juicio humano hoy, y dónde siguen siendo esenciales los humanos?

La IA puede ser una herramienta excelente para evaluar un gran número de candidatos sin importar sus antecedentes y experiencias, al mismo tiempo que brinda evaluaciones personalizadas para candidatos con necesidades específicas. Un reclutador humano podría inclinarse más a favorecer a candidatos de una universidad de alto rango o sin condiciones de salud previas. La IA realiza una evaluación justa e igualitaria de todos los candidatos de una manera que los humanos no pueden cuando se enfrentan a cientos de solicitudes. Dicho esto, el juicio humano sigue siendo esencial para determinar si un candidato encajará en la cultura de la empresa o cumplirá con los estándares requeridos por los clientes.

A medida que la IA se integra más profundamente en la contratación, el coaching, la gestión del desempeño y otras decisiones de la fuerza laboral, ¿cómo debería estructurarse la responsabilidad cuando una decisión asistida por IA produce un resultado injusto o incorrecto?

La responsabilidad en IA permanece cuando los humanos son los tomadores de decisiones finales, mientras el flujo de trabajo de contratación incluye transparencia, explicabilidad y pruebas rigurosas de sesgo. Lanzamos el modelo FAIR™ para ayudar a impulsar prácticas responsables de IA. Recomienda:

• Imparcialidad: Pruebe el sesgo y utilice las medidas estadísticas adecuadas — como la regla de 4/5, la paridad de tasas de error y otras pruebas de sesgo relevantes — para verificar que los resultados sean justos.
• Validez: La evidencia impulsada por IA se basa en datos reales y está vinculada al resultado que se pretende predecir.
• Explicabilidad: Cuente con documentación clara y herramientas para interpretar los resultados, lo que la IA ha identificado sobre un candidato y cómo eso ha contribuido a su puntuación.
• Inclusividad: Esto significa asegurar que los candidatos sean tratados de manera justa a lo largo de todo el proceso, desde la solicitud hasta la toma de decisiones. Es una visión de extremo a extremo de la experiencia de contratación — incluyendo a las personas, procesos, tecnología y IA trabajando juntos.

De cara al futuro, ¿esperas que la IA se convierta principalmente en una capa de toma de decisiones dentro de los sistemas de recursos humanos, o que su papel más importante sea conversacional, ayudando a candidatos y empleados a comprender mejor las oportunidades, desarrollar habilidades y gestionar sus carreras?

Incluso las tecnologías más avanzadas requieren el toque humano, el juicio humano y la supervisión humana. La IA está allí para apoyar el proceso, asegurando que cada candidato tenga una oportunidad justa e igualitaria de ser considerado para un puesto. En Sapia, nos gusta llamar a esto un “enfoque humano en el bucle”, donde combinamos la inteligencia humana y la de la máquina para crear experiencias de chat inteligentes que sean predictivas, responsables y personalizadas. Para lograrlo, incorporamos a nuestros clientes, de modo que validemos constantemente la precisión y la equidad, mientras enseñamos a nuestros modelos de IA a evolucionar con el tiempo.

Nuestro enfoque humano también se traduce en lo que ofrecemos a los candidatos. Recientemente lanzamos Phai, un coach de carrera que actúa como mentor, proporcionando a los buscadores de empleo orientación personalizada, mapeo de fortalezas y preparación de entrevistas para ayudarles a enfrentar con confianza su próxima oportunidad. Es una herramienta positiva para mantener a un candidato motivado más allá del resultado de la entrevista.

Gracias por la excelente entrevista, los lectores que deseen obtener más información deberían visitar Sapia.ai.