Barb Hyman, fondatrice et PDG de Sapia.ai – Série d’interviews

Barb Hyman, fondatrice et PDG de Sapia.ai est une dirigeante expérimentée dont la carrière a couvert le droit, le conseil en management, le marketing, la formation et le développement, les ressources humaines et la technologie. Elle a commencé sa carrière comme avocate chez Herbert Smith Freehills avant de rejoindre le cabinet de conseil Boston Consulting Group, où elle a progressé jusqu’à Chef de projet puis est revenue à des postes de direction supervisant la formation et le développement, les RH et le marketing en Australasie. Hyman a également été responsable du marketing et des partenariats au Museum of Contemporary Art de Sydney et Directrice générale exécutive des People & Culture chez REA Group. Elle a fondé Sapia.ai en 2018, s’appuyant sur son expérience en leadership organisationnel et gestion des talents pour repenser la façon dont les entreprises évaluent et recrutent les candidats à l’aide de l’intelligence artificielle.

Sapia.ai est une entreprise de technologie de recrutement propulsée par l’IA, spécialisée dans l’évaluation structurée et conversationnelle des candidats. Sa plateforme utilise des entretiens basés sur le chat pour évaluer les candidats de manière cohérente à grande échelle, aidant les employeurs à mesurer les compétences et l’adéquation tout en réduisant la dépendance aux dépistages traditionnels de CV et à d’autres signaux pouvant introduire des biais. Sapia.ai affirme que sa technologie a évalué plus de 10 millions de candidats et combine la science de l’évaluation structurée avec l’intelligence de talent alimentée par l’IA, des retours personnalisés aux candidats et des intégrations aux systèmes de suivi des candidatures et aux solutions RH existants. L’entreprise met également l’accent sur l’explicabilité, l’équité et la conformité d’entreprise, sa plateforme plus large englobant les entretiens IA, l’analyse de poste, la planification d’entretiens, l’intelligence de talent et le coaching de carrière alimenté par l’IA.

Avant de fonder Sapia.ai, vous avez construit une carrière couvrant le conseil chez Boston Consulting Group, le droit, le marketing, la formation et le développement, et finalement la direction People & Culture chez REA Group. Quelles expériences de ce parcours vous ont convaincu que le recrutement devait être repensé en profondeur, et quel problème aviez‑vous initialement cherché à résoudre avec Sapia.ai

La manière actuelle d’évaluer les personnes est défaillante — surtout dans le recrutement.

Nous nous fions aux CV. Nous ne voyons pas la personne dans son ensemble. Nous prenons nos décisions les plus décisives — qui embaucher, qui promouvoir — sur le ressenti et des indicateurs de substitution. Le recrutement miroir est omniprésent : depuis quand le lycée ou l’université fréquenté·e devient‑il un indicateur d’intelligence ? Ce n’est pas le cas. C’est un indicateur d’avantage.

Certaines de ces réflexions sont liées à mon histoire personnelle. Je suis immigrée et je sais que je suis tombée dans une catégorie privilégiée d’immigrants : je suis blanche et j’ai un nom que les gens trouvent facile à prononcer. Je viens d’une famille où personne n’est allé à l’université ; mon père était commerçant. Et pourtant j’ai eu des opportunités extraordinaires et, cinq carrières plus tard, me voici. Quand je pense aux deux milliards de travailleurs dans le monde, je pense à combien d’entre eux possèdent exactement le talent, la motivation, la pensée critique dont on m’a crédité, mais restent invisibles parce que nous sommes aveuglés par le prisme de notre propre expérience. Le biais est un raccourci pratique pour prendre une décision rapide, et c’est exactement pourquoi le recrutement continue de récompenser les déjà avantagés. Cela n’a jamais semblé juste ou rationnel.

L’autre moitié de l’histoire provient du conseil. Après mon MBA, je suis entrée dans un univers où l’on n’entrait jamais dans une salle de réunion pour formuler une recommandation sans recherches réelles en amont. Et pourtant, la décision la plus critique que prend une entreprise (qui rejoint, qui dirige, qui façonne la culture) est encore prise sur le ressenti, ou sur un indicateur aussi mince que le nom d’une université. Les personnes ne figurent pas au bilan, mais dans les services professionnels, elles constituent l’actif. Cette déconnexion me semblait absurde.

Le CV lui‑même n’a pas fondamentalement changé depuis que Léonard de Vinci a inventé le format. Wikipédia recense plus de 180 biais humains documentés. Un tiers des candidats nord‑américains qui terminent une candidature restent sans réponse deux mois plus tard. Aucun de ces éléments n’est un problème de talent : le talent est également réparti, mais les opportunités ne le sont pas.

Ce que je voulais corriger avec Sapia n’était pas simplement une décision — c’était issu de mon expérience de recherche d’emploi. Mon équipe se moque de moi à ce sujet, mais j’ai toujours considéré le recrutement comme une rencontre amoureuse. C’est une relation. Vous passez plus de temps avec les personnes de votre travail qu’avec votre partenaire. Alors pourquoi prendre cette décision avec moins de rigueur — les données — que nous exigeons pour chaque autre décision importante ?

Vous avez soutenu que la plupart des organisations abordent l’adoption de l’IA comme un projet d’efficacité alors qu’elle devrait commencer comme un projet de confiance. À quoi ressemble concrètement la « confiance » en pratique, et comment les entreprises devraient‑elles la mesurer aux côtés de métriques plus traditionnelles comme la productivité, les économies de coûts et le taux d’adoption ?

Je l’ai appris en tant que DRH : si vous n’êtes pas transparent sur les raisons d’un changement, la confiance est la première victime. Et je pense que la plupart des entreprises abordent l’adoption de l’IA à l’envers. Elles mesurent le gain de productivité, par exemple les heures économisées, le coût par embauche, mais ne s’arrêtent jamais pour mesurer ce qui détermine réellement si cela persiste : vos collaborateurs font‑ils confiance à la manière dont vous utilisez l’IA, et pourquoi ?

La confiance est le substrat de votre culture. Ce n’est pas une métrique douce placée à côté des vraies — c’est ce sur quoi les vraies sont construites. Pensez‑y comme vous le feriez pour n’importe quelle relation. Une confiance élevée vous offre des marges de manœuvre. Une confiance faible rend tout plus petit, moins flottant, moins détendu. Et personne ne donne le meilleur de lui‑même lorsqu’il ne se sent pas en sécurité. Les organisations ne font pas exception.

Pourtant, une grande partie de ce qui a été fait avec l’IA sur le lieu de travail a en réalité transformé les données personnelles des gens en arme contre eux, par exemple en scrutant les réseaux sociaux de quelqu’un pour déduire s’il est un bon candidat, un bon risque, un mauvais risque. Je ne peux vraiment pas imaginer la réunion où cette décision a été prise, ni comment quelqu’un a pu penser que cela ne corrodait pas la culture dès que les gens l’ont découvert.

Donc, si vous êtes sérieux au sujet de l’adoption de l’IA, la confiance doit être une métrique dès le premier jour, placée côte à côte avec la productivité et les économies de coûts. Demandez directement aux gens : comprenez‑vous pourquoi nous l’utilisons ? Croyez‑vous qu’elle est utilisée équitablement ? Si vous ne pouvez pas répondre oui aux deux, les gains d’efficacité que vous célébrez sont empruntés à une culture que vous épuisez silencieusement.

L’une des plus grandes préoccupations concernant l’IA dans le recrutement est que les modèles peuvent apprendre à partir de données d’emploi historiques et potentiellement renforcer les mêmes biais humains que les organisations cherchent à éliminer. Comment les entreprises peuvent‑elles empêcher l’IA d’automatiser simplement les biais de recrutement existants, et quelles protections doivent être intégrées à ces systèmes dès le départ ?

C’est exactement le piège que la plupart des conversations sur l’IA dans le recrutement manquent et la raison pour laquelle j’ai construit Sapia comme je l’ai fait. Si vous entraînez un modèle sur des données d’embauche historiques (qui a été embauché, qui a été promu, qui a reçu le premier entretien), vous ne supprimez pas le biais, vous l’industrialisez. Vous apprenez à une machine à reproduire chaque décision d’embauche miroir, chaque appel « culture fit », chaque raccourci intuitif qui vous a donné la main‑d’œuvre que vous avez déjà. Ce n’est pas de l’innovation. C’est du biais à grande échelle, simplement plus rapide et avec un vernis d’objectivité qui le rend plus difficile à contester.

Ainsi, la protection doit commencer avant même l’algorithme. Nous n’entraînons pas sur les CV, les photos, les noms, les universités, ni sur aucun des proxys traditionnels qui corrèlent le privilège plutôt que le potentiel. Si l’entrée porte le biais, aucune modélisation astucieuse en aval ne le corrige. C’est le problème du « garbage in, garbage out », sauf que les déchets sont des décennies de préjugés humains déguisés en CV.

Le deuxième volet est ce contre quoi vous mesurez réellement le modèle. Il ne suffit pas de dire « l’IA fonctionne », il faut constamment tester l’impact négatif selon le genre, l’ethnie, l’âge, le handicap, chaque caractéristique protégée que vous pouvez mesurer en continu, et non pas comme un audit ponctuel avant le lancement. Le biais n’est pas un bug que l’on corrige une fois. C’est quelque chose que vous devez surveiller en permanence, de la même façon que vous surveilleriez tout système qui prend des décisions décisives concernant la vie des personnes.

Et troisièmement — c’est l’aspect que les gens négligent — vous avez besoin d’yeux extérieurs. Audits indépendants et tiers de vos modèles, méthodologie publiée, véritable transparence sur ce que le système fait et ne fait pas. Si vous vous contentez de faire vérifier votre outil d’embauche IA par les personnes qui l’ont construit et qui sont financièrement motivées à le défendre, vous n’avez pas réellement résolu le problème de confiance, vous l’avez simplement déplacé.

« L’algorithme l’a fait » n’est pas une excuse, mais une reconnaissance que vous n’avez pas mis en place les protections dès le départ. Rappelez‑vous que l’IA ne supprime pas la responsabilité humaine en matière d’équité.

Le recrutement est une application de l’IA à enjeux exceptionnellement élevés parce qu’un algorithme peut influencer directement la carrière de quelqu’un. Où les organisations devraient‑elles tracer la ligne entre les décisions qui peuvent être automatisées et celles qui doivent toujours rester sous une supervision humaine significative ?

La ligne que je trace est la suivante : l’IA peut absolument vous aider à voir une personne plus clairement, mais elle ne doit jamais être celle qui décide seule de son destin. Il y a une réelle différence entre augmenter une décision et la externaliser. Le recrutement est l’un des rares domaines où se tromper sur cette distinction change réellement la vie de quelqu’un.

Alors où l’automatisation trouve‑t‑elle sa place ? Dans la mise en évidence de signaux que les humains peinent à percevoir de manière constante et équitable, par exemple lire des milliers de réponses d’entretien sans fatigue, sans mauvaise journée, sans favoriser inconsciemment le candidat qui leur rappelle leur propre moi à vingt‑cinq ans. C’est une tâche que l’IA peut accomplir mieux qu’un recruteur épuisé lors de son huitième entretien de la journée. Le dépistage des compétences douces authentiques, la structuration des informations afin que chaque candidat soit évalué selon les mêmes critères, voilà où la machine apporte une réelle valeur ajoutée, car nous ne sommes pas conçus pour être aussi cohérents.

La décision finale — qui est embauché, qui est rejeté, qui mérite une seconde chance — doit revenir à un être humain qui peut en être tenu responsable. Pas comme un tampon en caoutchouc sur n’importe quelle sortie du modèle, mais une supervision réelle et significative : quelqu’un qui comprend ce que le système mesure, qui peut remettre en question un résultat qui semble erroné, et qui peut le remplacer. Si un humain ne peut pas contester de façon pertinente la recommandation de l’IA, il ne s’agit pas d’une supervision mais d’un alibi humain.

Je tracerais également la ligne à tout ce qui est irréversible ou opaque. Si un candidat ne peut pas obtenir une explication compréhensible sur la raison pour laquelle il n’a pas progressé, le système a échoué, quel que soit le degré de “précis” qu’il affiche. Et si le modèle prend des décisions que personne dans l’entreprise ne peut réellement expliquer — y compris les personnes qui l’ont construit — ce n’est pas un outil de recrutement, c’est une boîte noire contenant la carrière de quelqu’un. Le test que je proposerais à toute organisation est simple : pourriez‑vous vous asseoir en face d’un candidat que vous avez rejeté et expliquer, en termes simples, pourquoi ? Si la réponse honnête est “Je ne sais pas réellement, le modèle a décidé”, vous avez automatisé la mauvaise partie du processus.

Sapia.ai distingue l’IA générative utilisée pour les conversations ouvertes et les systèmes plus déterministes utilisés pour l’évaluation des candidats. Pourquoi cette distinction est‑elle importante, notamment lorsque les sorties de l’IA doivent être cohérentes, auditable et défendable ?

Les gens entendent “IA” et supposent que c’est une seule chose, mais dans le recrutement, cette confusion est exactement là où les problèmes surviennent. Nous séparons délibérément le travail en deux, car la conversation ouverte et l’évaluation à enjeux élevés ont des exigences complètement différentes, et faire semblant qu’il s’agisse de la même technologie conduit les entreprises à se retrouver avec des systèmes qu’elles ne peuvent pas expliquer, défendre ou faire confiance.

L’IA générative excelle au niveau de la conversation — avoir un échange naturel, à sensation humaine, avec un candidat, poser de bonnes questions de suivi, rendre l’expérience semblable à une conversation plutôt qu’à un formulaire. C’est là que vous voulez de la flexibilité, de la nuance, voire un peu d’imprévisibilité, car les vraies conversations ne sont pas scénarisées.

Mais dès que vous passez de la discussion avec un candidat à son évaluation, tout ce que vous attendez du système change radicalement. L’évaluation doit être cohérente : la même réponse doit recevoir la même appréciation, qu’il s’agisse du premier candidat ou du milleième, qu’il s’agisse d’un lundi matin ou d’un vendredi après‑midi. Elle doit être auditable, ce qui signifie que vous devez pouvoir revenir en arrière et montrer exactement pourquoi un candidat a obtenu le score qu’il a reçu, et pas simplement faire confiance au fait que le modèle “a trouvé la solution”. Et elle doit être défendable parce que la subsistance de quelqu’un dépend de ce score, et “le modèle génératif a estimé que c’était une bonne réponse” n’est pas une phrase qui survive le contrôle d’un régulateur, d’un journaliste ou d’un candidat qui veut savoir pourquoi il n’a pas obtenu le poste.

Les modèles génératifs, par nature, sont probabilistes — poser la même question deux fois peut donner des réponses légèrement différentes. C’est une fonctionnalité pour la conversation et une responsabilité sérieuse pour l’évaluation. Chez Sapia, nous utilisons des systèmes déterministes pour la partie du processus qui décide réellement du résultat d’une personne. Nous modélisons les cas où la même entrée produit de manière fiable la même sortie, où nous pouvons tracer le raisonnement, et où nous pouvons prouver que deux candidats similaires sont traités de manière équivalente.

C’est vraiment une séparation des responsabilités : laissez l’IA générative exceller à être semblable à l’humain, et laissez les systèmes déterministes et auditable porter le poids d’une décision qui doit être équitable, explicable et défendable sous examen.

L’explicabilité est souvent évoquée comme une exigence pour une IA responsable, mais de nombreux modèles avancés restent difficiles à comprendre pour les utilisateurs. Quelle quantité d’explication un candidat ou un employé devrait‑il raisonnablement attendre lorsque l’IA a influencé une décision de recrutement ?

Je pense que les candidats méritent plus que la plupart des entreprises ne leur accordent actuellement, et honnêtement, plus que la plupart des entreprises pensent pouvoir offrir. “L’algorithme a décidé” est une admission d’échec déguisée en sophistication.

Voici mon point de vue : un candidat doit toujours pouvoir comprendre, en termes simples, sur quoi il a été évalué et, approximativement, pourquoi il a obtenu le résultat qu’il a obtenu. Pas les mathématiques sous‑jacentes, pas une impression des poids du modèle. Ce qu’il veut et ce qui lui est dû, ressemble davantage à ce qu’un bon manager lui dirait en face à face : voici les qualités que nous recherchions, voici où vous avez été fort, voici où vous n’étiez pas le meilleur correspondant cette fois‑ci. C’est un critère tout à fait raisonnable, et tout système qui ne peut pas le satisfaire ne devrait pas prendre de décisions concernant la subsistance de quelqu’un.

Donc, pour nous, l’explicabilité doit être intégrée à l’architecture dès le premier jour, car on ne peut pas expliquer ce que l’on ne peut pas tracer.

Où je pousserais un peu en arrière, c’est sur l’idée que l’explicabilité signifie que les candidats ont besoin d’une formation technique sur le fonctionnement du modèle. C’est une norme fausse, souvent utilisée comme excuse alors qu’en réalité le système n’a tout simplement pas été conçu pour être expliqué. Un bon médecin ne vous explique pas la biochimie d’un diagnostic ; il vous dit ce qu’il a trouvé et ce que cela signifie pour vous. L’IA dans le recrutement devrait se tenir à la même norme d’honnêteté lisible par l’humain.

Le vrai test est le même que j’appliquerais à la supervision humaine : un candidat pourrait‑il demander “pourquoi je n’ai pas progressé ?” et obtenir une réponse précise, honnête et qui lui appartient réellement ? Si votre IA ne peut pas fournir cette réponse, vous n’avez pas construit un système explicable. Vous avez construit un système dont vous espérez que personne ne posera de questions.

Les entreprises se concentrent souvent sur le fait que les employés et les managers utilisent un outil d’IA, plutôt que sur le fait qu’ils font réellement confiance à ses résultats. Quels signes d’alerte suggèrent qu’une organisation a atteint l’adoption de l’IA sans réellement gagner la confiance dans la technologie ?

L’adoption est la métrique la plus facile à falsifier, et c’est exactement pourquoi tant d’entreprises la confondent avec le succès. Si je vous dis que tout le monde dans l’entreprise « utilise » l’outil d’IA, cela ne vous indique presque rien sur leur confiance dans celui‑ci — cela peut simplement signifier que c’est obligatoire, ou que c’est la voie de moindre résistance, ou que personne n’a encore trouvé de moyen de contourner l’outil.

Le premier signe d’avertissement est le recours à des solutions de contournement. Si les gens utilisent l’outil d’IA mais continuent discrètement à suivre l’ancien processus en parallèle — en vérifiant manuellement ses résultats, en conservant leurs propres notes séparées, en faisant fonctionner un système parallèle au cas où — cela correspond à une conformité assortie d’une police d’assurance. Les chiffres d’utilisation semblent excellents. En réalité, tout le monde pense que l’outil pourrait se tromper.

Le deuxième signe est le silence. Dans une culture réellement confiante, les personnes contestent le système lorsqu’un élément semble anormal : elles posent des questions, résistent, signalent les résultats qui ne semblent pas corrects. Lorsque l’adoption est réelle mais que la confiance ne l’est pas, on observe le contraire. Les gens cessent de le remettre en question parce qu’ils ont décidé que cela ne vaut pas la peine de se battre. Ce silence est interprété à tort par la direction comme de la satisfaction. En fait, c’est une forme de résignation.

Le troisième avertissement est un écart entre ce que les gens déclarent dans une enquête et ce qu’ils se disent entre eux. Je serais bien plus inquiet d’une entreprise dont le tableau de bord officiel d’adoption est vert partout, alors que la vraie conversation dans la salle de pause est « oui, on fait simplement ce que l’outil indique parce que c’est plus simple que de débattre » — c’est une culture qui n’a pas été convertie.

Et le signe d’avertissement le plus profond et celui qui compte le plus à mes yeux : lorsque les gens cessent totalement d’apporter leur propre jugement. C’est de l’abdication. Une vraie confiance dans un outil signifie que les personnes se sentent encore capables de le contester lorsque leur expertise indique le contraire — et qu’elles se sentent en sécurité pour le faire. Si vos managers se sont tus et se contentent de suivre aveuglément ce que l’IA dit, vous avez créé une dépendance.

Le véritable test n’est donc pas « les gens l’utilisent‑ils ? » mais « les gens choisiraient‑ils de continuer à l’utiliser s’il était optionnel, et vous diraient‑ils honnêtement lorsqu’il se trompe ? » La plupart des entreprises n’ont jamais réellement posé ces deux questions. C’est généralement le révélateur.

Les outils d’embauche basés sur l’IA peuvent potentiellement évaluer les candidats à une échelle et avec une cohérence que les recruteurs humains ne peuvent pas atteindre, mais le recrutement implique également du contexte et des nuances. Où pensez‑vous que l’IA peut surpasser le jugement humain aujourd’hui, et où les humains restent‑ils indispensables ?

L’IA peut être un excellent outil pour évaluer un large vivier de candidats, quels que soient leurs antécédents et leurs expériences, tout en offrant une évaluation personnalisée aux candidats ayant des besoins spécifiques. Un recruteur humain pourrait être davantage enclin à privilégier les candidats issus d’une université de premier rang ou sans antécédents de santé. L’IA réalise une évaluation équitable et égale de tous les candidats d’une manière que les humains ne peuvent pas faire lorsqu’ils sont confrontés à des centaines de candidatures. Cela dit, le jugement humain reste essentiel pour déterminer si un candidat s’intégrera à la culture d’une entreprise ou répondra aux exigences des clients.

À mesure que l’IA s’intègre davantage dans le recrutement, le coaching, la gestion de la performance et d’autres décisions liées à la main‑d’œuvre, comment la responsabilité doit‑elle être structurée lorsqu’une décision assistée par l’IA produit un résultat injuste ou erroné ?

La responsabilité en matière d’IA demeure lorsque les humains restent les décideurs finaux, tandis que le processus de recrutement intègre transparence, explicabilité et tests rigoureux de biais. Nous avons lancé le modèle FAIR™ pour favoriser des pratiques d’IA responsables. Il recommande :

• Impartialité : tester les biais et utiliser les bonnes mesures statistiques — telles que la règle des 4/5, la parité des taux d’erreur et d’autres tests de biais pertinents — pour vérifier que les résultats sont équitables.
• Validité : les preuves générées par l’IA reposent sur des données réelles et sont liées au résultat qu’elles sont censées prédire.
• Explicabilité : disposer d’une documentation claire et d’outils pour interpréter les résultats, ce que l’IA a identifié chez un candidat et comment cela a contribué à son score.
• Inclusivité : cela signifie veiller à ce que les candidats soient traités équitablement tout au long du processus, de la candidature à la prise de décision. C’est une vision de bout en bout de l’expérience d’embauche — incluant les personnes, les processus, la technologie et l’IA travaillant ensemble.

En regardant vers l’avenir, pensez‑vous que l’IA deviendra principalement une couche de prise de décision au sein des systèmes RH, ou son rôle le plus important sera‑t‑il conversationnel, aidant les candidats et les employés à mieux comprendre les opportunités, développer leurs compétences et gérer leur carrière ?

Même les technologies les plus avancées nécessitent une touche humaine, un jugement humain et une supervision humaine. L’IA est là pour soutenir le processus, en veillant à ce que chaque candidat ait une chance équitable et égale d’être considéré pour un poste. Chez Sapia, nous aimons appeler cela une « approche humain‑dans‑la‑boucle », où nous combinons intelligence humaine et machine pour créer des expériences de chat intelligentes, prédictives, responsables et personnalisées. Pour ce faire, nous embarquons nos clients, afin de valider constamment la précision et l’équité, tout en apprenant à nos modèles d’IA à évoluer dans le temps.

Notre approche humaine se reflète également dans ce que nous offrons aux candidats. Nous avons récemment lancé Phai, un coach de carrière qui agit comme un mentor, offrant aux chercheurs d’emploi des conseils personnalisés, une cartographie des points forts et une préparation aux entretiens afin de les aider à aborder leur prochaine opportunité en toute confiance. C’est un outil positif pour maintenir la motivation d’un candidat au‑delà du résultat de l’entretien.

Merci pour la formidable interview, les lecteurs qui souhaitent en savoir plus devraient visiter Sapia.ai.