Barb Hyman, Fondatrice e CEO di Sapia.ai – Serie di Interviste

Barb Hyman, Fondatrice e CEO di Sapia.ai è una leader aziendale esperta la cui carriera ha spaziato tra diritto, consulenza manageriale, marketing, apprendimento e sviluppo, risorse umane e tecnologia. Ha iniziato la sua carriera come avvocato presso Herbert Smith Freehills prima di passare alla consulenza con Boston Consulting Group, dove è progredita fino a Project Leader e successivamente è tornata in ruoli senior supervisionando apprendimento e sviluppo, HR e marketing in tutta l’Australasia. Hyman ha inoltre ricoperto il ruolo di Head of Marketing and Sponsorship al Museum of Contemporary Art di Sydney e di Executive General Manager of People & Culture presso REA Group. Ha fondato Sapia.ai nel 2018, attingendo alla sua esperienza in leadership organizzativa e gestione dei talenti per ripensare il modo in cui le aziende valutano e assumono persone usando l’intelligenza artificiale.

Sapia.ai è un’azienda di tecnologia per le assunzioni alimentata dall’IA, focalizzata sulla valutazione strutturata e conversazionale dei candidati. La sua piattaforma utilizza interviste basate su chat per valutare i candidati in modo coerente su larga scala, aiutando i datori di lavoro a valutare competenze e idoneità riducendo la dipendenza dallo screening tradizionale dei CV e da altri segnali che possono introdurre bias. Sapia.ai afferma che la sua tecnologia ha valutato più di 10 milioni di candidati e combina la scienza della valutazione strutturata con l’intelligenza dei talenti potenziata dall’IA, feedback personalizzato per i candidati e integrazioni con i sistemi di tracciamento delle candidature e HR esistenti. L’azienda sottolinea anche l’importanza della spiegabilità, dell’equità e della conformità aziendale, con una piattaforma più ampia che comprende interviste IA, analisi del lavoro, programmazione delle interviste, intelligenza dei talenti e coaching di carriera potenziato dall’IA.

Prima di fondare Sapia.ai, hai costruito una carriera che ha spaziato dalla consulenza presso Boston Consulting Group, al diritto, al marketing, all’apprendimento e sviluppo, e infine alla leadership di People & Culture presso REA Group. Quali esperienze di quel percorso ti hanno convinto che le assunzioni dovessero essere ripensate in modo fondamentale, e quale problema ti eri prefissata di risolvere con Sapia.ai?

Il modo attuale in cui valutiamo le persone è rotto — soprattutto nelle assunzioni.

Ci affidiamo ai CV. Non vediamo la persona nella sua interezza. Prendiamo le decisioni più importanti — chi assumere, chi promuovere — basandoci su intuizioni e proxy. L’assunzione speculare è dilagante: da quando la scuola o l’università frequentata da qualcuno è diventata un proxy per l’intelligenza? Non lo è. È un proxy per il vantaggio.

Una parte di questo è legata alla mia storia personale. Sono un’immigrata e so di essere finita in una categoria fortunata di immigrati: sono bianca e ho un nome che le persone trovano facile da pronunciare. Provengo da una famiglia in cui nessuno è andato all’università; mio padre era un negoziante. Eppure ho avuto opportunità straordinarie e, dopo cinque carriere, eccomi qui. Quando penso ai due miliardi di lavoratori nel mondo, penso a quanti di loro possiedono esattamente il talento, la motivazione, il pensiero critico a cui vengo attribuita, ma non vengono mai visti perché siamo accecati dal prisma della nostra esperienza. Il bias è una scorciatoia comoda per prendere decisioni rapide, ed è proprio per questo che le assunzioni continuano a premiare chi è già avvantaggiato. Non è mai sembrato giusto o razionale.

L’altra metà della storia proviene dalla consulenza. Dopo il mio MBA, sono entrata in un mondo in cui non si entrava mai in una sala riunioni e si faceva una raccomandazione senza una ricerca reale a supporto. Eppure la decisione più critica che un’azienda prende (chi entra, chi guida, chi plasma la cultura) è ancora basata su intuizioni o su un proxy sottile come il nome dell’università. Le persone non sono sul bilancio, ma nei servizi professionali, soprattutto, sono l’attivo. Questa disconnessione mi sembrava assurda.

Il CV stesso non è cambiato sostanzialmente da quando Leonardo da Vinci ne ha inventato il formato. Wikipedia elenca più di 180 bias umani documentati. Un terzo dei candidati nordamericani che completano una domanda di lavoro resta senza risposta dopo due mesi. Nulla di tutto ciò è un problema di talento: il talento è distribuito equamente, ma le opportunità no.

Ciò che mi sono prefissata di risolvere con Sapia non era solo una decisione — era frutto dell’esperienza di ricerca di un lavoro. Il mio team ride di me per questo, ma ho sempre pensato alle assunzioni come a un appuntamento. È una relazione. Trascorri più tempo con le persone al lavoro che con il tuo partner. Allora perché prendere quella decisione con meno rigore — i dati — di quello che esigiamo per ogni altra decisione importante?

Hai sostenuto che la maggior parte delle organizzazioni affronta l’adozione dell’IA come un progetto di efficienza quando dovrebbe iniziare come un progetto di fiducia. Come appare concretamente la “fiducia” nella pratica, e come dovrebbero le aziende misurarla insieme a metriche più tradizionali come produttività, risparmio sui costi e adozione?

L’ho imparato come CHRO: se non sei trasparente sul perché stai apportando un cambiamento, la fiducia è la prima vittima. E penso che la maggior parte delle aziende abbia l’adozione dell’IA al contrario. Misurano il guadagno di produttività, ad esempio le ore risparmiate, il costo per assunzione, ma non si fermano mai a misurare ciò che realmente determina se qualcosa rimane: le persone si fidano di come usi l’IA e del perché.

La fiducia è il substrato della tua cultura. Non è una metrica morbida accanto a quelle reali — è ciò su cui le metriche reali sono costruite. Pensala come faresti con qualsiasi relazione. Un’alta fiducia ti offre gradi di libertà. Una bassa fiducia rende tutto più piccolo, meno vivace, meno rilassato. E nessuno rende al meglio quando non si sente al sicuro. Le organizzazioni non sono diverse.

Eppure gran parte di ciò che è stato fatto con l’IA sul posto di lavoro ha in realtà trasformato i dati delle persone in un’arma contro di loro, ad esempio raccogliendo i social media di qualcuno per dedurre se sia una buona assunzione, un buon rischio o un rischio negativo. Non riesco davvero a immaginare la riunione in cui è stata presa quella decisione, né come qualcuno abbia pensato che non avrebbe corroso la cultura non appena le persone lo avessero scoperto.

Quindi, se prendi sul serio l’adozione dell’IA, la fiducia deve essere una metrica fin dal primo giorno, affiancata a produttività e risparmio sui costi. Chiedi alle persone direttamente: capite perché la stiamo usando? Credete che venga usata in modo equo? Se non potete rispondere sì a entrambe, i guadagni di efficienza che celebrate sono in prestito su una cultura che state lentamente erodendo.

Una delle preoccupazioni più grandi riguardo all’IA nelle assunzioni è che i modelli possano apprendere dai dati storici di occupazione e potenzialmente rafforzare gli stessi pregiudizi umani che le organizzazioni cercano di eliminare. Come possono le aziende impedire che l’IA automatizzi semplicemente i bias di assunzione esistenti, e quali salvaguardie dovrebbero essere integrate in questi sistemi fin dall’inizio?

Questo è esattamente l’imbroglio che la maggior parte delle conversazioni sull’IA nelle assunzioni non coglie e il motivo per cui ho costruito Sapia nel modo in cui l’ho fatto. Se alleni un modello sui dati storici di assunzione (chi è stato assunto, chi è stato promosso, chi ha avuto il primo colloquio) non stai rimuovendo il bias, lo stai industrializzando. Stai insegnando a una macchina a replicare ogni decisione di assunzione speculare, ogni valutazione di “cultural fit”, ogni scorciatoia basata sull’istinto che ti ha fornito la forza lavoro che già possiedi. Non è innovazione. È bias su larga scala, solo più veloce e con una patina di oggettività che lo rende più difficile da contestare.

Quindi la salvaguardia deve partire più indietro rispetto all’algoritmo. Non addestriamo su CV, foto, nomi, università o su alcuno dei tradizionali proxy che correlano il privilegio piuttosto che il potenziale. Se l’input contiene il bias, nessuna modellazione intelligente a valle lo corregge. È il problema del “spazzatura entra, spazzatura esce”, solo che la spazzatura sono decenni di pregiudizio umano mascherati da curriculum.

Il secondo elemento è ciò contro cui misuri effettivamente il modello. Non basta dire “l’IA funziona”, devi testare costantemente l’impatto avverso su genere, etnia, età, disabilità, ogni caratteristica protetta che puoi misurare in modo continuo, non come un audit una tantum prima del lancio. Il bias non è un bug che si corregge una sola volta. È qualcosa che devi monitorare continuamente, proprio come faresti con qualsiasi sistema che prende decisioni decisive sulla vita delle persone.

E terzo — questo è quello che la gente tende a trascurare — hai bisogno di occhi esterni. Audit indipendenti, di terze parti, dei tuoi modelli, metodologie pubblicate, reale trasparenza su ciò che il sistema fa e non fa. Se sei disposto a far verificare il tuo strumento di assunzione IA solo dalle persone che lo hanno costruito e sono finanziariamente motivate a difenderlo, non hai davvero risolto il problema della fiducia, l’hai solo spostato.

Il “l’algoritmo l’ha fatto” non è una scusa, ma un’ammissione che non hai costruito le salvaguardie fin dall’inizio. Ricorda, l’IA non elimina la responsabilità umana per l’equità.

Le assunzioni sono un’applicazione dell’IA particolarmente ad alto rischio perché un algoritmo può influenzare direttamente la carriera di una persona. Dove dovrebbero le organizzazioni tracciare il confine tra decisioni che possono essere automatizzate e quelle che dovrebbero sempre rimanere sotto una supervisione umana significativa?

Il confine che traccio è questo: l’IA può assolutamente aiutarti a vedere una persona più chiaramente, ma non dovrebbe mai essere l’unica a decidere il suo destino. C’è una reale differenza tra potenziare una decisione e esternalizzarla. Le assunzioni sono uno dei pochi ambiti in cui sbagliare questa distinzione cambia effettivamente la vita di qualcuno.

Allora, dove l’automazione guadagna il suo posto? Nell’evidenziare segnali che gli esseri umani faticano a percepire in modo coerente e imparziale, ad esempio leggere migliaia di risposte a colloqui senza affaticamento, senza avere una brutta giornata, senza favorire inconsciamente il candidato che ricorda loro a venticinque anni. È un compito che l’IA può svolgere meglio di un responsabile delle assunzioni stanco al suo ottavo colloquio della giornata. Selezionare le vere soft skill, strutturare le informazioni in modo che ogni candidato sia valutato con gli stessi criteri, è dove la macchina aggiunge valore reale perché non siamo fatti per essere così coerenti.

La decisione finale — chi viene assunto, chi viene rifiutato, chi riceve una seconda considerazione — deve spettare a un essere umano che possa esserne responsabile. Non come un timbro di approvazione su qualsiasi output del modello, ma con una supervisione reale e significativa: qualcuno che comprenda cosa il sistema sta misurando, possa mettere in discussione un risultato che sembra errato e possa annullarlo. Se un umano non può contestare in modo significativo la raccomandazione dell’IA, non si tratta di supervisione ma di un alibi umano.

Traccerei anche un limite a tutto ciò che è irreversibile o opaco. Se un candidato non può ottenere una spiegazione comprensibile sul motivo per cui non è stato selezionato, il sistema ha fallito indipendentemente da quanto sia \”accurato\”. E se il modello prende decisioni che nessuno in azienda può realmente spiegare — inclusi le persone che lo hanno costruito — non è uno strumento di assunzione, è una scatola nera con la carriera di qualcuno al suo interno. Il test che proporrei a qualsiasi organizzazione è semplice: potresti sederti di fronte a un candidato che hai rifiutato e spiegare, in parole semplici, il perché? Se la risposta onesta è \”Non lo so davvero, è stato il modello a decidere\”, hai automatizzato la parte sbagliata del processo.

Sapia.ai distingue tra IA generativa usata per conversazioni aperte e sistemi più deterministici impiegati per valutare i candidati. Perché questa distinzione è importante, soprattutto quando i risultati dell’IA devono essere coerenti, verificabili e difendibili?

La gente sente \”AI\” e la assume come un’unica cosa, ma nella selezione del personale è proprio lì che nascono gli errori. Dividiamo deliberatamente il compito in due parti, perché la conversazione aperta e la valutazione ad alto rischio hanno requisiti completamente diversi, e fingere che siano la stessa tecnologia è il modo in cui le aziende finiscono con sistemi che non possono spiegare, difendere o di cui non si fidano.

L’IA generativa è eccellente nello strato conversazionale — offre uno scambio naturale, simile a quello umano, con il candidato, ponendo buone domande di approfondimento e facendo sì che l’esperienza sembri una conversazione piuttosto che un modulo. È qui che si desidera flessibilità, sfumature, persino un po’ di imprevedibilità, perché le conversazioni reali non sono sceneggiate.

Ma nel momento in cui si passa dal parlare con un candidato alla sua valutazione, tutto ciò di cui si ha bisogno dal sistema cambia radicalmente. La valutazione deve essere coerente: la stessa risposta deve ricevere la stessa valutazione, sia che si tratti del candidato uno o del candidato mille, sia che sia un lunedì mattina o un venerdì pomeriggio. Deve essere verificabile, il che significa che bisogna poter tornare indietro e mostrare esattamente perché un candidato ha ricevuto quel punteggio, non solo fidarsi che il modello \”l’abbia capito\”. Deve inoltre essere difendibile perché il sostentamento di una persona dipende da quel punteggio, e \”il modello generativo ha ritenuto che fosse una buona risposta\” non è una frase che resiste al confronto con un regolatore, un giornalista o un candidato che vuole sapere perché non ha ottenuto il lavoro.

I modelli generativi, per loro natura, sono probabilistici — ponendo la stessa domanda due volte si possono ottenere risposte leggermente diverse. È una caratteristica utile per la conversazione e una seria responsabilità per la valutazione. In Sapia, utilizziamo sistemi deterministici per la parte del processo che decide effettivamente l’esito di una persona. Modelliamo in modo che lo stesso input produca costantemente lo stesso output, dove possiamo tracciare il ragionamento e dove possiamo dimostrare che due candidati simili sono trattati in modo equivalente.

È davvero una separazione delle preoccupazioni: lasciare che l’IA generativa eccelli nell’essere simile all’umano, e far sì che i sistemi deterministici e verificabili portino il peso di una decisione che deve essere equa, spiegabile e difendibile sotto scrutinio.

La spiegabilità è spesso discussa come requisito per un’IA responsabile, ma molti modelli avanzati rimangono difficili da comprendere per gli utenti. Quanto spiegazione dovrebbe ragionevolmente aspettarsi un candidato o un dipendente quando l’IA ha influenzato una decisione di assunzione?

Penso che i candidati meritino più di quanto la maggior parte delle aziende attualmente offra loro, e onestamente, più di quanto la maggior parte delle aziende creda di poter fornire. \”L’algoritmo ha deciso\” è un’ammissione di fallimento mascherata da sofisticazione.

Ecco dove mi posiziono: un candidato dovrebbe sempre poter capire, in linguaggio semplice, su cosa è stato valutato e più o meno perché è arrivato dove è arrivato. Non la matematica sottostante, non una stampa dei pesi del modello. Ciò che desiderano e ciò a cui hanno diritto è qualcosa di più vicino a quello che un buon manager direbbe loro faccia a faccia: queste sono le qualità che cercavamo, qui sei stato forte, qui non sei stato il candidato più adatto questa volta. È un requisito del tutto ragionevole, e qualsiasi sistema che non riesce a soddisfarlo non dovrebbe prendere decisioni sul sostentamento di una persona fin dall’inizio.

Quindi per noi, la spiegabilità deve essere integrata nell’architettura fin dal primo giorno, perché non si può spiegare ciò che non si può tracciare.

Dove farei una piccola obiezione è sull’idea che la spiegabilità implichi che i candidati debbano avere una formazione tecnica su come funziona il modello. È uno standard falso, spesso usato come scusa quando in realtà non è stato progettato per essere spiegato. Un buon medico non ti spiega la biochimica di una diagnosi; ti dice cosa ha riscontrato e cosa significa per te. L’IA nella selezione dovrebbe aderire allo stesso standard di onestà leggibile dall’uomo.

Il vero test è lo stesso che applicherei alla supervisione umana: un candidato può chiedere \”perché non sono stato selezionato?\” e ricevere una risposta specifica, onesta e realmente sua. Se la tua IA non può fornire quella risposta, non hai costruito un sistema spiegabile. Hai costruito qualcosa sperando che nessuno ne chieda.

Le aziende si concentrano spesso sul fatto che dipendenti e manager stiano usando uno strumento di IA, piuttosto che sulla reale fiducia nei suoi risultati. Quali segnali di avvertimento indicano che un’organizzazione ha raggiunto l’adozione dell’IA senza aver acquisito una vera fiducia nella tecnologia?

L’adozione è la metrica più facile da falsificare, ed è proprio per questo che molte aziende la confondono con il successo. Se vi dico che tutti in azienda “usano” lo strumento di IA, questo non vi dice quasi nulla sul fatto che vi credano — potrebbe semplicemente significare che è obbligatorio, o che è la via di minor resistenza, o che nessuno ha ancora trovato un modo per aggirarlo.

Il primo segnale di avvertimento è il comportamento di aggiramento. Se le persone usano lo strumento di IA ma allo stesso tempo continuano silenziosamente a seguire il vecchio processo in parallelo — ricontrollando manualmente i risultati, tenendo appunti separati, eseguendo un sistema ombra per sicurezza — si tratta di una conformità con una polizza assicurativa allegata. I numeri di utilizzo sembrano ottimi. La verità è che tutti pensano che lo strumento possa essere errato.

Il secondo è il silenzio. In una cultura davvero fiduciosa, le persone mettono in discussione il sistema quando qualcosa sembra fuori posto: pongono domande, oppongono resistenze, segnalano risultati che non sembrano corretti. Quando l’adozione è reale ma la fiducia non lo è, si ottiene l’opposto. Le persone smettono di metterlo in dubbio perché hanno deciso che non vale la pena combattere. Quel silenzio viene interpretato dalla leadership come soddisfazione. In realtà è una rassegnazione.

Il terzo avvertimento è una discrepanza tra ciò che le persone dichiarano in un sondaggio e ciò che dicono tra loro. Sarei molto più preoccupato per un’azienda il cui cruscotto di adozione ufficiale è verde in tutti i settori, ma la vera conversazione nella sala pausa è “sì, facciamo semplicemente quello che dice perché è più facile che discutere” — è una cultura che non si è trasformata.

E il segnale di avvertimento più profondo e quello che per me conta di più: quando le persone smettono del tutto di portare il proprio giudizio al tavolo. È un’abdicazione. Una vera fiducia in uno strumento significa che le persone si sentono ancora autorizzate a dissentire quando la loro esperienza personale indica qualcosa di diverso — e si sentono sicure nel farlo. Se i vostri manager sono diventati silenziosi e si limitano a deferire a qualunque cosa dica l’IA, avete creato una dipendenza.

Quindi il vero test non è “le persone lo usano” ma “le persone sceglierebbero di continuare a usarlo se fosse opzionale, e ti direbbero onestamente quando sbaglia”. La maggior parte delle aziende non ha mai posto realmente nessuna delle due domande. Questo è solitamente il segnale.

Gli strumenti di assunzione basati su IA possono potenzialmente valutare i candidati su una scala e con una coerenza che i recruiter umani non possono, ma l’assunzione comporta anche contesto e sfumature. Dove credi che l’IA possa superare il giudizio umano oggi, e dove gli esseri umani sono ancora indispensabili?

L’IA può essere uno strumento eccellente per valutare un ampio pool di candidati, indipendentemente dal loro background e dalle loro esperienze, offrendo al contempo valutazioni personalizzate per i candidati con esigenze specifiche. Un recruiter umano potrebbe essere più incline a favorire candidati provenienti da un’università di alto livello o privi di precedenti problemi di salute. L’IA effettua una valutazione equa e paritaria di tutti i candidati in un modo che gli esseri umani non possono fare quando si trovano di fronte a centinaia di candidature. Detto ciò, il giudizio umano è ancora fondamentale per valutare se un candidato si inserirà nella cultura aziendale o soddisferà gli standard richiesti dai clienti.

Man mano che l’IA si integra più profondamente nel reclutamento, nel coaching, nella gestione delle prestazioni e in altre decisioni relative alla forza lavoro, come dovrebbe essere strutturata la responsabilità quando una decisione assistita dall’IA produce un risultato ingiusto o errato?

La responsabilità nell’IA rimane quando gli esseri umani sono i decisori finali, mentre il flusso di lavoro di reclutamento include trasparenza, spiegabilità e test rigorosi sui bias. Abbiamo lanciato il modello FAIR™ per promuovere pratiche di IA responsabile. Raccomanda:

• Imparzialità: testare i bias e utilizzare le giuste misure statistiche — come la regola 4/5, la parità dei tassi di errore e altri test di bias pertinenti — per verificare che i risultati siano equi.
• Validità: le evidenze basate sull’IA si fondano su dati reali e sono collegate al risultato che si intende prevedere.
• Spiegabilità: disporre di documentazione chiara e strumenti per interpretare i risultati, ciò che l’IA ha identificato su un candidato e come ciò ha contribuito al suo punteggio.
• Inclusività: ciò significa garantire che i candidati siano trattati equamente durante l’intero processo, dalla candidatura alla decisione finale. È una visione end-to-end dell’esperienza di assunzione — includendo persone, processi, tecnologia e IA che lavorano insieme.

Guardando al futuro, prevedi che l’IA diventi principalmente uno strato decisionale all’interno dei sistemi HR, o che il suo ruolo più importante sarà conversazionale, aiutando candidati e dipendenti a comprendere meglio le opportunità, sviluppare competenze e gestire le loro carriere?

Anche le tecnologie più avanzate richiedono il tocco umano, il giudizio umano e la supervisione umana. L’IA è lì per supportare il processo, assicurando che ogni candidato abbia una possibilità equa e pari di essere considerato per una posizione. Da Sapia, ci piace chiamare questo “approccio umano‑in‑ciclo”, dove combiniamo l’intelligenza umana e quella delle macchine per creare esperienze di chat intelligenti, predittive, responsabili e personalizzate. Per farlo, coinvolgiamo i nostri clienti, così li validiamo costantemente per accuratezza e correttezza, mentre insegniamo ai nostri modelli di IA a evolversi nel tempo.

Il nostro approccio umano si traduce anche in ciò che offriamo ai candidati. Abbiamo recentemente lanciato Phai, un career coach che agisce da mentore, fornendo ai cercatori di lavoro una guida personalizzata, la mappatura dei punti di forza e la preparazione ai colloqui per aiutarli ad affrontare con fiducia la loro prossima opportunità. È uno strumento positivo per mantenere il candidato motivato oltre l’esito del colloquio.

Grazie per la grande intervista, i lettori che desiderano saperne di più dovrebbero visitare Sapia.ai.