Barb Hyman, fondatoare și CEO al Sapia.ai – Seria de interviuri

Barb Hyman, fondatoare și CEO al Sapia.ai este o lideră de afaceri cu experiență, a cărei carieră a cuprins dreptul, consultanța în management, marketingul, învățarea și dezvoltarea, resursele umane și tehnologia. A început cariera ca solicitor la Herbert Smith Freehills înainte de a trece în consultanță la Boston Consulting Group, unde a avansat la poziția de lider de proiect și apoi s-a întors în roluri senior pentru a supraveghea învățarea și dezvoltarea, HR-ul și marketingul în întreaga Australasia. Hyman a servit, de asemenea, ca Head of Marketing and Sponsorship la Museum of Contemporary Art din Sydney și ca Executive General Manager of People & Culture la REA Group. A fondat Sapia.ai în 2018, bazându-se pe experiența sa în conducerea organizațională și managementul talentelor pentru a regândi modul în care companiile evaluează și angajează persoane utilizând inteligența artificială.

Sapia.ai este o companie de tehnologie de recrutare alimentată de AI, concentrată pe evaluarea structurată și conversațională a candidaților. Platforma sa folosește interviuri bazate pe chat pentru a evalua candidații în mod consecvent și la scară, ajutând angajatorii să evalueze abilitățile și adecvarea, reducând în același timp dependența de screeningul tradițional al CV-urilor și alte semnale care pot introduce părtinire. Sapia.ai afirmă că tehnologia sa a evaluat peste 10 milioane de candidați și combină știința evaluărilor structurate cu inteligența talentelor alimentată de AI, feedback personalizat pentru candidați și integrări cu sistemele existente de urmărire a aplicațiilor și HR. Compania subliniază, de asemenea, explicabilitatea, echitatea și conformitatea la nivel de întreprindere, platforma sa mai largă acoperind interviuri AI, analiza posturilor, programarea interviurilor, inteligența talentelor și coaching de carieră alimentat de AI.

Înainte de a fonda Sapia.ai, ați construit o carieră care a cuprins consultanță la Boston Consulting Group, drept, marketing, învățare și dezvoltare și, în cele din urmă, conducerea People & Culture la REA Group. Ce experiențe din acel parcurs v-au convins că procesul de recrutare trebuie regândit fundamental și ce problemă ați încercat inițial să rezolvați cu Sapia.ai

Modul actual în care evaluăm oamenii este defectuos — în special în recrutare.

Ne bazăm pe CV-uri. Nu vedem întreaga persoană. Luăm cele mai importante decizii — pe cine să angajăm, pe cine să promovăm — pe baza intuiției și a unor proxy-uri. Angajarea prin „oglindă” este răspândită: de când a devenit școala sau universitatea la care a studiat cineva un proxy pentru inteligență? Nu este. Este un proxy pentru avantaj.

O parte din aceasta se leagă de povestea mea personală. Sunt imigrant și știu că am ajuns într-o categorie norocoasă de imigranți: sunt alb și am un nume pe care oamenii îl găsesc ușor de pronunțat. Vin dintr-o familie în care nimeni nu a urmat studii universitare; tatăl meu era comerciant. Cu toate acestea am avut oportunități extraordinare și, la cinci cariere în urmă, iată-mă aici. Când mă gândesc la cei doi miliarde de lucrători din lume, mă gândesc la câți dintre ei au exact talentul, motivația, gândirea critică de care am fost lăudată, dar nu sunt niciodată observați pentru că suntem orbiți de prismul propriei noastre experiențe. Părtinirea este o scurtătură minunată pentru a lua o decizie rapidă și este exact motivul pentru care recrutarea continuă să răsplătească pe cei deja avantajați. Nu a părut niciodată corect sau rațional.

Cealaltă jumătate a poveștii provine din consultanță. După MBA-ul meu, am intrat într-o lume în care nu pășeai niciodată într-o sală de ședințe și făceai o recomandare fără o cercetare reală în spate. Cu toate acestea, decizia cu cele mai mari mize pe care o ia orice companie (cine se alătură, cine conduce, cine modelează cultura) este încă luată pe bază de intuiție, sau pe un proxy la fel de subțire ca numele unei universități. Oamenii nu apar pe bilanț, dar în special în serviciile profesionale, ei sunt activul. Această deconectare mi s-a părut absurdă.

CV-ul în sine nu s-a schimbat fundamental de când Leonardo da Vinci a inventat formatul. Wikipedia enumeră peste 180 de părtiniri umane documentate. Un sfert dintre candidații din America de Nord care finalizează o cerere de angajare rămân fără răspuns la două luni după. Nimic din acestea nu reprezintă o problemă de talent: talentul este distribuit în mod egal, dar oportunitatea nu.

Ceea ce am încercat să corectez cu Sapia nu a fost doar o decizie — a fost din experiența de a căuta un job. Echipa mea râde de mine pentru asta, dar am considerat întotdeauna recrutarea ca pe o întâlnire. Este o relație. Vei petrece mai mult timp cu oamenii de la locul tău de muncă decât cu partenerul tău. Deci de ce ai lua acea decizie pe baza a ceva mai puțin riguros — datele — pe care le impunem pentru fiecare altă decizie importantă?

Ați susținut că majoritatea organizațiilor abordează adoptarea AI ca pe un proiect de eficiență când ar trebui să înceapă ca un proiect de încredere. Cum arată „încrederea” în practică și cum ar trebui companiile să o măsoare alături de metrici mai tradiționale, cum ar fi productivitatea, economiile de cost și adoptarea?

Am învățat acest lucru ca CHRO: dacă nu ești transparent în legătură cu motivul pentru care faci o schimbare, încrederea este prima victimă. Și cred că majoritatea companiilor înțeleg greșit adoptarea AI. Ele măsoară câștigul de productivitate, de exemplu orele economisite, costul per angajare, dar nu se opresc niciodată să măsoare ceea ce determină cu adevărat dacă ceva rămâne: dacă oamenii tăi au încredere în modul în care folosești AI și de ce.

Încrederea este substratul culturii tale. Nu este o metrică superficială care stă lângă cele reale — este elementul pe care se bazează cele reale. Gândește-te la ea așa cum ai gândi la orice relație. Încrederea ridicată îți oferă grade de libertate. Încrederea scăzută face totul mai mic, mai puțin dinamic, mai puțin relaxat. Și nimeni nu își dă tot ce are mai bun când nu se simte în siguranță. Organizațiile nu sunt diferite.

Totuși, o mare parte din ceea ce s-a făcut cu AI la locul de muncă a transformat de fapt datele proprii ale oamenilor în arme împotriva lor, de exemplu extragerea informațiilor din rețelele sociale ale cuiva pentru a deduce dacă este un angajat bun, un risc bun sau un risc rău. Nu îmi pot imagina sincer întâlnirea în care s-a luat acea decizie, nici cum a crezut cineva că nu va coroda cultura în momentul în care oamenii află.

Așadar, dacă ești serios în privința adoptării AI, încrederea trebuie să fie o metrică de la primul zi, alături de productivitate și economii de costuri. Întreabă oamenii direct: înțelegi de ce folosim asta? Crezi că este folosită corect? Dacă nu poți răspunde „da” la ambele, câștigurile de eficiență pe care le sărbătorești sunt împrumutate dintr-o cultură pe care o consumi în tăcere.

Una dintre cele mai mari preocupări legate de AI în recrutare este că modelele pot învăța din datele istorice de angajare și pot consolida aceleași prejudecăți umane pe care organizațiile încearcă să le elimine. Cum pot companiile să împiedice AI să automatizeze pur și simplu prejudecățile existente în procesul de recrutare și ce măsuri de siguranță ar trebui integrate în aceste sisteme încă de la început?

Exact aceasta este capcana pe care majoritatea discuțiilor despre AI în recrutare o ratează și motivul pentru care am construit Sapia așa cum am făcut. Dacă antrenezi un model pe date istorice de recrutare (cine a fost angajat, cine a fost promovat, cine a primit primul interviu), nu elimini prejudecățile, ci le industrializezi. Îi înveți mașinii să reproducă fiecare decizie de „recrutare în oglindă”, fiecare alegere de “culture fit”, fiecare scurtătură bazată pe instinct care ți-a adus forța de muncă pe care o ai deja. Nu este inovație. Este prejudecată la scară, doar mai rapidă și cu un strat de obiectivitate care o face mai greu de contestat.

Prin urmare, măsura de siguranță trebuie să înceapă mai devreme decât algoritmul. Nu antrenăm pe CV-uri, fotografii, nume, universități sau pe oricare dintre proximele tradiționale care corelează cu privilegiul în loc de potențial. Dacă intrarea conține prejudecăți, nicio modelare ingenioasă ulterioară nu le va corecta. Este problema „gunoi în, gunoi afară”, doar că gunoiul reprezintă decenii de prejudecăți umane mascate ca un CV.

Al doilea aspect este față de ce măsori efectiv modelul. Nu este suficient să spui „AI-ul funcționează”, trebuie să testezi în mod constant impactul advers în funcție de gen, etnie, vârstă, dizabilitate, fiecare caracteristică protejată pe care o poți măsura continuu, nu ca un audit unic înainte de lansare. Prejudecata nu este un bug pe care îl repari o singură dată. Este ceva ce trebuie să monitorizezi în permanență, la fel cum ai supraveghea orice sistem care ia decizii cu consecințe asupra vieților oamenilor.

Și al treilea — acesta este aspectul pe care oamenii îl omite — ai nevoie de ochi externi asupra lui. Audituri independente, de la terți, ale modelelor tale, metodologie publicată, transparență reală privind ce face și ce nu face sistemul. Dacă ești dispus să faci să fie verificat instrumentul tău de recrutare AI doar de către cei care l-au construit și care au un interes financiar în a-l apăra, nu ai rezolvat cu adevărat problema încrederii, doar ai mutat-o.

„Algoritmul a făcut-o” nu este o scuză, ci o recunoaștere că nu ai construit măsurile de siguranță de la bun început. Amintește-ți, AI nu elimină responsabilitatea umană pentru echitate.

Recrutarea este o aplicație a AI cu un nivel de risc neobișnuit de ridicat, deoarece un algoritm poate influența direct cariera cuiva. Unde ar trebui organizațiile să traseze linia între deciziile care pot fi automatizate și cele care ar trebui să rămână întotdeauna sub supraveghere umană semnificativă?

Linia pe care o trasez este următoarea: AI poate cu siguranță să te ajute să vezi o persoană mai clar, dar nu ar trebui să fie niciodată cel care decide singur destinul ei. Există o diferență reală între a augmenta o decizie și a o externaliza. Recrutarea este unul dintre puținele domenii în care greșirea acestei distincții schimbă cu adevărat viața cuiva.

Unde își găsește, așadar, locul automatizarea? În evidențierea semnalelor pe care oamenii le rată în mod constant și echitabil, de exemplu citirea a mii de răspunsuri la interviuri fără oboseală, fără o zi proastă, fără a favoriza inconștient candidatul care le amintește de ei înșiși la 25 de ani. Este o sarcină pe care AI o poate face mai bine decât un manager de recrutare obosit la al optulea interviu al zilei. Screeningul pentru abilități soft reale, structurarea informațiilor astfel încât fiecare candidat să fie evaluat pe aceleași criterii, este locul în care mașina adaugă valoare reală, deoarece noi nu suntem construiți să fim atât de consecvenți.

Decizia finală — cine este angajat, cine este respins, cine primește o a doua șansă — trebuie să fie luată de un om care poate fi tras la răspundere pentru ea. Nu ca o simplă aprobare automată a oricărui rezultat al modelului, ci ca o supraveghere reală și semnificativă: cineva care înțelege ce măsoară sistemul, poate contesta un rezultat care pare greșit și îl poate anula. Dacă un om nu poate contesta în mod semnificativ recomandarea AI, nu este o supraveghere, ci un alibi uman.

Aș trasa și eu linia la orice este ireversibil sau opac. Dacă un candidat nu poate primi o explicație înțeleasă privind motivul pentru care nu a progresat, sistemul a eșuat indiferent de cât de \”precis\” este. Și dacă modelul ia decizii pe care nimeni din companie nu le poate explica — inclusiv oamenii care l-au construit — nu este un instrument de recrutare, ci o cutie neagră cu cariera cuiva în interior. Testul pe care l-aș da oricărei organizații este simplu: poți să stai față în față cu un candidat respins și să îi explici, în limbaj simplu, de ce? Dacă răspunsul sincer este \”Nu știu cu adevărat, modelul a decis\”, ai automatizat partea greșită a procesului.

Sapia.ai face distincție între inteligența artificială generativă folosită pentru conversații deschise și sistemele mai deterministe utilizate pentru evaluarea candidaților. De ce este importantă această distincție, în special când rezultatele AI trebuie să fie coerente, auditate și defensabile?

Oamenii aud \”AI\” și presupun că este un singur lucru, dar în recrutare această confuzie este exact locul în care apar greșelile. Deliberat împărțim sarcina în două, deoarece conversația deschisă și evaluarea cu mize mari au cerințe complet diferite, iar să pretinzi că sunt aceeași tehnologie duce companiile să aibă sisteme pe care nu le pot explica, apăra sau încrede.

Inteligența artificială generativă excelează la nivelul conversațional — oferind un schimb natural, cu senzație umană, cu un candidat, punând întrebări de follow‑up pertinente și făcând experiența să pară o conversație și nu un formular. Aici dorești flexibilitate, nuanță, chiar și puțină imprevizibilitate, deoarece conversațiile reale nu sunt scriptate.

Dar în momentul în care treci de la a vorbi cu un candidat la a-l evalua, tot ce ai nevoie de la sistem se inversează. Evaluarea trebuie să fie consistentă: același răspuns ar trebui să primească aceeași apreciere, fie că este vorba de candidatul unu sau de candidatul o mie, fie că este luni dimineața sau vineri după-amiaza. Trebuie să fie auditată, ceea ce înseamnă că trebuie să poți reveni și să arăți exact de ce un candidat a primit scorul respectiv, nu doar să ai încredere că modelul \”a găsit soluția\”. Și trebuie să fie defensibilă, deoarece pe capătul celălalt al acelui scor se află mijloacele de trai ale cuiva, iar \”modelul generativ a considerat că acesta era un răspuns bun\” nu este o frază care rezistă în fața unui regulator, a unui jurnalist sau a unui candidat care vrea să știe de ce nu a obținut jobul.

Modelele generative, prin natura lor, sunt probabilistice — dacă pui aceeași întrebare de două ori poți obține rezultate ușor diferite. Este o caracteristică potrivită pentru conversație și o responsabilitate serioasă pentru evaluare. La Sapia, utilizăm sisteme deterministe pentru partea procesului care decide efectiv rezultatul cuiva. Modelăm situațiile în care aceeași intrare produce în mod fiabil același rezultat, unde putem urmări raționamentul și unde putem demonstra că doi candidați similari sunt tratați în mod echivalent.

Este, de fapt, o separare a responsabilităților: permite inteligenței artificiale generative să fie excelentă în a fi asemănătoare omului, iar sistemelor deterministe, auditate, să poarte greutatea unei decizii care trebuie să fie corectă, explicabilă și defensibilă sub supraveghere.

Explicabilitatea este adesea discutată ca o cerință pentru AI responsabil, dar multe modele avansate rămân dificil de înțeles pentru utilizatori. Câtă explicație ar trebui să se aștepte în mod rezonabil un candidat sau un angajat când AI a influențat o decizie de angajare?

Cred că candidații merită mai mult decât le oferă în prezent majoritatea companiilor și, sincer, mai mult decât cred majoritatea companiilor că pot oferi. \”Algoritmul a decis\” este o recunoaștere a eșecului mascată ca sofisticare.

Iată unde mă poziționez: un candidat ar trebui să poată înțelege întotdeauna, în limbaj simplu, pe ce a fost evaluat și, în linii mari, de ce a ajuns unde a ajuns. Nu matematica de bază, nu o listă de greutăți ale modelului. Ce își doresc și ce li se cuvine este ceva mai apropiat de ceea ce i‑ar spune față în față un manager bun: acestea sunt calitățile pe care le căutam, aici ai fost puternic, aici nu ai fost cea mai potrivită potrivire de data aceasta. Este un prag complet rezonabil, iar orice sistem care nu îl poate atinge nu ar trebui să ia decizii privind mijloacele de trai ale cuiva.

Prin urmare, pentru noi, explicabilitatea trebuie integrată în arhitectură încă de la prima zi, deoarece nu poți explica ceea ce nu poți urmări.

Unde aș împinge puțin înapoi este ideea că explicabilitatea înseamnă că candidații trebuie să aibă o educație tehnică despre cum funcționează modelul. Este un standard fals și este adesea folosit ca scuză când, de fapt, nu a fost conceput să poată fi explicat. Un medic bun nu îți explică biochimia unei diagnostice; îți spune ce a găsit și ce înseamnă pentru tine. AI în recrutare ar trebui să se supună aceluiași standard de onestitate lizibilă de om.

Testul real este același pe care l‑aș aplica supravegherii umane: ar putea un candidat să întrebe \”de ce nu am progresat?\” și să primească un răspuns specific, onest și cu adevărat al său. Dacă AI‑ul tău nu poate oferi acel răspuns, nu ai construit un sistem explicabil. Ai construit unul pe care speri că nimeni nu îl va întreba.

Companiile se concentrează adesea pe dacă angajații și managerii folosesc un instrument AI, în loc să evalueze dacă au încredere cu adevărat în rezultatele sale. Ce semnale de avertizare sugerează că o organizație a atins adoptarea AI fără să fi dobândit încredere autentică în tehnologie?

Adopția este cea mai ușor de falsificat metrică și tocmai de aceea atât de multe companii o confundă cu succesul. Dacă îți spun că toată lumea din companie \”folosește\” instrumentul AI, asta nu îți spune aproape nimic despre dacă au încredere în el — ar putea însemna doar că este obligatoriu, sau că este calea de rezistență minimă, sau că nimeni nu a găsit încă o alternativă.

Primul semnal de avertizare este comportamentul de ocolire. Dacă oamenii folosesc instrumentul AI, dar în paralel continuă să execute în liniște procesul vechi — verificând manual rezultatele sale, păstrând note separate, rulând un sistem paralel pentru orice eventualitate — aceasta este o conformitate cu o poliță de asigurare atașată. Cifrele de utilizare arată bine. În realitate, toată lumea crede că instrumentul ar putea fi greșit.

Al doilea este tăcerea. Într-o cultură cu adevărat încrezătoare, oamenii contestă sistemul când ceva pare incorect: pun întrebări, împing înapoi, semnalează rezultate care nu par corecte. Când adopția este reală, dar încrederea nu există, se întâmplă exact opusul. Oamenii încetează să-l interogheze pentru că au decis că nu merită lupta. Acea tăcere este interpretată greșit de conducere ca satisfacție. De fapt, este o renunțare.

Al treilea semnal de avertizare este discrepanța dintre ceea ce oamenii declară într-un sondaj și ceea ce își spun unii altora. Aș fi mult mai îngrijorat de o companie în care tabloul oficial de adopție este verde în toate zonele, dar discuția reală din zona de odihnă este \”da, facem ce spune pentru că e mai ușor decât să discutăm\” — aceasta este o cultură care nu s-a transformat.

Și cel mai profund semnal de avertizare, și cel care contează cel mai mult pentru mine: când oamenii încetează să-și aducă propriul judecat la discuție. Asta este o abdicație. Încrederea reală într-un instrument înseamnă că oamenii se simt în continuare împuterniciți să fie în dezacord cu el atunci când expertiza lor le spune altceva — și să se simtă în siguranță să facă asta. Dacă managerii tăi au tăcut și se încredințează oricărui răspuns al AI-ului, ai creat o dependență.

Așadar, adevăratul test nu este \”folosesc oamenii instrumentul\” ci \”ar alege oamenii să continue să-l folosească dacă ar fi opțional și ți-ar spune sincer când a greșit\”. Majoritatea companiilor nu au pus niciodată aceste întrebări. De obicei, acesta este semnalul.

Instrumentele de recrutare AI pot evalua candidații la scară și cu consistență pe care recrutorii umani nu le pot atinge, dar procesul de angajare implică și context și nuanțe. Unde credeți că AI poate depăși judecata umană astăzi și unde oamenii rămân esențiali?

AI poate fi un instrument excelent pentru evaluarea unui număr mare de candidați, indiferent de istoricul și experiențele lor, oferind în același timp evaluări personalizate pentru candidații cu nevoi specifice. Un recrutor uman ar putea fi mai înclinat să favorizeze candidații proveniți dintr-o universitate de top sau fără afecțiuni medicale anterioare. AI realizează o evaluare corectă și egală a tuturor candidaților într-un mod pe care oamenii nu îl pot atinge când se confruntă cu sute de aplicații. Totuși, judecata umană rămâne esențială pentru a evalua dacă un candidat se va integra în cultura companiei sau va îndeplini standardele cerute de clienți.

Pe măsură ce AI devine tot mai integrat în recrutare, coaching, managementul performanței și alte decizii legate de forța de muncă, cum ar trebui structurat răspunderea atunci când o decizie asistată de AI produce un rezultat incorect sau nedrept?

Responsabilitatea în AI rămâne atunci când oamenii sunt factorii de decizie finali, în timp ce fluxul de recrutare include transparență, explicabilitate și testare riguroasă a părtinirii. Am lansat modelul FAIR™ pentru a sprijini practicile responsabile de AI. Acesta recomandă:

• Imparțial: Testați părtinirea și folosiți măsurile statistice adecvate — cum ar fi regula 4/5, paritatea ratei de eroare și alte teste relevante de părtinire — pentru a verifica că rezultatele sunt corecte.
• Validitate: Dovezile generate de AI se bazează pe date reale și sunt legate de rezultatul pe care se intenționează să-l prezică.
• Explicabilitate: Dețineți documentație clară și instrumente pentru a interpreta rezultatele, ce a identificat AI despre un candidat și cum a contribuit aceasta la scorul său.
• Incluziune: Aceasta înseamnă să vă asigurați că toți candidații sunt tratați corect pe parcursul întregului proces, de la aplicare până la luarea deciziei. Este o perspectivă de la cap la cap a experienței de recrutare — incluzând oamenii, procesele, tehnologia și AI care lucrează împreună.

Privind spre viitor, așteptați-vă ca AI să devină în principal un strat de luare a deciziilor în interiorul sistemelor HR, sau rolul său mai important va fi cel conversațional, ajutând candidații și angajații să înțeleagă mai bine oportunitățile, să-și dezvolte abilitățile și să-și gestioneze carierele?

Chiar și cele mai avansate tehnologii necesită intervenția umană, judecata umană și supravegherea umană. AI este acolo pentru a susține procesul, asigurând că fiecare candidat are o șansă corectă și egală de a fi luat în considerare pentru un post. La Sapia, ne place să numim aceasta o „abordare cu om în buclă”, în care combinăm inteligența umană și cea a mașinii pentru a crea experiențe de chat inteligente, predictive, responsabile și personalizate. Pentru a face acest lucru, aducem clienții noștri alături, astfel încât să validăm constant acuratețea și corectitudinea, în timp ce instruim modelele noastre AI să evolueze în timp.

Abordarea noastră umană se reflectă și în ceea ce oferim candidaților. Recent am lansat Phai, un coach de carieră care acționează ca un mentor, oferind căutătorilor de joburi ghidare personalizată, cartografierea punctelor forte și pregătire pentru interviu pentru a-i ajuta să facă față cu încredere următoarei oportunități. Este un instrument pozitiv pentru a menține un candidat motivat dincolo de rezultatul interviului.

Mulțumim pentru interviul excelent, cititorii care doresc să afle mai multe ar trebui să viziteze Sapia.ai.