Barb Hyman, zakladatelka a generální ředitelka Sapia.ai – série rozhovorů

Barb Hyman, zakladatelka a generální ředitelka Sapia.ai, je zkušená obchodní lídry, jejíž kariéra zahrnovala právo, management consulting, marketing, vzdělávání a rozvoj, lidské zdroje a technologie. Začala svou kariéru jako advokátka ve firmě Herbert Smith Freehills, poté přešla do poradenství v Boston Consulting Group, kde postupovala na pozici vedoucího projektu a později se vrátila na seniorní role, kde řídila vzdělávání a rozvoj, HR a marketing po celé Austrálii a Novém Zélandu. Hyman také působila jako vedoucí marketingu a sponzoringu v Museum of Contemporary Art v Sydney a jako výkonná generální manažerka pro People & Culture ve společnosti REA Group. V roce 2018 založila Sapia.ai, čerpajíc ze své zkušenosti s organizačním vedením a řízením talentů, aby přehodnotila, jak společnosti hodnotí a najímají lidi pomocí umělé inteligence.

Sapia.ai je společnost zabývající se technologií náboru poháněnou AI, zaměřená na strukturované, konverzační hodnocení kandidátů. Její platforma používá chatové rozhovory k hodnocení kandidátů konzistentně a ve velkém měřítku, pomáhá zaměstnavatelům posuzovat dovednosti a vhodnost a zároveň snižuje závislost na tradičním procházení životopisů a dalších signálech, které mohou zavádět zaujatost. Sapia.ai uvádí, že její technologie ohodnotila více než 10 milionů kandidátů a kombinuje vědu o strukturovaném hodnocení s AI-poháněnou talentovou inteligencí, personalizovanou zpětnou vazbou pro kandidáty a integracemi s existujícími systémy pro sledování uchazečů a HR. Společnost také zdůrazňuje vysvětlitelnost, spravedlnost a podnikovou shodu, přičemž její širší platforma zahrnuje AI rozhovory, analýzu pracovních míst, plánování rozhovorů, talentovou inteligenci a AI-poháněné kariérní poradenství.

Před založením Sapia.ai jste budovala kariéru zahrnující poradenství v Boston Consulting Group, právo, marketing, vzdělávání a rozvoj a nakonec vedení People & Culture ve společnosti REA Group. Jaké zkušenosti z této cesty vás přesvědčily, že nábor je třeba zásadně přehodnotit, a jaký problém jste původně chtěla se Sapia.ai řešit?

Současný způsob, jakým hodnotíme lidi, je rozbitý – zejména při náboru.

Spoléháme se na životopisy. Nevidíme celou osobu. Naše nejzásadnější rozhodnutí – koho přijmout, koho povýšit – činíme na základě intuice a zástupných ukazatelů. Zrcadlový nábor je rozšířený: od kdy se škola nebo univerzita, kterou někdo navštěvoval, stala zástupcem inteligence? Není. Je to zástupce výhody.

Část toho souvisí s mým osobním příběhem. Jsem imigrantka a vím, že jsem spadla do šťastné kategorie imigrantů: jsem bílá a mám jméno, které lidé snadno vyslovují. Pocházím z rodiny, kde nikdo nešel na univerzitu; můj otec byl obchodník. Přesto jsem měla mimořádné příležitosti a po pěti kariérách jsem tady. Když přemýšlím o dvou miliardách pracovníků na světě, zamýšlím se, kolik z nich má přesně ten talent, motivaci a kritické myšlení, za které jsem byla oceňována, ale nikdy nejsou viděni, protože nás zaslepuje prizma našich vlastních zkušeností. Předsudky jsou skvělou zkratkou pro rychlé rozhodování a právě proto nábor nadále odměňuje již zvýhodněné. Nikdy to nepůsobilo spravedlivě ani racionálně.

Druhá polovina příběhu pochází z poradenství. Po absolvování MBA jsem vstoupila do světa, kde nikdy nevstoupíte do zasedací místnosti a neuděláte doporučení bez skutečného výzkumu. Přesto je nejvyšší rozhodnutí, které jakákoli společnost učiní (kdo se připojí, kdo vede, kdo formuje kulturu), stále založeno na intuici nebo na zástupném ukazateli tak tenkém jako název univerzity. Lidé nejsou v rozvaze, ale zejména v profesionálních službách jsou aktivem. Tento rozpor se mi zdál absurdní.

Formát životopisu se v podstatě nezměnil od doby, kdy jej vynalezl Leonardo da Vinci. Wikipedia uvádí více než 180 zdokumentovaných lidských předsudků. Třetina kandidátů v Severní Americe, kteří dokončí žádost o práci, zůstane po dvou měsících bez odpovědi. Nejedná se o problém talentu: talent je rovnoměrně rozdělen, ale příležitosti nikoli.

Co jsem chtěla se Sapia vyřešit, nebylo jen rozhodnutí – vycházelo to ze zkušenosti hledání práce. Můj tým se mi z toho směje, ale vždy jsem považovala nábor za podobu randění. Je to vztah. Strávíte v práci více času s lidmi než se svým partnerem. Proč tedy učinit toto rozhodnutí na základě nižšího standardu – dat – než požadujeme u každého jiného důležitého rozhodnutí?

Argumentovali jste, že většina organizací přistupuje k adopci AI jako k projektu zaměřenému na efektivitu, ačkoliv by měla začít jako projekt důvěry. Jak v praxi vypadá „důvěra“ a jak by společnosti měly měřit její úroveň vedle tradičnějších ukazatelů, jako jsou produktivita, úspory nákladů a adopce?

Dozvěděla jsem se to jako CHRO: pokud nejste transparentní ohledně důvodů změny, důvěra je první obětí. Myslím, že většina společností má adopci AI obrácenou. Měří přínos produktivity, např. ušetřené hodiny, náklady na nábor, ale nikdy se nezastaví, aby změřily to, co skutečně určuje, zda něco přetrvá: důvěřují vaši lidé tomu, jak AI používáte, a proč?

Důvěra je podkladem vaší kultury. Není to měkký ukazatel, který stojí vedle skutečných — je to to, na čem jsou skutečné postaveny. Přemýšlejte o tom tak, jako byste přemýšleli o jakémkoli vztahu. Vysoká důvěra vám poskytuje svobodu. Nízká důvěra vše zmenšuje, činí to méně pružným, méně uvolněným. A nikdo neodvádí nejlepší práci, když se necítí v bezpečí. Organizace nejsou výjimkou.

Přesto tolik toho, co se dělá s AI na pracovišti, ve skutečnosti využívá data lidí proti nim, například skenováním něčího sociálního média, aby se odhadlo, zda je dobrý kandidát, dobré riziko nebo špatné riziko. Opravdu si nedokážu představit schůzku, na které bylo toto rozhodnutí učiněno, ani jak si někdo mohl myslet, že to nezkoroduje kulturu, jakmile se lidé dozví.

Takže pokud to s přijetím AI myslíte vážně, důvěra musí být metrikou od prvního dne, stojící vedle produktivity a úspor nákladů. Zeptejte se lidí přímo: rozumíte, proč to používáme? Věříte, že je to používáno spravedlivě? Pokud nemůžete odpovědět ano na obě otázky, pak jsou úspory efektivity, které oslavujete, půjčeny na úkor kultury, kterou tiše podkopáváte.

Jedním z největších obav ohledně AI při náboru je, že modely se mohou učit z historických údajů o zaměstnání a potenciálně posilovat stejné lidské předsudky, které organizace usilují odstranit. Jak mohou společnosti zabránit tomu, aby AI jen automatizovala stávající předsudky v náboru, a jaká opatření by měla být do těchto systémů vložena od samého začátku?

Toto je přesně past, kterou většina rozhovorů o AI v náboru přehlíží, a důvod, proč jsem postavil Sapia tak, jak jsem to udělal. Pokud trénujete model na historických datech o náboru (kdo byl přijat, kdo povýšen, kdo dostal první rozhovor), neodstraňujete předsudky, ale industrializujete je. Učíte stroj replikovat každé rozhodnutí o „zrcadlovém“ náboru, každé rozhodnutí o \”culture fit\” (culture fit), každou intuicí podloženou zkratku, která vám přinesla současnou pracovní sílu. To není inovace. To jsou předsudky ve velkém měřítku, jen rychlejší a s nánosem objektivity, který je těžší napadnout.

Proto musí opatření začínat dříve než algoritmus. Netrénujeme na životopisech, fotografiích, jménech, univerzitách ani na žádných tradičních zástupcích, které korelují s privilegiem spíše než s potenciálem. Pokud vstup nese předsudek, žádné chytré modelování v následném zpracování to nevyřeší. Jedná se o problém \”garbage in, garbage out\”, jenž odpadky jsou desetiletí lidské předsudky převlečené za životopis.

Druhá část je, proti čemu model skutečně měříte. Nestačí říci \”AI funguje\”, musíte neustále testovat nepříznivý dopad napříč pohlavím, etnicitou, věkem, postižením, každou chráněnou charakteristikou, kterou můžete kontinuálně měřit, nikoli jako jednorázový audit před spuštěním. Předsudek není chyba, kterou jednou opravíte. Je to něco, co musíte neustále sledovat, stejně jako byste monitorovali jakýkoli systém, který činí rozhodující rozhodnutí o životech lidí.

A třetí — to je to, co lidé často vynechávají — potřebujete na to nezávislé oči. Nezávislé, třetí strany provádějící audity vašich modelů, zveřejněná metodologie, skutečná transparentnost o tom, co systém dělá a nedělá. Pokud jste ochotni nechat svůj nástroj pro AI nábor kontrolovat jen lidmi, kteří jej vytvořili a mají finanční motivaci ho bránit, problém důvěry jste ve skutečnosti nevyřešili, jen jste jej přemístili.

“Algoritmus to udělal” není výmluva, ale přiznání, že jste opatření od začátku nevybudovali. Pamatujte, AI neodstraňuje lidskou odpovědnost za spravedlnost.

Nábor je neobvykle vysoce riziková aplikace AI, protože algoritmus může přímo ovlivnit kariéru někoho. Kde by měly organizace nastavit hranici mezi rozhodnutími, která mohou být automatizována, a těmi, která by vždy měla zůstat pod smysluplným lidským dohledem?

Čára, kterou si stanovím, je tato: AI vám může naprosto pomoci vidět osobu jasněji, ale nikdy by neměla sama rozhodovat o jejím osudu. Existuje skutečný rozdíl mezi doplněním rozhodnutí a jeho outsourcováním. Nábor je jedním z mála míst, kde chybná interpretace tohoto rozdílu skutečně mění život někoho.

Kde tedy automatizace získává své místo? V odhalování signálů, které lidé nedokážou vidět konzistentně a spravedlivě, například čtení tisíců odpovědí na rozhovory bez únavy, bez špatného dne, bez nevědomého upřednostňování kandidáta, který jim připomíná jejich vlastní pětadvacet let. To je úkol, který AI zvládne lépe než unavený náborový manažer při svém osmém rozhovoru během dne. Prověřování skutečných měkkých dovedností, strukturování poznatků tak, aby byl každý kandidát hodnocen podle stejných kritérií, je to, kde stroj přináší skutečnou hodnotu, protože nejsme vytvořeni k takové konzistenci.

Konečné rozhodnutí — kdo bude přijat, kdo bude odmítnut, kdo dostane druhou šanci — musí zůstat na člověku, který za něj může být zodpovědný. Ne jako gumová razítka na cokoliv model vygeneruje, ale jako skutečný, smysluplný dohled: někdo, kdo rozumí tomu, co systém měří, může zpochybnit výsledek, který vypadá špatně, a může jej přebít. Pokud člověk nemůže smysluplně zpochybnit doporučení AI, nejde o dohled, ale o lidskou výmluvu.

Stanovil bych také hranici u všeho nevratného nebo neprůhledného. Pokud kandidát nedostane srozumitelnou vysvětlení, proč nebyl posunut dál, systém selhal bez ohledu na to, jak „přesný“ je. A pokud model dělá rozhodnutí, která nikdo ve firmě nedokáže skutečně vysvětlit – včetně lidí, kteří ho vytvořili – není to nástroj pro nábor, je to černá skříňka s někým kariérou uvnitř. Test, který bych položil jakékoli organizaci, je jednoduchý: dokážete si posadit naproti kandidátovi, kterého jste odmítli, a v prostém jazyce vysvětlit, proč? Pokud je upřímná odpověď „Ve skutečnosti nevím, rozhodl model“, automatizovali jste špatnou část procesu.

Sapia.ai rozlišuje mezi generativní AI používanou pro otevřené konverzace a deterministickými systémy používanými pro hodnocení kandidátů. Proč je toto rozlišení důležité, zejména když výstupy AI musí být konzistentní, auditovatelné a obhajitelné?

Lidé slyší „AI“ a předpokládají, že je to jedna věc, ale v náboru je právě toto sloučení místem, kde se věci pokazí. Úmyslně dělíme úkol na dvě části, protože otevřená konverzace a hodnocení s vysokými sázkami mají naprosto odlišné požadavky, a předstírání, že jsou to stejné technologie, vede firmy k systémům, které nedokážou vysvětlit, obhájit ani jim důvěřovat.

Generativní AI vyniká na konverzační úrovni – umožňuje přirozenou, lidsky působící výměnu s kandidátem, klade dobré doplňující otázky a dělá z celého zážitku konverzaci místo formuláře. Právě zde chcete flexibilitu, nuance a dokonce i trochu nepředvídatelnosti, protože skutečné rozhovory nejsou skriptované.

Ale jakmile přejdete od rozhovoru s kandidátem k jeho hodnocení, vše, co od systému potřebujete, se obrátí vzhůru nohama. Hodnocení musí být konzistentní: stejná odpověď by měla získat stejné posouzení, ať už jde o kandidáta číslo jedna nebo tisíc, ať už je to pondělní ráno nebo páteční odpoledne. Musí být auditovatelné, což znamená, že musíte být schopni se vrátit a přesně ukázat, proč kandidát obdržel dané skóre, a ne jen spoléhat na to, že model „to vyřešil.“ A musí být obhajitelné, protože na druhé straně toho skóre stojí něčí živobytí, a věta „generativní model měl pocit, že to byla dobrá odpověď“ nepřežije kontakt s regulátorem, novinářem ani kandidátem, který chce vědět, proč nedostal práci.

Generativní modely jsou svou povahou pravděpodobnostní – pokud položíte stejnou otázku dvakrát, můžete získat mírně odlišné výstupy. To je výhoda pro konverzaci a vážná nevýhoda pro hodnocení. Ve Sapia.ai používáme deterministické systémy pro část procesu, která skutečně rozhoduje o výsledku člověka. Modelujeme situace, kdy stejný vstup spolehlivě produkuje stejný výstup, kde můžeme sledovat odůvodnění a kde můžeme prokázat, že dva podobní kandidáti jsou zacházeni rovnocenně.

Je to ve skutečnosti rozdělení odpovědností: nechte generativní AI excelovat v lidském projevu a nechte deterministické, auditovatelné systémy nést váhu rozhodnutí, které musí být spravedlivé, vysvětlitelné a obhajitelné při kontrole.

Vysvětlitelnost se často uvádí jako požadavek na odpovědnou AI, ale mnoho pokročilých modelů zůstává pro uživatele obtížně pochopitelných. Kolik vysvětlení by si kandidát nebo zaměstnanec rozumně měl očekávat, když AI ovlivnila rozhodnutí o náboru?

Myslím, že kandidáti si zaslouží více, než jim v současnosti většina firem poskytuje, a upřímně řečeno, více, než si většina firem myslí, že je schopna poskytnout. „Algoritmus rozhodl“ je přiznání selhání maskované jako sofistikovanost.

Tady je můj postoj: kandidát by měl vždy být schopen pochopit, v prostém jazyce, na čem byl hodnocen a zhruba proč skončil tam, kde skončil. Ne podkladovou matematiku, ne výpis vah modelu. To, co chtějí a co jim patří, je blíže tomu, co by jim řekl dobrý manažer tváří v tvář: toto jsou kvality, které jsme hledali, zde jste byl silný, zde jste tentokrát nebyl nejvhodnější. To je naprosto rozumná úroveň, a jakýkoli systém, který ji nedokáže splnit, by neměl rozhodovat o něčím živobytí.

Pro nás musí být vysvětlitelnost zakomponována do architektury od prvního dne, protože nelze vysvětlit to, co nelze sledovat.

Kde bych se trochu postavil proti, je myšlenka, že vysvětlitelnost znamená, že kandidáti potřebují technické vzdělání o tom, jak model funguje. To je falešný standard a často se používá jako výmluva, když ve skutečnosti nebyl navržen tak, aby byl vysvětlitelný. Dobrý lékař vás neprochází biochemií diagnózy; řekne vám, co zjistil a co to pro vás znamená. AI v náboru by se měla držet stejného standardu čitelné lidské poctivosti.

Skutečný test je stejný, jaký bych použil na lidský dohled: mohl by kandidát zeptat se „proč jsem nebyl posunut dál?“ a získat odpověď, která je konkrétní, upřímná a skutečně jeho. Pokud vaše AI nedokáže takovou odpověď poskytnout, nevybudovali jste vysvětlitelný systém. Vybudovali jste systém, o kterém doufáte, že se ho nikdo nebude ptát.

Společnosti se často soustředí na to, zda zaměstnanci a manažeři používají AI nástroj, místo toho, aby zjistily, zda skutečně důvěřují jeho výstupům. Jaké varovné signály naznačují, že organizace dosáhla adopce AI bez skutečné důvěry v technologii?

Adopce je nejnáročnější metrikou, kterou lze snadno falšovat, a právě proto ji tolik firem zaměňuje za úspěch. Když vám řeknu, že všichni v podniku „používají“ AI nástroj, říká to téměř nic o tom, zda mu věří — může to jen znamenat, že je povinný, nebo že je to nejjednodušší cesta, nebo že ještě nikdo nenašel způsob, jak ho obejít.

Prvním varovným signálem je obcházení. Pokud lidé používají AI nástroj, ale zároveň tiše provádějí starý proces paralelně – ručně kontrolují jeho výstupy, vedou si vlastní poznámky, provozují záložní systém pro jistotu – jedná se o soulad s připojenou pojistnou politikou. Čísla o využití vypadají skvěle. Pravda je, že všichni si myslí, že nástroj může být chybný.

Druhým signálem je ticho. V kultuře, kde je skutečná důvěra, lidé systém zpochybňují, když něco vypadá špatně: kladou otázky, staví se proti, označují výsledky, které se nezdají být správné. Když je adopce reálná, ale důvěra není, nastává opak. Lidé přestávají klást otázky, protože se rozhodli, že to nestojí za boj. Toto ticho vedení často interpretuje jako spokojenost. Ve skutečnosti jde o rezignaci.

Třetím varováním je rozdíl mezi tím, co lidé uvádějí v průzkumu, a tím, co si říkají navzájem. Měl bych mnohem větší obavy o firmu, kde je oficiální adopční dashboard po celé ploše zelený, ale skutečná konverzace v odpočinkové místnosti zní: „jo, prostě děláme, co říká, protože je to jednodušší než hádat se“ – to je kultura, která se nepřeměnila.

A nejhlubší varovný signál, který pro mě má největší význam, je, když lidé přestanou přinášet vlastní úsudek. To je abdikace. Skutečná důvěra v nástroj znamená, že lidé se stále cítí oprávněni s ním nesouhlasit, když jim jejich vlastní odbornost říká něco jiného – a cítí se při tom bezpečně. Pokud vaši manažeři zmlklí a jen se podřizují tomu, co AI řekne, vytvořili jste závislost.

Skutečný test tedy není „používají to lidé“, ale „vybrali by si lidé nadále používat to, pokud by to bylo dobrovolné, a řekli by vám upřímně, když se něco pokazí.“ Většina firem se nikdy nepokládala ani na jednu z těchto otázek. To je obvykle ten pravý ukazatel.

AI nástroje pro nábor mohou potenciálně hodnotit kandidáty v rozsahu a konzistenci, kterou lidské náboráře nedokážou, ale nábor také zahrnuje kontext a nuance. Kde podle vás AI dnes může překonat lidský úsudek a kde jsou lidé stále nezbytní?

AI může být skvělým nástrojem pro hodnocení velkého počtu kandidátů bez ohledu na jejich zázemí a zkušenosti, a zároveň poskytovat přizpůsobené hodnocení kandidátům s konkrétními potřebami. Lidský náborář může být náchylnější upřednostňovat kandidáty z předních univerzit nebo bez předchozích zdravotních potíží. AI provádí spravedlivé, rovné hodnocení všech kandidátů způsobem, který lidé nedokážou, když čelí stovkám žádostí. Přesto je lidský úsudek stále nezbytný k posouzení, zda kandidát zapadne do firemní kultury nebo splní požadavky klientů.

Jak by měla být strukturována odpovědnost, když AI‑asistované rozhodnutí vede k nespravedlivému nebo nesprávnému výsledku, jak se AI stále více integruje do náboru, koučování, řízení výkonnosti a dalších rozhodnutí o pracovních silách?

Odpovědnost v AI zůstává, když jsou lidé konečnými rozhodovateli a náborový proces zahrnuje transparentnost, vysvětlitelnost a přísné testování zaujatosti. Spustili jsme model FAIR™, který pomáhá prosazovat odpovědné praktiky AI. Doporučuje:

• Nestrannost: Testujte zaujatost a používejte správná statistická měřítka – například pravidlo 4/5, paritu chybové míry a další relevantní testy zaujatosti – k ověření, že výsledky jsou spravedlivé.
• Platnost: Důkazy řízené AI jsou založeny na skutečných datech a jsou propojeny s výsledkem, který mají předpovídat.
• Vysvětlitelnost: Mějte jasnou dokumentaci a nástroje pro interpretaci výsledků, co AI zjistila o kandidátovi a jak to přispělo k jeho skóre.
• Inkluzivita: To znamená zajistit, aby byli kandidáti během celého procesu, od podání žádosti až po rozhodování, zacházeni spravedlivě. Jedná se o komplexní pohled na náborové zkušenosti – včetně lidí, procesů, technologií a AI spolupracujících.

Jaký výhled máte – očekáváte, že AI se hlavně stane rozhodovací vrstvou v HR systémech, nebo bude její důležitější role konverzační, pomáhající kandidátům a zaměstnancům lépe pochopit příležitosti, rozvíjet dovednosti a orientovat se v kariéře?

I ty nejpokročilejší technologie vyžadují lidský dotek, lidský úsudek a lidský dohled. AI je zde k podpoře procesu, aby každý kandidát měl spravedlivou, rovnocennou šanci být zvážen na pozici. Ve Sapia tuto strategii nazýváme „přístup s člověkem v cyklu“, kde kombinujeme lidskou a strojovou inteligenci k vytvoření chytrých chatových zážitků, které jsou prediktivní, odpovědné a personalizované. K tomu zapojujeme naše zákazníky, abychom neustále ověřovali přesnost a spravedlnost a zároveň učili naše AI modely, aby se v čase vyvíjely.

Náš lidský přístup se také odráží v tom, co nabízíme kandidátům. Nedávno jsme spustili Phai, kariérního kouče, který funguje jako mentor a poskytuje uchazečům o zaměstnání personalizované poradenství, mapování silných stránek a přípravu na pohovor, aby se mohli sebejistě postavit své další příležitosti. Je to pozitivní nástroj, který udržuje kandidáta motivovaného i po výsledku pohovoru.

Děkujeme za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit Sapia.ai.