Barb Hyman, grundlægger og administrerende direktør for Sapia.ai – interviewserie

Barb Hyman, grundlægger og administrerende direktør for Sapia.ai er en erfaren erhvervsleder, hvis karriere har spændt over jura, ledelsesrådgivning, marketing, læring og udvikling, HR og teknologi. Hun startede sin karriere som advokat hos Herbert Smith Freehills, før hun gik over i konsulentbranchen hos Boston Consulting Group, hvor hun avancerede til projektleder og senere vendte tilbage i seniorroller med ansvar for læring og udvikling, HR og marketing i Australasien. Hyman har også været chef for marketing og sponsorater på Museum of Contemporary Art i Sydney samt øverste leder for personale og kultur hos REA Group. Hun grundlagde Sapia.ai i 2018 og trak på sin erfaring med organisationsledelse og talentstyring for at gentænke, hvordan virksomheder vurderer og ansætter folk ved hjælp af kunstig intelligens.

Sapia.ai er en AI-drevet rekrutteringsteknologivirksomhed, der fokuserer på struktureret, samtalebaseret kandidatvurdering. Platformen bruger chatbaserede interviews til at evaluere kandidater konsistent i stor skala, hvilket hjælper arbejdsgivere med at vurdere færdigheder og egnethed, samtidig med at afhængigheden af traditionel CV-gennemgang og andre signaler, der kan skabe bias, reduceres. Sapia.ai oplyser, at deres teknologi har vurderet mere end 10 millioner kandidater og kombinerer struktureret vurderingsvidenskab med AI-drevet talentintelligens, personlig feedback til kandidater samt integrationer med eksisterende applicant tracking‑ og HR‑systemer. Virksomheden lægger også vægt på forklarbarhed, retfærdighed og overholdelse af virksomhedskrav, med en bredere platform, der omfatter AI‑interviews, jobanalyse, interviewplanlægning, talentintelligens og AI‑drevet karrierecoaching.

Før du grundlagde Sapia.ai, byggede du en karriere, der spænder over konsulentarbejde hos Boston Consulting Group, jura, marketing, læring og udvikling samt til sidst ledelse af People & Culture hos REA Group. Hvilke erfaringer fra den rejse overbeviste dig om, at rekruttering skulle gentænkes grundlæggende, og hvilket problem satte du dig oprindeligt for at løse med Sapia.ai

Den nuværende måde, vi vurderer mennesker på, er ødelagt – især inden for rekruttering.

Vi er afhængige af CV’er. Vi ser ikke hele personen. Vi træffer vores mest afgørende beslutninger – hvem der skal ansættes, hvem der skal forfremmes – på mavefornemmelse og proxy‑målinger. Spejling i ansættelser er udbredt: siden hvornår er den skole eller universitet, nogen har gået på, blevet en proxy for intelligens? Det er det ikke. Det er en indikator for privilegier.

Noget af dette hænger sammen med min personlige historie. Jeg er indvandrer, og jeg ved, at jeg havnede i en heldig kategori af indvandrere: jeg er hvid, og jeg har et navn, som folk finder let at udtale. Jeg kommer fra en familie, hvor ingen gik på universitet; min far var købmand. Alligevel har jeg haft ekstraordinære muligheder, og fem karrierer senere står jeg her. Når jeg tænker på de to milliarder arbejdere i verden, tænker jeg på, hvor mange af dem der har præcis det talent, drivkraft og kritiske tænkning, jeg er blevet krediteret for, men som aldrig bliver set, fordi vi bliver blændet af vores egne erfaringers prisme. Bias er en bekvem genvej til hurtige beslutninger, og det er netop grunden til, at rekruttering fortsat belønner dem, der allerede har en fordel. Det har aldrig føltes retfærdigt eller rationelt.

Den anden del af historien kom fra konsulentbranchen. Efter min MBA gik jeg ind i en verden, hvor man aldrig gik ind i et bestyrelseslokale og fremsatte en anbefaling uden reel research bagved. Alligevel træffes den beslutning, der har størst konsekvenser, som enhver virksomhed skal tage (hvem der ansættes, hvem der leder, hvem der former kulturen), stadig på mavefornemmelse eller på en proxy så tynd som et universitetsnavn. Folk er ikke på balancen, men i professionelle tjenester er de især selve aktivet. Den uoverensstemmelse virkede absurd for mig.

CV’et i sig selv har ikke ændret sig grundlæggende, siden Leonardo da Vinci opfandt formatet. Wikipedia opregner mere end 180 dokumenterede menneskelige bias. En tredjedel af de nordamerikanske kandidater, der fuldfører en jobansøgning, får intet svar to måneder senere. Intet af dette er et talentproblem: talent er ligeligt fordelt, men muligheder er det ikke.

Hvad jeg satte mig for at løse med Sapia, var ikke blot en beslutning – det kom fra erfaringen med at søge et job. Mit team griner af mig for dette, men jeg har altid betragtet rekruttering som dating. Det er et forhold. Du tilbringer mere tid med folk på dit arbejde end med din partner. Så hvorfor træffe den beslutning på noget mindre end den samme stringens – dataene – som vi kræver for enhver anden vigtig beslutning?

Du har argumenteret for, at de fleste organisationer betragter AI‑adoption som et effektivitetsprojekt, når det i stedet bør begynde som et tillidsprojekt. Hvordan ser “tillid” egentlig ud i praksis, og hvordan bør virksomheder måle det sammen med mere traditionelle målinger som produktivitet, omkostningsbesparelser og adoption?

Det lærte jeg som CHRO: hvis du ikke er transparent omkring, hvorfor du foretager en ændring, er tillid det første offer. Og jeg tror, at de fleste virksomheder har AI‑adoption vendt på hovedet. De måler produktivitetsgevinsten, f.eks. de sparede timer, omkostningen pr. ansættelse, men de stopper aldrig op for at måle den faktor, der faktisk afgør, om noget af det holder: har dine medarbejdere tillid til, hvordan du bruger AI, og hvorfor?

Tillid er grundlaget for din kultur. Det er ikke en blød måling, der sidder ved siden af de reelle – det er det, de reelle er bygget på. Tænk på det, som du ville tænke på ethvert forhold. Høj tillid giver dig frihedsgrader. Lav tillid gør alting mindre, mindre ubekymret, mindre afslappet. Og ingen yder deres bedste arbejde, når de ikke føler sig trygge. Organisationer er ingen undtagelse.

Alligevel har så meget af det, der er gjort med AI på arbejdspladsen, faktisk brugt folks egne data som våben imod dem, for eksempel ved at skrabe en persons sociale medier for at afgøre, om de er en god ansættelse, en god risiko eller en dårlig risiko. Jeg kan ærligt talt ikke forestille mig mødet, hvor den beslutning blev truffet, eller hvordan nogen troede, at det ikke ville korrodere kulturen, så snart folk fandt ud af det.

Så hvis du er seriøs omkring AI‑adoption, skal tillid være en måling fra dag ét, placeret lige ved siden af produktivitet og omkostningsbesparelser. Spørg folk direkte: forstår du, hvorfor vi bruger dette? Tror du, det bliver brugt retfærdigt? Hvis du ikke kan svare ja på begge, er de effektivitetsgevinster, du fejrer, lånt fra en kultur, du stille og roligt udtømmer.

En af de største bekymringer omkring AI i ansættelse er, at modeller kan lære af historiske ansættelsesdata og potentielt forstærke de samme menneskelige fordomme, som organisationerne forsøger at fjerne. Hvordan kan virksomheder forhindre, at AI blot automatiserer eksisterende ansættelsesbias, og hvilke sikkerhedsforanstaltninger bør bygges ind i disse systemer fra starten?

Dette er præcis den fælde, som de fleste AI‑i‑ansættelse‑samtaler overser, og grunden til, at jeg byggede Sapia, som jeg gjorde. Hvis du træner en model på historiske ansættelsesdata (hvem der blev ansat, hvem der blev forfremmet, hvem der fik den første samtale), fjerner du ikke bias, du industrialiserer den. Du lærer en maskine at reproducere hver eneste spejling af ansættelsesbeslutninger, hver vurdering af kulturelt match, hver mave‑baseret genvej, der har givet dig den arbejdsstyrke, du allerede har. Det er ikke innovation. Det er bias i stor skala, blot hurtigere og med en overflade af objektivitet, der gør det sværere at udfordre.

Så sikkerhedsforanstaltningen skal starte længere tilbage end algoritmen. Vi træner ikke på CV’er, fotos, navne, universiteter eller nogen af de traditionelle proxy‑variabler, der korrelerer med privilegium frem for potentiale. Hvis inputtet bærer bias, løser ingen mængde af smart modellering nedstrøms problemet. Det er problemet “affald ind, affald ud”, bortset fra at affaldet er årtier af menneskelig fordom klædt ud som et CV.

Det andet stykke er, hvad du faktisk måler modellen imod. Det er ikke nok at sige “AI’en virker”, du skal løbende teste for negativ påvirkning på tværs af køn, etnicitet, alder, handicap – alle beskyttede karakteristika, du kan måle kontinuerligt, ikke som en engangsrevision før lancering. Bias er ikke en fejl, du retter én gang. Det er noget, du skal holde øje med, på samme måde som du ville overvåge ethvert system, der træffer afgørende beslutninger om menneskers liv.

Og tredje – dette er det, folk springer over – du har brug for eksterne øjne på det. Uafhængige tredjepartsrevisioner af dine modeller, offentlig metodik, reel gennemsigtighed om, hvad systemet gør og ikke gør. Hvis du kun er villig til at få dit AI‑ansættelsesværktøj tjekket af dem, der har bygget det, og som er økonomisk motiverede til at forsvare det, har du faktisk ikke løst tillidsproblemet, du har blot flyttet det.

“Algoritmen gjorde det” er ingen undskyldning, men en indrømmelse af, at du ikke byggede sikkerhedsforanstaltningerne fra starten. Husk, AI fjerner ikke menneskeligt ansvar for retfærdighed.

Ansættelse er en usædvanligt høj‑risiko anvendelse af AI, fordi en algoritme kan påvirke en persons karriere direkte. Hvor skal organisationer trække grænsen mellem beslutninger, der kan automatiseres, og dem der altid skal forblive under meningsfuld menneskelig kontrol?

Den linje, jeg trækker, er denne: AI kan absolut hjælpe dig med at se en person klarere, men den bør aldrig være den, der alene bestemmer deres skæbne. Der er en reel forskel mellem at forstærke en beslutning og at outsource den. Ansættelse er et af de få områder, hvor en forkert skelnen faktisk ændrer en persons liv.

Så hvor får automatisering sin plads? I at frembringe signaler, som mennesker er dårlige til at se konsekvent og retfærdigt, for eksempel at læse tusindvis af interview‑svar uden træthed, uden at have en dårlig dag, uden ubevidst at favorisere kandidaten, der minder dem om dem selv som 25‑årige. Det er en opgave, AI kan udføre bedre end en udmattet ansættelseschef på deres ottende interview på dagen. At screene for ægte bløde færdigheder, strukturere indsigt så hver kandidat vurderes på de samme kriterier, er hvor maskinen tilføjer reel værdi, fordi vi ikke er bygget til at være så konsistente.

Den endelige beslutning – hvem der ansættes, hvem der afvises, hvem der får en ny chance – skal ligge hos et menneske, der kan holdes ansvarlig for den. Ikke ved blot at blåstemple det, modellen leverer, men som reel, meningsfuld kontrol: en, der forstår, hvad systemet måler, kan stille spørgsmål ved et resultat, der ser forkert ud, og kan tilsidesætte det. Hvis et menneske ikke kan udfordre AI‑anbefalingen meningsfuldt, er det ikke kontrol, men et menneskeligt alibi.

Jeg ville også trække en grænse ved alt, der er irreversibelt eller uigennemsigtigt. Hvis en kandidat ikke kan få en forståelig forklaring på, hvorfor de ikke kom videre, har systemet fejlet uanset hvor “præcist” det er. Og hvis modellen træffer beslutninger, som ingen i virksomheden faktisk kan forklare — inklusive dem, der har bygget den — er det ikke et ansættelsesværktøj, men en sort boks med en persons karriere inde i den. Testen, jeg ville give enhver organisation, er enkel: kunne du sidde over for en kandidat, du afviste, og forklare i almindeligt sprog, hvorfor? Hvis det ærlige svar er “jeg ved det faktisk ikke, modellen besluttede”, har du automatiseret den forkerte del af processen.

Sapia.ai skelner mellem generativ AI, der bruges til åbne samtaler, og mere deterministiske systemer, der bruges til at vurdere kandidater. Hvorfor er den sondring vigtig, især når AI‑output skal være konsistent, auditabelt og forsvarligt?

Folk hører “AI” og antager, at det er én ting, men i ansættelsesprocessen er den sammenblanding præcis, hvor tingene går galt. Vi deler bevidst arbejdet i to, fordi åbne samtaler og vurderinger med store konsekvenser har helt forskellige krav, og at lade som om de er den samme teknologi er, hvordan virksomheder ender med systemer, de ikke kan forklare, forsvare eller stole på.

Generativ AI er fremragende på samtalesiden — at have en naturlig, menneskelig udveksling med en kandidat, stille gode opfølgende spørgsmål og få oplevelsen til at føles som en samtale snarere end en formular. Det er her, du ønsker fleksibilitet, nuance og endda en smule uforudsigelighed, fordi ægte samtaler ikke er scriptede.

Men i det øjeblik du går fra at tale med en kandidat til at vurdere dem, vender alt, hvad du har brug for fra systemet, på hovedet. Scoring skal være konsistent: det samme svar skal give den samme vurdering, uanset om det er kandidat én eller kandidat tusind, om det er en mandagsmorgen eller en fredag eftermiddag. Det skal være auditabelt, hvilket betyder, at du skal kunne gå tilbage og vise præcis, hvorfor en kandidat fik den score, de fik, og ikke blot stole på, at modellen “regnede det ud”. Og det skal kunne forsvares, fordi en persons levebrød afhænger af den score, og “den generative model syntes, det var et godt svar” er ikke en sætning, der holder til reguleringsmyndigheder, journalister eller en kandidat, der vil vide, hvorfor de ikke fik jobbet.

Generative modeller er af natur probabilistiske — stiller du det samme spørgsmål to gange, kan du få let forskellige svar. Det er en funktion for samtale og en alvorlig risiko for scoring. Hos Sapia bruger vi deterministiske systemer til den del af processen, der faktisk beslutter en persons udfald. Vi modellerer, hvor den samme input pålideligt producerer det samme output, hvor vi kan spore begrundelsen, og hvor vi kan bevise, at to lignende kandidater behandles ens.

Det er i bund og grund en opdeling af ansvarsområder: lad generativ AI være god til at være menneskelig, og lad deterministiske, auditabelle systemer bære vægten af en beslutning, der skal være retfærdig, forklarlig og holdbar under granskning.

Forklarbarhed diskuteres ofte som et krav til ansvarlig AI, men mange avancerede modeller er stadig svære for brugerne at forstå. Hvor meget forklaring bør en kandidat eller medarbejder rimeligt set forvente, når AI har påvirket en ansættelsesbeslutning?

Jeg mener, at kandidater fortjener mere, end de fleste virksomheder i øjeblikket giver dem, og ærligt talt, mere, end de fleste virksomheder tror, de kan levere. “Algoritmen besluttede” er en indrømmelse af fiasko forklædt som sofistikation.

Her er min pointe: en kandidat skal altid kunne forstå, i almindeligt sprog, hvad de blev vurderet på, og groft sagt, hvorfor de endte, hvor de gjorde. Ikke den underliggende matematik, ikke en udskrift af modelvægte. Det de vil have og det de har ret til, er noget, der ligger tættere på, hvad en god leder ville sige ansigt til ansigt: dette er de egenskaber, vi søgte, dette er hvor du var stærk, dette er hvor du ikke var den bedste match denne gang. Det er en fuldstændig rimelig standard, og ethvert system, der ikke kan leve op til den, bør ikke træffe beslutninger om en persons levebrød i første omgang.

Så for os skal forklarbarhed indbygges i arkitekturen fra dag ét, fordi du ikke kan forklare, hvad du ikke kan spore.

Hvor jeg ville skubbe lidt tilbage, er idéen om, at forklarbarhed betyder, at kandidater skal have en teknisk uddannelse i, hvordan modellen fungerer. Det er en falsk standard, og den bruges ofte som en undskyldning, når den i virkeligheden simpelthen ikke er designet til at kunne forklares. En god læge går ikke igennem biokemien i en diagnose; de fortæller, hvad de har fundet, og hvad det betyder for dig. AI i ansættelse bør holde sig til den samme standard for menneskeligt læsbar ærlighed.

Den reelle test er den samme, som jeg ville anvende på menneskelig tilsyn: kunne en kandidat spørge “hvorfor kom jeg ikke videre?” og få et svar, der er specifikt, ærligt og faktisk handler om netop dem? Hvis din AI ikke kan levere det svar, har du ikke bygget et forklarbart system. Du har bygget et, du håber, ingen stiller spørgsmål om.

Virksomheder fokuserer ofte på, om medarbejdere og ledere bruger et AI‑værktøj, snarere end om de faktisk har tillid til dets output. Hvilke advarselstegn tyder på, at en organisation har opnået AI‑adoption uden at opnå ægte tillid til teknologien?

Adoption er den letteste måling at forfalske, og det er netop derfor, så mange virksomheder forveksler den med succes. Hvis jeg siger, at alle i virksomheden “bruger” AI‑værktøjet, fortæller det dig næsten ingenting om, hvorvidt de tror på det — det kan blot betyde, at det er obligatorisk, eller at det er den letteste vej, eller at ingen endnu har fundet en måde at omgå det på.

Det første advarselstegn er omgåelsesadfærd. Hvis folk bruger AI‑værktøjet, men også stille og roligt udfører den gamle proces parallelt — dobbelttjekker output manuelt, holder deres egne separate noter, kører et skygge‑system for en sikkerheds skyld — så følger de instrukserne, men med en ekstra sikkerhedsforanstaltning. Brugsstatistikkerne ser gode ud. Sandheden er, at alle tror, at værktøjet kan tage fejl.

Det andet er tavshed. I en ægte tillidsfuld kultur udfordrer folk systemet, når noget virker forkert: de stiller spørgsmål, giver modstand, markerer resultater, der ikke føles rigtige. Når adoption er reel, men tilliden ikke er, får du det modsatte. Folk holder op med at stille spørgsmål, fordi de har besluttet, at det ikke er værd at kæmpe. Den tavshed bliver fejltolket af ledelsen som tilfredshed. Den er i virkeligheden en resignation.

Det tredje advarselstegn er et hul mellem, hvad folk siger i en undersøgelse, og hvad de siger til hinanden. Jeg ville være langt mere bekymret for en virksomhed, hvor det officielle adoptions‑dashboard er grønt overalt, men den egentlige samtale i pauserummet er “ja, vi gør bare, hvad det siger, fordi det er nemmere end at argumentere” — det er en kultur, der ikke er blevet omdannet.

Og det dybeste advarselstegn, og det der betyder mest for mig: når folk holder helt op med at bringe deres egen dømmekraft til bordet. Det er abdikation. Ægte tillid til et værktøj betyder, at folk stadig føler sig bemyndigede til at være uenige med det, når deres egen ekspertise fortæller dem noget andet — og føler sig trygge ved at gøre det. Hvis dine ledere er blevet tavse og blot følger, hvad AI’en siger, har du skabt afhængighed.

Så den egentlige test er ikke “bruger folk det” men “ville folk vælge at fortsætte med at bruge det, hvis det var valgfrit, og ville de ærligt fortælle dig, når det tog fejl”. De fleste virksomheder har aldrig faktisk stillet nogen af ​​de spørgsmål. Det er som regel den afgørende indikator.

AI‑rekrutteringsværktøjer kan potentielt evaluere kandidater i en skala og konsistens, som menneskelige rekrutterere ikke kan, men ansættelse involverer også kontekst og nuancer. Hvor mener du, at AI i dag kan overgå menneskelig dømmekraft, og hvor er mennesker stadig uundværlige?

AI kan være et fremragende værktøj til at vurdere en stor pulje af kandidater uanset deres baggrund og erfaring, samtidig med at det leverer skræddersyet vurdering for kandidater med specifikke behov. En menneskelig rekrutterer kan være mere tilbøjelig til at foretrække kandidater fra et top‑rangordnet universitet eller uden tidligere sundhedsproblemer. AI udfører en retfærdig, lige vurdering af alle kandidater på en måde, som mennesker ikke kan, når de står over for hundredvis af ansøgninger. Det sagt, er menneskelig dømmekraft stadig afgørende for at vurdere, om en kandidat vil passe ind i en virksomhedskultur eller opfylde de standarder, som kunderne kræver.

Efterhånden som AI bliver dybere integreret i rekruttering, coaching, performance‑styring og andre arbejdsstyringsbeslutninger, hvordan bør ansvarlighed struktureres, når en AI‑assisteret beslutning fører til et urimeligt eller forkert resultat?

Ansvarlighed i AI forbliver, når mennesker er de endelige beslutningstagere, mens rekrutteringsprocessen inkluderer gennemsigtighed, forklarlighed og streng bias‑testning. Vi lancerede FAIR™‑modellen for at fremme ansvarlig AI‑praksis. Den anbefaler:

• Uden forudindtagethed: Test for bias og brug de rette statistiske mål — såsom 4/5‑reglen, fejlrate‑paritet og andre relevante bias‑tests — for at sikre, at resultaterne er retfærdige.
• Validitet: AI‑drevet evidens er baseret på faktiske data og knyttet til det resultat, den skal forudsige.
• Forklarlighed: Hav klar dokumentation og værktøjer til at fortolke resultater, hvad AI har identificeret om en kandidat, og hvordan det har bidraget til deres score.
• Inklusivitet: Det betyder at sikre, at kandidater behandles retfærdigt gennem hele processen, fra ansøgning til beslutningstagning. Det er et end‑to‑end‑syn på ansættelsesoplevelsen — inklusive mennesker, processer, teknologi og AI, der arbejder sammen.

Ser du fremad, forventer du, at AI primært bliver et beslutningslag inden for HR‑systemer, eller vil dens vigtigste rolle være samtale‑baseret, hvor den hjælper kandidater og medarbejdere med bedre at forstå muligheder, udvikle færdigheder og navigere i deres karriere?

Selv de mest avancerede teknologier kræver menneskelig kontakt, menneskelig dømmekraft og menneskeligt tilsyn. AI skal understøtte processen og sikre, at alle kandidater har en retfærdig og lige chance for at komme i betragtning til en stilling. Hos Sapia kalder vi det gerne en tilgang med mennesker med i processen, hvor vi kombinerer menneskelig og maskinel intelligens for at skabe intelligente chatoplevelser, der kan forudsige udfald og er ansvarlige og personligt tilpassede. Derfor inddrager vi vores kunder, så vi hele tiden validerer nøjagtighed og retfærdighed, samtidig med at vi lærer vores AI-modeller at udvikle sig over tid.

Vores menneskelige tilgang afspejles også i, hvad vi tilbyder kandidater. Vi har for nylig lanceret Phai, en karrierecoach, der fungerer som mentor og giver jobsøgende personlig vejledning, kortlægning af styrker og forberedelse til samtaler, så de trygt kan møde deres næste mulighed. Det er et positivt værktøj til at holde en kandidat motiveret ud over interviewresultatet.

Tak for det gode interview, læsere der ønsker at lære mere, bør besøge Sapia.ai.