Barb Hyman, grunnlegger og administrerende direktør i Sapia.ai – intervjuserie

Barb Hyman, grunnlegger og administrerende direktør i Sapia.ai er en erfaren forretningsleder hvis karriere har spennt seg over jus, ledelseskonsultasjon, markedsføring, læring og utvikling, personaladministrasjon og teknologi. Hun startet sin karriere som advokat hos Herbert Smith Freehills før hun gikk over i konsulentvirksomhet hos Boston Consulting Group, hvor hun avanserte til prosjektleder og senere kom tilbake i seniorroller med ansvar for læring og utvikling, HR og markedsføring i hele Australasia. Hyman har også vært leder for markedsføring og sponsing ved Museum of Contemporary Art i Sydney og som administrerende generaldirektør for People & Culture i REA Group. Hun grunnla Sapia.ai i 2018, og trekker på sin erfaring med organisasjonsledelse og talentforvaltning for å revurdere hvordan selskaper vurderer og ansetter folk ved hjelp av kunstig intelligens.

Sapia.ai er et AI-drevet rekrutteringsteknologiselskap som fokuserer på strukturerte, samtalebaserte kandidatvurderinger. Plattformen bruker chat‑baserte intervjuer for å evaluere kandidater konsekvent i stor skala, og hjelper arbeidsgivere med å vurdere ferdigheter og egnethet samtidig som den reduserer avhengigheten av tradisjonell CV‑screening og andre signaler som kan innføre skjevhet. Sapia.ai oppgir at teknologien har vurdert mer enn 10 millioner kandidater og kombinerer strukturert vurderingsvitenskap med AI‑drevet talentintelligens, personlig tilbakemelding til kandidatene og integrasjoner med eksisterende søknads‑ og HR‑systemer. Selskapet legger også vekt på forklarbarhet, rettferdighet og bedriftsmessig samsvar, med en bredere plattform som omfatter AI‑intervjuer, jobb‑analyse, intervjuprogrammering, talentintelligens og AI‑drevet karrierecoaching.

Før du grunnla Sapia.ai, bygde du en karriere som spente over konsulentvirksomhet i Boston Consulting Group, jus, markedsføring, læring og utvikling, og til slutt ledelse for People & Culture i REA Group. Hvilke erfaringer fra den reisen overbeviste deg om at ansettelsesprosessen måtte revurderes fundamentalt, og hvilket problem satte du deg opprinnelig for å løse med Sapia.ai

Den nåværende måten vi vurderer folk på er ødelagt – spesielt i ansettelsesprosessen.

Vi er avhengige av CV‑er. Vi ser ikke hele personen. Vi tar våre mest avgjørende beslutninger – hvem som skal ansettes, hvem som skal forfremmes – basert på magefølelse og proxy‑variabler. Speil‑ansettelse er utbredt: siden når ble skolen eller universitetet noen gikk på en proxy for intelligens? Det er det ikke. Det er en proxy for fordel.

Dette henger sammen med min personlige historie. Jeg er innvandrer og jeg vet at jeg havnet i en gunstig innvandrerkategori: Jeg er hvit og har et navn folk finner lett å uttale. Jeg kommer fra en familie der ingen gikk på universitet; min far var butikkier. Likevel har jeg hatt ekstraordinære muligheter, og fem karrierer senere er jeg her. Når jeg tenker på de to milliarder arbeiderne i verden, tenker jeg på hvor mange av dem som har akkurat den talenten, drivkraften, kritisk tenkning jeg blir tilskrevet, men som aldri blir sett fordi vi er blinde for vår egen erfaringsprisme. Skjevhet er en praktisk snarvei for å ta en rask beslutning, og det er nettopp derfor ansettelse fortsetter å belønne de som allerede har fordel. Det har aldri følt seg rettferdig eller rasjonelt.

Den andre delen av historien kom fra konsulentvirksomheten. Etter min MBA gikk jeg inn i en verden hvor du aldri gikk inn i et styremøte og kom med en anbefaling uten reell research bak. Likevel blir den mest kritiske beslutningen ethvert selskap tar (hvem som blir med, hvem som leder, hvem som former kulturen) fortsatt tatt på magefølelse, eller på en proxy så tynn som et universitetsnavn. Folk er ikke på balansen, men i profesjonelle tjenester er de spesielt en verdifull ressurs. Den disconnecten virket absurd for meg.

CV‑en i seg selv har ikke blitt fundamentalt endret siden Leonardo da Vinci oppfant formatet. Wikipedia lister opp mer enn 180 dokumenterte menneskelige skjevheter. En tredjedel av nordamerikanske kandidater som fullfører en jobbsøknad får ingen svar to måneder senere. Ingen av dette er et talentproblem: talent er jevnt fordelt, men muligheter er det ikke.

Det jeg satte meg fore å fikse med Sapia var ikke bare en beslutning – det kom fra erfaringen med å lete etter en jobb. Teamet mitt ler av meg for dette, men jeg har alltid tenkt på ansettelse som dating. Det er et forhold. Du tilbringer mer tid med folk på jobben enn med partneren din. Så hvorfor ta den beslutningen med mindre grundighet – dataene – enn vi krever for enhver annen viktig beslutning?

Du har hevdet at de fleste organisasjoner ser på AI‑adopsjon som et effektiviseringsprosjekt, mens det burde starte som et tillitsprosjekt. Hvordan ser “tillit” egentlig ut i praksis, og hvordan bør selskaper måle det sammen med mer tradisjonelle måleparametre som produktivitet, kostnadsbesparelser og adopsjon?

Jeg lærte dette som CHRO: hvis du ikke er åpen om hvorfor du gjør en endring, er tillit den første ofrene. Og jeg tror de fleste selskaper har AI‑adopsjon baklengs. De måler produktivitetsgevinsten, for eksempel timer spart, kostnad per ansettelse, men de stopper aldri opp for å måle det som egentlig avgjør om noe av dette holder: stoler dine ansatte på hvordan du bruker AI, og hvorfor?

Tilliten er grunnlaget for kulturen din. Det er ikke en myk måling som sitter ved siden av de virkelige — det er det de virkelige er bygget på. Tenk på det som du ville tenkt på ethvert forhold. Høy tillit gir deg frihetsgrader. Lav tillit gjør alt mindre, mindre oppdriftende, mindre avslappet. Og ingen yter sitt beste når de ikke føler seg trygge. Organisasjoner er ikke annerledes.

Likevel har så mye av det som er gjort med AI på arbeidsplassen faktisk våpenisert folks egne data mot dem, for eksempel ved å skrape noens sosiale medier for å slutte seg til om de er en god ansatt, en god risiko eller en dårlig risiko. Jeg kan virkelig ikke forestille meg møtet der den beslutningen ble tatt, eller hvordan noen tenkte at det ikke ville korrodere kulturen så snart folk fikk vite det.

Så hvis du er seriøs med AI‑adopsjon, må tillit være en måling fra dag én, side om side med produktivitet og kostnadsbesparelser. Spør folk direkte: forstår du hvorfor vi bruker dette? Tror du det blir brukt rettferdig? Hvis du ikke kan svare ja på begge, er effektivitetsgevinstene du feirer lånt mot en kultur du stille bruker opp.

En av de største bekymringene rundt AI i ansettelsesprosesser er at modeller kan lære av historiske ansettelsesdata og potensielt forsterke de samme menneskelige skjevhetene organisasjonene prøver å eliminere. Hvordan kan selskaper hindre at AI bare automatiserer eksisterende ansettelsesbias, og hvilke sikkerhetstiltak bør bygges inn i disse systemene fra starten?

Dette er akkurat fellen de fleste AI‑i‑ansettelses‑samtaler går glipp av, og grunnen til at jeg bygde Sapia slik jeg gjorde. Hvis du trener en modell på historiske ansettelsesdata (hvem som ble ansatt, hvem som ble forfremmet, hvem som fikk den første intervjuen), fjerner du ikke skjevhet, du industrialiserer den. Du lærer en maskin å gjenskape hver speil‑ansettelsesbeslutning, hver «kultur‑passform»-vurdering, hver mage‑følt snarvei som ga deg arbeidsstyrken du allerede har. Det er ikke innovasjon. Det er skjevhet i skala, bare raskere og med et slør av objektivitet som gjør det vanskeligere å utfordre.

Så sikkerhetstiltaket må starte lenger tilbake enn algoritmen. Vi trener ikke på CV‑er, bilder, navn, universiteter eller noen av de tradisjonelle proxy‑ene som korrelerer med privilegier snarere enn potensial. Hvis inndataene bærer skjevheten, vil ingen mengde smart modellering nedstrøms fikse det. Det er “garbage in, garbage out”‑problemet, bortsett fra at søppelet er tiår med menneskelig fordom kledd som et CV‑dokument.

Den andre delen er hva du faktisk måler modellen mot. Det er ikke nok å si “AI‑en fungerer”, du må kontinuerlig teste for negativ påvirkning på kjønn, etnisitet, alder, funksjonshemming, hver beskyttet egenskap du kan måle kontinuerlig, ikke som en engangsaudit før lansering. Skjevhet er ikke en feil du fikser én gang. Det er noe du må holde øye med, på samme måte som du ville overvåket ethvert system som tar avgjørende beslutninger om menneskers liv.

Og tredje — dette er den folk hopper over — du trenger utenforstående øyne på det. Uavhengige, tredjepartsrevisjoner av modellene dine, publisert metodikk, ekte åpenhet om hva systemet gjør og ikke gjør. Hvis du kun er villig til å la AI‑ansettelsesverktøyet ditt bli sjekket av de som bygde det og som er økonomisk motivert til å forsvare det, har du ikke egentlig løst tillitsproblemet, du har bare flyttet det.

“Algoritmen gjorde det” er ingen unnskyldning, men en erkjennelse av at du ikke bygde sikkerhetstiltakene i utgangspunktet. Husk, AI fjerner ikke menneskelig ansvar for rettferdighet.

Ansettelse er en usedvanlig høyrisiko‑applikasjon av AI fordi en algoritme kan påvirke noens karriere direkte. Hvor bør organisasjoner trekke grensen mellom beslutninger som kan automatiseres og de som alltid bør forbli under meningsfull menneskelig tilsyn?

Linjen jeg trekker er denne: AI kan absolutt hjelpe deg med å se en person klarere, men den bør aldri være den som bestemmer deres skjebne alene. Det er en reell forskjell mellom å forsterke en beslutning og å outsource den. Ansettelse er ett av de få områdene hvor en feil i denne distinksjonen faktisk endrer noens liv.

Så hvor får automatisering sin plass? I å fremheve signaler som mennesker er dårlige til å se konsekvent og rettferdig, for eksempel å lese tusenvis av intervjusvar uten tretthet, uten en dårlig dag, uten ubevisst å favorisere kandidaten som minner dem om seg selv i tjuefem år. Det er en jobb AI kan gjøre bedre enn en sliten ansettelsesleder på sitt åttende intervju på dagen. Å screene for ekte myke ferdigheter, strukturere innsikt slik at hver kandidat blir vurdert på samme kriterier, er hvor maskinen tilfører reell verdi fordi vi ikke er bygget til å være så konsistente.

Den siste avgjørelsen — hvem som blir ansatt, hvem som blir avvist, hvem som får en ny sjanse — må ligge hos et menneske som kan holdes ansvarlig for det. Ikke som en gummistempel på hva modellen leverer, men som reelt, meningsfullt tilsyn: noen som forstår hva systemet måler, kan stille spørsmål ved et resultat som virker feil, og kan overstyre det. Hvis et menneske ikke kan utfordre AI‑ens anbefaling på en meningsfull måte, er det ikke tilsyn, men en menneskelig alibi.

Jeg vil også trekke en grense ved alt som er irreversibelt eller ugjennomsiktig. Hvis en kandidat ikke kan få en forståelig forklaring på hvorfor de ikke gikk videre, har systemet sviktet uansett hvor \”nøyaktig\” det er. Og hvis modellen tar beslutninger som ingen i selskapet egentlig kan forklare — inkludert de som bygde den — er det ikke et ansettelsesverktøy, det er en svart boks med en persons karriere inni. Testen jeg ville gitt enhver organisasjon er enkel: kunne du sitte ansikt til ansikt med en kandidat du avslo og forklare, i klart språk, hvorfor? Hvis det ærlige svaret er \”Jeg vet egentlig ikke, modellen bestemte\”, har du automatisert den feil delen av prosessen.

Sapia.ai skiller mellom generativ AI brukt til åpne samtaler og mer deterministiske systemer brukt til å vurdere kandidater. Hvorfor er den distinksjonen viktig, spesielt når AI‑resultater må være konsistente, reviderbare og forsvarlige?

Folk hører «AI» og antar at det er én ting, men i ansettelsesprosessen er den sammenslåingen akkurat der tingene går galt. Vi deler bevisst arbeidet i to, fordi åpne samtaler og høyrisiko‑vurderinger har helt forskjellige krav, og å late som om de er den samme teknologien er hvordan selskaper ender opp med systemer de verken kan forklare, forsvare eller stole på.

Generativ AI er strålende på samtalelag‑nivå – den gir en naturlig, menneskelig følelse i utvekslingen med en kandidat, stiller gode oppfølgingsspørsmål og får opplevelsen til å føles som en samtale snarere enn et skjema. Det er her du ønsker fleksibilitet, nyanser og til og med litt uforutsigbarhet, fordi ekte samtaler ikke er manusbaserte.

Men i det øyeblikket du går fra å snakke med en kandidat til å vurdere dem, snur alt du trenger fra systemet på hodet. Vurderingen må være konsistent: samme svar skal gi samme vurdering, enten det er kandidat én eller kandidat tusen, enten det er en mandagsmorgen eller en fredagskveld. Den må være reviderbar, noe som betyr at du må kunne gå tilbake og vise nøyaktig hvorfor en kandidat fikk den poengsummen de fikk, ikke bare stole på at modellen \”fikset det\”. Og den må være forsvarlig fordi en persons levebrød står på spill, og \”den generative modellen syntes dette var et godt svar\” er ikke en setning som holder i møte med en regulator, en journalist eller en kandidat som vil vite hvorfor de ikke fikk jobben.

Generative modeller er av natur probabilistiske – still det samme spørsmålet to ganger, og du kan få subtilt ulike svar. Det er en funksjon for samtale, men en alvorlig risiko for vurdering. Hos Sapia bruker vi deterministiske systemer for den delen av prosessen som faktisk bestemmer en persons resultat. Vi modellerer slik at samme input pålitelig gir samme output, at vi kan spore begrunnelsen, og at vi kan bevise at to lignende kandidater behandles likt.

Det er egentlig en oppdeling av ansvarsområder: la generativ AI være god til å være menneskelig, og la deterministiske, reviderbare systemer bære vekten av en beslutning som må være rettferdig, forklarbar og forsvarlig under gransking.

Forklarbarhet diskuteres ofte som et krav for ansvarlig AI, men mange avanserte modeller er fortsatt vanskelige for brukere å forstå. Hvor mye forklaring bør en kandidat eller ansatt rimeligvis forvente når AI har påvirket en ansettelsesbeslutning?

Jeg mener kandidater fortjener mer enn de fleste selskaper i dag gir dem, og ærlig talt mer enn de fleste selskaper tror de kan gi. \”Algoritmen bestemte\” er en erkjennelse av feil maskert som sofistikasjon.

Her er min konklusjon: en kandidat skal alltid kunne forstå, i enkelt språk, hva de ble vurdert på og grovt hvorfor de endte der de gjorde. Ikke den underliggende matematikken, ikke en utskrift av modellvekter. Det de vil ha og det de har krav på, er noe som ligner på hva en god leder ville fortalt dem ansikt til ansikt: dette er egenskapene vi lette etter, dette er hvor du var sterk, dette er hvor du ikke var den nærmeste matchen denne gangen. Det er et helt rimelig krav, og ethvert system som ikke kan oppfylle det, bør ikke ta beslutninger om en persons levebrød i utgangspunktet.

Derfor må forklarbarhet være innebygd i arkitekturen fra dag én, fordi du ikke kan forklare det du ikke kan spore.

Hvor jeg ville slå litt tilbake er på ideen om at forklarbarhet betyr at kandidater trenger en teknisk utdanning i hvordan modellen fungerer. Det er en falsk standard, og den brukes ofte som en unnskyldning når det egentlig bare ikke er designet for å kunne forklares. En god lege går ikke gjennom biokjemien i en diagnose; de forteller deg hva de fant og hva det betyr for deg. AI i ansettelsesprosessen bør holde seg til samme standard for menneskelig lesbar ærlighet.

Den egentlige testen er den samme som jeg ville bruke på menneskelig tilsyn: kunne en kandidat spørre \”Hvorfor gikk jeg ikke videre?\” og få et svar som er spesifikt, ærlig og faktisk deres eget. Hvis AI‑en din ikke kan gi det svaret, har du ikke bygget et forklarbart system. Du har bygget et du håper ingen stiller spørsmål om.

Bedrifter fokuserer ofte på om ansatte og ledere bruker et AI‑verktøy, snarere enn om de faktisk stoler på resultatene. Hvilke varselsignaler tyder på at en organisasjon har oppnådd AI‑adopsjon uten å oppnå ekte tillit til teknologien?

Adopsjon er den letteste metrikken å forfalske, og det er nettopp derfor så mange selskaper forveksler den med suksess. Hvis jeg forteller deg at alle i virksomheten “bruker” AI-verktøyet, sier det nesten ingenting om de tror på det – det kan bare bety at det er obligatorisk, eller at det er den enkleste veien, eller at ingen har funnet en måte å omgå det på ennå.

Det første varselsignalet er omgåelsesatferd. Hvis folk bruker AI-verktøyet, men også stille utfører den gamle prosessen parallelt – dobbeltsjekker resultatene manuelt, holder egne separate notater, kjører et skyggesystem i tilfelle – er det etterlevelse med en forsikringspolicy knyttet. Bruksstatistikken ser bra ut. Sannheten er at alle tror verktøyet kan være feil.

Det andre er stillhet. I en virkelig tillitsfull kultur utfordrer folk systemet når noe virker avvikende: de stiller spørsmål, motsetter seg, flagger resultater som ikke føles riktige. Når adopsjon er reell, men tillit ikke er det, får du det motsatte. Folk slutter å stille spørsmål fordi de har bestemt seg for at det ikke er verdt kampen. Den stillheten blir feiltolket av ledelsen som tilfredshet. Den er faktisk en resignasjon.

Det tredje varselsignalet er et gap mellom hva folk sier i en undersøkelse og hva de sier til hverandre. Jeg ville vært langt mer bekymret for et selskap der det offisielle adopsjonsdashbordet er grønt overalt, men den faktiske samtalen i pauserommet er “ja, vi gjør bare som det sier fordi det er enklere enn å argumentere” – det er en kultur som ikke har blitt konvertert.

Og det dypeste varselsignalet, og det som betyr mest for meg: når folk slutter å bringe sin egen vurdering til bordet helt. Det er frafall. Reell tillit til et verktøy betyr at folk fortsatt føler seg myndige til å være uenige med det når deres egen ekspertise forteller dem noe annet – og føler seg trygge på å gjøre det. Hvis lederne dine har blitt stille og bare følger det AI-en sier, har du skapt avhengighet.

Så den virkelige testen er ikke “bruker folk det” men “ville folk valgt å fortsette å bruke det hvis det var valgfritt, og ville de fortalt deg ærlig når det tok feil”. De fleste selskaper har aldri faktisk stilt noen av disse spørsmålene. Det er vanligvis telleren.

AI-rekrutteringsverktøy kan potensielt evaluere kandidater i en skala og konsistens som menneskelige rekrutterere ikke kan, men rekruttering innebærer også kontekst og nyanser. Hvor tror du AI kan overgå menneskelig dømmekraft i dag, og hvor er mennesker fortsatt essensielle?

AI kan være et flott verktøy for å vurdere en stor pool av kandidater uavhengig av deres bakgrunn og erfaringer, samtidig som det gir skreddersydd vurdering for kandidater med spesifikke behov. En menneskelig rekrutterer kan være mer tilbøyelig til å foretrekke kandidater fra et topprangert universitet eller uten tidligere helsetilstander. AI gjennomfører en rettferdig, lik vurdering av alle kandidater på en måte som mennesker ikke kan når de står overfor hundrevis av søknader. Det sagt er menneskelig dømmekraft fortsatt avgjørende for å vurdere om en kandidat vil passe inn i en bedriftskultur eller oppfylle kravene fra kunder.

Når AI blir mer dypt integrert i rekruttering, coaching, prestasjonsstyring og andre arbeidsstyringsbeslutninger, hvordan bør ansvar struktureres når en AI-assistert beslutning fører til et urettferdig eller feilaktig resultat?

Ansvar i AI forblir når mennesker er de endelige beslutningstakerne mens rekrutteringsarbeidsflyten inkluderer åpenhet, forklarbarhet og grundig bias-testing. Vi lanserte FAIR™-modellen for å fremme ansvarlig AI-praksis. Den anbefaler:

• Uten skjevhet: Test for bias og bruk riktige statistiske mål – som 4/5-regelen, feilrateparitet og andre relevante bias-tester – for å sikre at resultatene er rettferdige.
• Gyldighet: AI-drevet evidens er basert på faktiske data og knyttet til utfallet den er ment å forutsi.
• Forklarbarhet: Ha klar dokumentasjon og verktøy for å tolke resultater, hva AI har identifisert om en kandidat og hvordan dette har bidratt til poengsummen deres.
• Inkludering: Dette betyr å sikre at kandidater behandles rettferdig gjennom hele prosessen, fra søknad til beslutningstaking. Det er et ende-til-ende perspektiv på ansettelsesopplevelsen – inkludert mennesker, prosesser, teknologi og AI som jobber sammen.

Ser du fremover, forventer du at AI primært blir et beslutningslag inne i HR-systemer, eller vil dens viktigste rolle være samtalemessig, ved å hjelpe kandidater og ansatte med å forstå muligheter bedre, utvikle ferdigheter og navigere i karrieren?

Selv de mest avanserte teknologiene krever menneskelig berøring, menneskelig vurdering og menneskelig tilsyn. Kunstig intelligens er der for å støtte prosessen, og sørge for at hver kandidat får en rettferdig, lik sjanse til å bli vurdert for en stilling. Hos Sapia kaller vi dette en “menneske-i-løkken-tilnærming” der vi kombinerer menneskelig og maskinintelligens for å skape smarte chatteopplevelser som er forutsigbare, ansvarlige og personlige. For å gjøre det, tar vi kundene våre med om bord, slik at vi kontinuerlig validerer for nøyaktighet og rettferdighet, samtidig som vi lærer våre AI-modeller å utvikle seg over tid.

Vår menneskelige tilnærming gjenspeiles også i det vi tilbyr kandidatene. Vi lanserte nylig Phai, en karrierecoach som fungerer som mentor, og gir jobbsøkere personlig veiledning, kartlegging av styrker og intervjuforberedelse for å hjelpe dem med selvtillit til å møte sin neste mulighet. Det er et positivt verktøy for å holde en kandidat motivert utover intervjuresultatet.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Sapia.ai.