Barb Hyman, grundare och VD för Sapia.ai – Intervjuserie

Barb Hyman, grundare och VD för Sapia.ai är en erfaren affärsledare vars karriär har omfattat juridik, managementkonsulting, marknadsföring, lärande och utveckling, personalresurser och teknik. Hon började sin karriär som advokat på Herbert Smith Freehills innan hon gick över till konsultverksamhet på Boston Consulting Group, där hon avancerade till projektledare och senare återvände i seniora roller med ansvar för lärande och utveckling, HR och marknadsföring i Australasien. Hyman har också varit marknadsförings- och sponsringschef på Museum of Contemporary Art i Sydney samt högsta chef för personal och kultur på REA Group. Hon grundade Sapia.ai 2018 och drog nytta av sin erfarenhet av organisationsledarskap och talanghantering för att ompröva hur företag bedömer och anställer personer med hjälp av artificiell intelligens.

Sapia.ai är ett AI-drivet rekryteringsteknikföretag som fokuserar på strukturerad, samtalsbaserad kandidatbedömning. Plattformen använder chattbaserade intervjuer för att utvärdera kandidater konsekvent i stor skala, vilket hjälper arbetsgivare att bedöma färdigheter och lämplighet samtidigt som beroendet av traditionell CV-granskning och andra signaler som kan skapa bias minskas. Sapia.ai uppger att deras teknik har bedömt mer än 10 miljoner kandidater och kombinerar strukturerad bedömningsvetenskap med AI-driven talangintelligens, personlig kandidatåterkoppling och integrationer med befintliga rekryterings- och HR-system. Företaget betonar också förklarbarhet, rättvisa och företagsövergripande efterlevnad, med en bredare plattform som omfattar AI-intervjuer, jobbanalys, intervjuschemaläggning, talangintelligens och AI-driven karriärcoachning.

Innan du grundade Sapia.ai byggde du en karriär som sträckte sig över konsultverksamhet på Boston Consulting Group, juridik, marknadsföring, lärande och utveckling samt så småningom ledarskap för People & Culture på REA Group. Vilka erfarenheter från den resan övertygade dig om att rekrytering behövde omprövas i grunden, och vilket problem avsåg du ursprungligen att lösa med Sapia.ai

Det nuvarande sättet vi bedömer människor är bristfälligt — särskilt vid rekrytering.

Vi förlitar oss på CV:n. Vi ser inte hela personen. Vi fattar våra mest avgörande beslut — vem som ska anställas, vem som ska befordras — baserat på magkänsla och proxyvariabler. Spegelrekrytering är utbredd: sedan när har skolan eller universitetet någon gått på blivit en proxy för intelligens? Det är det inte. Det är en indikator på privilegier.

Något av detta hänger ihop med min personliga historia. Jag är invandrare och jag vet att jag hamnade i en fördelaktig kategori av invandrare: jag är vit och har ett namn som folk tycker är lätt att uttala. Jag kommer från en familj där ingen gick på universitet; min pappa var butiksägare. Trots det har jag haft extraordinära möjligheter och fem karriärer senare står jag här. När jag tänker på de två miljarder arbetare i världen funderar jag på hur många av dem som har exakt den talang, drivkraft och kritiska tänkande som jag har blivit tillskriven, men som aldrig syns eftersom vi bländas av våra egna erfarenheters prisma. Bias är en praktisk genväg för att fatta snabba beslut, och det är precis därför rekrytering fortsätter att belöna dem som redan är privilegierade. Det har aldrig känts rättvist eller rationellt.

Den andra halvan av historien kom från konsultverksamheten. Efter min MBA gick jag in i en värld där du aldrig gick in i ett styrelserum och gav en rekommendation utan riktig research bakom. Trots det fattas fortfarande det mest kritiska beslutet som ett företag gör (vem som anställs, vem som leder, vem som formar kulturen) baserat på magkänsla, eller på en proxy så tunn som ett universitetsnamn. Människor finns inte på balansräkningen, men särskilt inom professionella tjänster är de tillgången. Denna diskrepans verkade absurd för mig.

CV:t i sig har inte förändrats i grunden sedan Leonardo da Vinci uppfann formatet. Wikipedia listar mer än 180 dokumenterade mänskliga bias. En tredjedel av kandidater i Nordamerika som slutför en jobbansökan får inget svar två månader senare. Detta är inte ett talangproblem: talang är jämnt fördelad men möjligheter är det inte.

Det jag ville åtgärda med Sapia var inte bara ett beslut — det kom från erfarenheten av att söka jobb. Mitt team skrattar åt mig för detta, men jag har alltid sett rekrytering som dejting. Det är ett förhållande. Du tillbringar mer tid med människorna på ditt jobb än med din partner. Så varför skulle du fatta det beslutet med mindre än samma noggrannhet — data — som vi kräver för varje annat viktigt beslut?

Du har hävdat att de flesta organisationer närmar sig AI‑adoption som ett effektiviseringsprojekt när det egentligen bör börja som ett förtroendeprojekt. Hur ser “förtroende” faktiskt ut i praktiken, och hur bör företag mäta det tillsammans med mer traditionella mått som produktivitet, kostnadsbesparingar och adoption?

Jag lärde mig detta som CHRO: om du inte är transparent med varför du gör en förändring blir förtroendet det första offret. Och jag tror att de flesta företag har AI‑adoptionen omvänd. De mäter produktivitetsvinsten, t.ex. sparade timmar, kostnad per anställning, men de stannar aldrig upp för att mäta det som faktiskt avgör om något av det håller i sig: litar dina medarbetare på hur du använder AI, och varför?

Förtroende är grunden för er kultur. Det är inte ett mjukt mått som sitter bredvid de verkliga — det är det som de verkliga är byggda på. Tänk på det som du skulle tänka på vilken relation som helst. Högt förtroende ger er frihetsgrader. Lågt förtroende gör allt mindre, mindre lättsamt, mindre avslappnat. Och ingen presterar sitt bästa när de inte känner sig trygga. Organisationer är inget undantag.

Ändå har så mycket av det som har gjorts med AI på arbetsplatsen faktiskt vapeniserat människors egna data mot dem, till exempel genom att skrapa någons sociala medier för att avgöra om de är en bra anställd, en bra risk eller en dålig risk. Jag kan verkligen inte föreställa mig mötet där det beslutet fattades, eller hur någon trodde att det inte skulle korrodera kulturen så snart folk fick reda på det.

Så om du är seriös med AI‑adoption måste förtroende vara ett mått från dag ett, placerat precis bredvid produktivitet och kostnadsbesparingar. Fråga folk direkt: förstår du varför vi använder detta? Tror du att det används rättvist? Om du inte kan svara ja på båda, är de effektivitetsvinster du firar lånade mot en kultur som du tyst förbrukar.

En av de största oroarna kring AI i rekrytering är att modeller kan lära sig av historiska anställningsdata och potentiellt förstärka samma mänskliga fördomar som organisationer försöker eliminera. Hur kan företag förhindra att AI bara automatiserar befintliga rekryteringsbias, och vilka skyddsåtgärder bör byggas in i dessa system från början?

Detta är exakt fällan som de flesta AI‑i‑rekrytering‑samtal missar och anledningen till att jag byggde Sapia som jag gjorde. Om du tränar en modell på historiska rekryteringsdata (vem som anställdes, vem som befordrades, vem som fick den första intervjun) tar du inte bort bias, du industrialiserar den. Du lär en maskin att reproducera varje spegel‑rekryteringsbeslut, varje “kulturpassning”‑bedömning, varje magkänsla‑baserad genväg som gav dig den arbetsstyrka du redan har. Det är ingen innovation. Det är bias i skala, bara snabbare och med ett lager av objektivitet som gör det svårare att utmana.

Så skyddet måste börja längre tillbaka än algoritmen. Vi tränar inte på CV:n, foton, namn, universitet eller någon av de traditionella proxierna som korrelerar med privilegium snarare än potential. Om indata bär med sig bias, löser ingen mängd smart modellering nedströms det. Det är problemet med “skräp in, skräp ut”, förutom att skräpet är årtionden av mänsklig fördom klädd som ett CV.

Den andra delen är vad du faktiskt mäter modellen mot. Det räcker inte att säga “AI:n fungerar”, du måste ständigt testa för negativ påverkan över kön, etnicitet, ålder, funktionsnedsättning, varje skyddad egenskap du kan mäta kontinuerligt, inte som en engångsrevision före lansering. Bias är inte ett fel du fixar en gång. Det är något du måste fortsätta övervaka, på samma sätt som du skulle övervaka vilket system som helst som fattar avgörande beslut om människors liv.

Och tredje — detta är den som folk hoppar över — du behöver externa ögon på det. Oberoende, tredjepartsrevisioner av dina modeller, publicerad metodik, verklig transparens om vad systemet gör och inte gör. Om du bara är villig att låta ditt AI‑rekryteringsverktyg granskas av de som byggde det och som är ekonomiskt motiverade att försvara det, har du faktiskt inte löst förtroendeproblemet, du har bara flyttat det.

“Algoritmen gjorde det” är ingen ursäkt, utan ett erkännande av att du inte byggde skyddsåtgärderna från början. Kom ihåg, AI tar inte bort mänskligt ansvar för rättvisa.

Rekrytering är en AI-tillämpning där ovanligt mycket står på spel eftersom en algoritm kan direkt påverka någons karriär. Var bör organisationer dra gränsen mellan beslut som kan automatiseras och de som alltid bör förbli under meningsfull mänsklig tillsyn?

Gränsen jag drar är denna: AI kan absolut hjälpa dig att se en person tydligare, men den bör aldrig vara den som ensam bestämmer deras öde. Det finns en verklig skillnad mellan att förstärka ett beslut och att outsourca det. Rekrytering är ett av de få områden där ett fel i den distinktionen faktiskt förändrar någons liv.

Så var får automatisering sin plats? I att lyfta fram signaler som människor är dåliga på att se konsekvent och rättvist, till exempel att läsa tusentals intervjusvar utan trötthet, utan att ha en dålig dag, utan att omedvetet föredra kandidaten som påminner dem om sig själva vid tjugofem. Det är ett jobb AI kan göra bättre än en trött rekryteringschef på deras åttonde intervju på dagen. Att screena för genuina mjuka färdigheter, strukturera insikter så varje kandidat bedöms på samma kriterier, det är där maskinen tillför verkligt värde eftersom vi inte är byggda för att vara så konsekventa.

Det sista beslutet — vem som anställs, vem som avslås, vem som får en andra chans — måste ligga hos en människa som kan hållas ansvarig för det. Inte genom att bara godkänna det modellen levererar utan granskning, utan verklig, meningsfull tillsyn: någon som förstår vad systemet mäter, kan ifrågasätta ett resultat som verkar fel och kan åsidosätta det. Om en människa inte kan meningsfullt utmana AI:s rekommendation, är det ingen tillsyn utan ett mänskligt alibi.

Jag skulle också dra gränsen vid allt som är irreversibelt eller otydligt. Om en kandidat inte kan få en begriplig förklaring till varför de inte gick vidare, har systemet misslyckats oavsett hur “träffsäkert” det är. Och om modellen fattar beslut som ingen i företaget faktiskt kan förklara — inklusive de som byggde den — är det inte ett rekryteringsverktyg, det är en svart låda med någons karriär inuti. Testet jag skulle ge vilken organisation som helst är enkelt: kan du sitta mittemot en kandidat du avvisade och förklara, på ett enkelt språk, varför? Om det ärliga svaret är “jag vet faktiskt inte, modellen bestämde”, har du automatiserat fel del av processen.

Sapia.ai skiljer mellan generativ AI som används för öppna samtal och mer deterministiska system som används för att poängsätta kandidater. Varför är den distinktionen viktig, särskilt när AI‑resultat måste vara konsekventa, granskbara och försvarbara?

Människor hör “AI” och antar att det är en enda sak, men inom rekrytering är just den sammanblandningen där saker går fel. Vi delar medvetet upp arbetet i två delar, eftersom öppna samtal och poängsättning med stora konsekvenser har helt olika krav, och att låtsas att de är samma teknik är hur företag hamnar med system som de inte kan förklara, försvara eller lita på.

Generativ AI är lysande på samtalsnivån — att ha ett naturligt, mänskligt utbyte med en kandidat, ställa bra följdfrågor och få upplevelsen att kännas som en konversation snarare än ett formulär. Det är där du vill ha flexibilitet, nyanser och till och med en viss oförutsägbarhet, eftersom verkliga samtal inte är manusbaserade.

Men i det ögonblick du går från att prata med en kandidat till att betygsätta dem, vänds alla krav på systemet upp och ned. Betygsättningen måste vara konsekvent: samma svar ska få samma bedömning oavsett om det är kandidat ett eller kandidat tusen, oavsett om det är en måndagsmorgon eller en fredagseftermiddag. Den måste vara granskningsbar, vilket betyder att du måste kunna gå tillbaka och visa exakt varför en kandidat fick det betyg den fick, inte bara lita på att modellen “räknade ut det”. Och den måste vara försvarbar eftersom någons försörjning står på spel med det betyget, och ”den generativa modellen tyckte att detta var ett bra svar” är inte en mening som håller när den granskas av en tillsynsmyndighet, en journalist eller en kandidat som vill veta varför de inte fick jobbet.

Generativa modeller är av naturen probabilistiska — ställ samma fråga två gånger och du kan få subtilt olika svar. Det är en funktion för konversation men en allvarlig risk för poängsättning. På Sapia använder vi deterministiska system för den del av processen som faktiskt avgör någons resultat. Vi modellerar där samma indata pålitligt ger samma utdata, där vi kan spåra resonemanget och där vi kan bevisa att två liknande kandidater behandlas lika.

Det handlar egentligen om en uppdelning av ansvarsområden: låt generativ AI vara utmärkt på att vara människolik, och låt deterministiska, granskningsbara system bära vikten av ett beslut som måste vara rättvist, förklarligt och försvarbart under granskning.

Förklarbarhet diskuteras ofta som ett krav för ansvarsfull AI, men många avancerade modeller förblir svåra för användare att förstå. Hur mycket förklaring bör en kandidat eller anställd rimligtvis förvänta sig när AI har påverkat ett rekryteringsbeslut?

Jag tror att kandidater förtjänar mer än de flesta företag för närvarande ger dem, och ärligt talat, mer än de flesta företag tror att de kan ge. “Algoritmen bestämde” är ett erkännande av misslyckande förklätt som sofistikering.

Det är så jag ser på det: en kandidat bör alltid kunna förstå, på ett enkelt språk, vad de bedömdes på och grovt varför de hamnade där de gjorde. Inte den underliggande matematiken, inte en utskrift av modellvikter. Vad de vill ha och vad de har rätt till är något som ligger närmare vad en bra chef skulle säga dem ansikte mot ansikte: detta är de egenskaper vi letade efter, så här var du stark, så här var du inte den bästa matchen den här gången. Det är en helt rimlig nivå, och något system som inte klarar den bör inte fatta beslut om någons försörjning från början.

Så för oss måste förklarbarhet vara inbyggd i arkitekturen från dag ett, eftersom du inte kan förklara det du inte kan spåra.

Det jag skulle ifrågasätta lite är idén att förklarbarhet innebär att kandidater behöver en teknisk utbildning i hur modellen fungerar. Det är en falsk standard och används ofta som en ursäkt när det i själva verket bara inte har designats för att kunna förklaras. En bra läkare går inte igenom biokemin i en diagnos; de berättar vad de har hittat och vad det betyder för dig. AI inom rekrytering bör hålla sig till samma standard av mänskligt läsbar ärlighet.

Det verkliga testet är detsamma som jag skulle använda på mänsklig tillsyn: kan en kandidat fråga “varför gick jag inte vidare?” och få ett svar som är specifikt, ärligt och faktiskt gäller just dem. Om din AI inte kan ge det svaret har du inte byggt ett förklarbart system. Du har byggt ett som du hoppas att ingen frågar om.

Företag fokuserar ofta på om anställda och chefer använder ett AI‑verktyg, snarare än om de faktiskt litar på dess resultat. Vilka varningssignaler tyder på att en organisation har uppnått AI‑adoption utan att ha genuint förtroende för tekniken?

Adoption är det enklaste måttet att fejka, och det är precis därför så många företag misstar det för framgång. Om jag säger att alla i verksamheten “använder” AI-verktyget, säger det nästan ingenting om huruvida de tror på det – det kan bara betyda att det är obligatoriskt, eller att det är den enklaste vägen, eller att ingen ännu har hittat ett sätt runt det.

Det första varningstecknet är kringgående beteende. Om folk använder AI-verktyget men samtidigt tyst fortsätter med den gamla processen parallellt – dubbelkollar dess resultat manuellt, håller egna separata anteckningar, kör ett skuggsystem för säkerhets skull – följer de instruktionerna, men med en extra försäkring. Användningssiffrorna ser bra ut. Sanningen är att alla tror att verktyget kan vara felaktigt.

Det andra är tystnad. I en genuint förtroendefull kultur utmanar folk systemet när något verkar fel: de ställer frågor, motsätter sig, flaggar resultat som inte känns rätt. När adoptionen är verklig men förtroendet saknas får man motsatsen. Folk slutar ifrågasätta det eftersom de har beslutat att det inte är värt kampen. Den tystnaden missuppfattas av ledningen som tillfredsställelse. Det är i själva verket en resignation.

Det tredje varningstecknet är ett gap mellan vad folk säger i en enkät och vad de säger till varandra. Jag skulle vara mycket mer oroad över ett företag där den officiella adoptionspanelen är grön överallt men den faktiska konversationen i pausrummet är “ja, vi gör bara som den säger för det är enklare än att argumentera” – det är en kultur som ännu inte har omvandlats.

Och det djupaste varningstecknet, och det som betyder mest för mig: när folk slutar bidra med eget omdöme helt och hållet. Det är abdikation. Verkligt förtroende för ett verktyg innebär att folk fortfarande känner sig bemyndigade att motsätta sig det när deras egen expertis säger något annat – och känner sig trygga med det. Om dina chefer har blivit tysta och bara följer vad AI:n säger, har du byggt ett beroende.

Så det verkliga testet är inte “använder folk det” utan “skulle folk välja att fortsätta använda det om det var valfritt, och skulle de ärligt berätta när det gjorde fel”. De flesta företag har aldrig faktiskt ställt någon av dessa frågor. Det är oftast den avgörande indikatorn.

AI-verktyg för rekrytering kan potentiellt utvärdera kandidater i en skala och med en konsekvens som mänskliga rekryterare inte kan, men rekrytering innebär också kontext och nyanser. Var tror du att AI kan överträffa mänskligt omdöme idag, och var är människor fortfarande oumbärliga?

AI kan vara ett utmärkt verktyg för att bedöma en stor pool av kandidater oavsett deras bakgrund och erfarenheter, samtidigt som det erbjuder skräddarsydda bedömningar för kandidater med specifika behov. En mänsklig rekryterare kan vara mer benägen att föredra kandidater från ett topprankat universitet eller utan tidigare hälsoproblem. AI genomför en rättvis, lika bedömning av alla kandidater på ett sätt som människor inte kan när de hanterar hundratals ansökningar. Det sagt är mänskligt omdöme fortfarande avgörande för att utvärdera om en kandidat passar in i företagets kultur eller uppfyller de krav som kunderna ställer.

Allteftersom AI blir mer integrerat i rekrytering, coachning, prestationshantering och andra personalbeslut, hur bör ansvar struktureras när ett AI-assisterat beslut leder till ett orättvist eller felaktigt resultat?

Ansvar för AI kvarstår när människor är de slutgiltiga beslutsfattarna samtidigt som rekryteringsprocessen inkluderar transparens, förklarbarhet och rigorös bias-testning. Vi lanserade FAIR™-modellen för att främja ansvarsfulla AI-praktiker. Den rekommenderar:

• Opartisk: Testa för bias och använd rätt statistiska mått – såsom 4/5‑regeln, felratesparitet och andra relevanta bias-tester – för att säkerställa att resultaten är rättvisa.
• Validitet: AI‑driven evidens baseras på faktiska data och är kopplad till det resultat den är avsedd att förutsäga.
• Förklarbarhet: Ha tydlig dokumentation och verktyg för att tolka resultat, vad AI har identifierat om en kandidat och hur det har bidragit till deras poäng.
• Inkludering: Detta innebär att säkerställa att kandidater behandlas rättvist genom hela processen, från ansökan till beslutsfattande. Det är ett helhetsperspektiv på rekryteringsupplevelsen – inklusive människor, processer, teknik och AI som arbetar tillsammans.

Framåt i tiden, förväntar du dig att AI främst blir ett beslutsfattande lager i HR-system, eller att dess viktigare roll blir konversativ, där den hjälper kandidater och anställda att bättre förstå möjligheter, utveckla färdigheter och navigera sina karriärer?

Även den mest avancerade tekniken kräver mänsklig kontakt, mänskligt omdöme och mänsklig tillsyn. AI finns för att stödja processen och säkerställa att alla kandidater har en rättvis och lika chans att övervägas för en tjänst. På Sapia kallar vi detta gärna ett arbetssätt där människan finns med i processen: vi kombinerar mänsklig intelligens och maskinintelligens för att skapa smarta chattupplevelser som kan förutsäga utfall och är ansvarsfulla och personligt anpassade. Därför involverar vi våra kunder, så att vi kontinuerligt validerar träffsäkerhet och rättvisa samtidigt som vi lär våra AI-modeller att utvecklas över tid.

Vår mänskliga metod återspeglas också i vad vi erbjuder kandidaterna. Vi lanserade nyligen Phai, en karriärcoach som fungerar som mentor och ger arbetssökande personlig vägledning, styrkekartläggning och intervjuträning för att hjälpa dem att självsäkert möta nästa möjlighet. Det är ett positivt verktyg för att hålla en kandidat motiverad bortom intervjuns resultat.

Tack för den fantastiska intervjun, läsare som vill lära sig mer bör besöka Sapia.ai.