Kimberly Nevala, direktør for forretningsstrategier i SAS – Intervju-serie

SAS er et globalt analytisk og AI-selskap som tilbyr løsninger innen datahåndtering, avansert analyse og kunstig intelligens. Deres flaggskipplattform, SAS Viya, legger vekt på hastighet, skalerbarhet og pålitelig beslutningstaking for organisasjoner over hele verden. Selskapet viser frem brukstilfeller innen svindeloppdaging, markedsoptimalisering, IoT og risikostyring, samt tilbyr gratis prøveversjoner, opplæring og akademiske programmer for å støtte en vidt utbredt bruk av analyse.

Hva har din reise som leder gjort for din syn på hva det virkelig tar for bedrifter å adoptere AI på en meningfull – og inkluderende – måte?

Til tross for den omfattende rekkevidden av nye AI-egenskaper og deres likeledes seismiske konsekvenser, har de grunnleggende byggesteinene for å drive teknisk transformasjon ikke endret seg. Selv om konsekvensene for å gjøre det feil har.

Først og fremst må det være en tydelig formulering av organisasjonens verdier og prioriteringer. Sammen med en tydelig forståelse av hvordan disse faktorene påvirker hvordan ansatte eller kunder engasjrer seg med merkevaren. Deretter må det være en bred forståelse av den nye teknologien, inkludert dens innbygde begrensninger og restriksjoner. Til slutt må det være synlighet inn i forutsigbare ferdighetsgap og barrierer for adopsjon basert på ett og to ovenfor. Merk at dette ikke er begrenset til teknisk ekspertise, men også forretningsdyktighet.

Alt dette må deretter støttes av robust, men tilpasningsdyktig styring. Underbygget, naturligvis, av målrettet og bevisst investering i både mennesker og teknologi.

Hva ser du på som AI-fluens i praksis for dagens ledere?

Prøven for praktisk fluens er enkel. Har lederne kunnskapen som trengs for å intelligent spørre om en foreslått AI-løsning?

Dette betyr ikke at ledere må dykke ned i kode. Snarere bør ledere på alle nivåer demonstrere kontekstuell kompetanse. Det betyr at de er utdannet i faktorene som kan påvirke eller sveie deres dømmekraft av et AI-system. Disse faktorene vil endre seg basert på lederens rolle. Spesifikt, omfanget av beslutningen de er ansvarlige for å ta.

For å si det enkelt: Prøven er denne: Vet de hva de skal spørre? For eksempel, kan en eksklusiv identifisere de menneskelige og tekniske faktorene med størst innvirkning på levedyktigheten og risikoprofilen til en gitt AI-løsning? Både bredt og i en anvendt kontekst.

Enda bedre: Forstår de begrensningene i teknologien? PR og markedsføring tenderer å fokusere på oppsiden, mens erfaringstreningsprogrammer avdekker begrensninger. Disse begrensningene kan diktere de prosedyremessige og tekniske retningslinjene som kreves for å distribuere en gitt AI-løsning med gevinst. I denne sammenhengen er omfanget av lederne forstår og identifiserer slike begrensninger ofte forskjellen mellom meningfull adopsjon og feil.

Hvorfor er likestilling i AI-ledelse en så avgjørende sak nå – og hva er risikoen hvis kvinner forblir passive adoptører i stedet for å være aktive formere av AI-utvikling og styring?

Jeg er privilegert å arbeide, snakke med og lære av kvinner som arbeider over hele AI-området hver dag. Så, rammen av kvinner som passive adoptører, for meg, fremkaller bilder som er barnlige og misvisende. Kvinner er aktivt involvert i å lede AI-tiltak, om enn i mindre tall enn vår utdannede befolkning ville indikere.

Kjønnsulikhet i teknologi er et multifaset problem som forutgår AI. Det finnes ingen enkelt løsning, da det er flere faktorer som spiller inn. Noen resulterer i mindre finansiering for og/eller anerkjennelse av kvinner i feltet. Det gjør det smertefullt ironisk at kvinner som mottar bred anerkjennelse ofte arbeider med ansvarlig eller etisk AI. Først merket som anti-AI, deres arbeid blir nå gjenoverveid når holdninger utvikler seg.

Uansett, uten bevisst inngripen, risikerer vi AI-systemer som forsterker eksisterende ulikheter i stor skala. Vi ser dette i bruk av automatiserte HR-screening og rekrutteringssystemer som foretrekker mannlige kandidater på grunn av historiske fordommer fanget i dataene.

En mangel på mangfold på alle nivåer betyr at beslutninger om hva slags AI-systemer som bygges, hvordan de distribueres, hvis perspektiver og behov de addreser og hvis de ikke, dikteres av en stadig mer isolert gruppe. Dette er dårlig for alle. Mangfoldige ledelsesgrupper driver bedre forretningsresultater. Mangfoldige produktgrupper leverer AI-løsninger som er mer robuste, resilient og fungerer bedre.

Med tanke på SAS’ siste innovasjoner – som AI-agenter innen SAS Viya, intelligente beslutningsrammer, syntetisk data-verktøy som Data Maker og tilpassede AI-modeller – hvordan omdefinerer bedrifter sine ledelseskanaler for å heve både AI-fluens og likestilling?

Bedrifter innser at omfanget og virkningen av disse applikasjonene overstiger kapasiteten til enkelt beslutningstaker eller gjører. Suksessfull distribusjon av avansert AI avhenger av tillit og engasjement fra “landsbyen”. De potensielle problemene og feller er langt for vide for en leder å effektivt håndtere alene.

I erkjennelse av denne virkeligheten, lener ledende AI-bedrifter inn mot deltakende design- og styringspraksis. I denne modellen er fluens og likestilling ikke forbedret av formelle litterære og opplæringsprogrammer alene. Men av kunnskapsdeling og kollektiv beslutning som skjer når man bringer mangfoldige perspektiver fra hele bedriftsøkosystemet sammen. Disse samarbeidene er ikke begrenset strengt til beslutningstakere, men inkluderer aktivt personer hvis arbeid vil bli berørt av AI-systemet under vurdering. Mens primært er domenet til offentlige og statlige etater i dag, har noen organisasjoner aktivt engasjert eksterne interessenter, inkludert kundegrupper og offentlige interesseorganisasjoner.

Hva praktiske skritt kan aspirerende ledere – spesielt kvinner – ta i dag for å bygge troverdighet og handleevne i en stadig mer AI-drevet markedsplass?

Først og fremst er å erkjenne at vi har handleevne. Hver enkelt har muligheten til å påvirke utviklingen av AI på en rekke måter: gjennom bevisst forbruk og bruk av bestemte AI-verktøy; gjennom advokatvirksomhet og kollektivt engasjement i samfunnsforum og lokale politiske prosesser; ved å melde seg til ansattinteressegrupper eller samfunnschampion-nettverk (og hvis disse ikke eksisterer, ved å starte en); og ved å heve hånden for å delta i AI-programmer eller lede initiativer på arbeidsplassen.

For det andre er å investere i egen litteratur på et nivå som har mening for deg. Det finnes tallrike online-resurser som omfatter kurs om AI-styring og etikk, til online college-nivå innføringsklasser som dekker hele spekteret av AI-egenskaper. Mange av disse valgene tilbys gratis eller for nominelle avgifter.

Til slutt er å delta i og aktivt bidra til AI-industri- eller spesialinteresse-nettverksgrupper. Disse gir en mulighet til ikke bare å dele kunnskap, men å kuratere forhold som kan gi mentorat, allianser og troverdighet mens du bygger din ekspertise og nettverk.

Hvordan støtter disse grunnleggende elementene utviklingen av AI-klare ledere?

Det tradisjonelle svaret er at disse grunnlagene utstyrer ledere med verktøyene for å håndtere kompleksitet, håndtere risiko, redusere kostnader og øke produktivitet. Alle disse resultater er sanne, men den mest underanslagte fordelen av disse praksisene er tillit.

Når det gjøres riktig, skaper disse elementene en miljø hvor ansatte kan eksperimentere og innovere trygt innenfor grensene for selskapets etiske, juridiske og forretnings-etos.

Dette er spesielt viktig da tilgjengelige løsninger går fra personlige produktivitetsverktøy til konstruerte, innbygde arbeidsflyter. Beslutninger om AI-bruk skjer ikke bare i styrerommet eller i sammenheng med et formelt AI-prosjekt. Fra utvikling til utforsking til distribusjon og utover, påvirker en rekke faktorer hvordan systemet utføres og oppfattes.

Responsiv veiledning muliggjør at individer og lag på alle nivåer aktivt kan eksperimentere, ta tidlige beslutninger om å fremme løsninger og bygge bedre innenfor grensene for et system av reguleringer.

Hva innsikter fra din Pondering AI-podkast står ut som mest kritisk for organisasjoner som navigerer AI-transformasjon?

Språket til AI er triksy. Vi snakker om AI-systemer som tenker, hallucinerer og til og med mislykkes. Vi konsepterer AI-systemer som teammedlemmer eller kolleger. Som sådan er det fristende å overføre antagelser og forventninger fra mennesker til AI. Dermed mister vi fokus på menneskelig ansvar, deltakelse og ansvarlig bruk. Vi obskurerer også rigor som kreves for å levere robuste, resilient AI-systemer som, når de gjøres godt, ser enkle ut.

Dette gjør det kritisk å sentrere vår forståelse av AI som en innfødt menneskelig innsats. Til tross for antropomorfe fortellinger, reflekterer AI-systemer alltid verdiene og intensjonene til sine skapere: problemene vi velger å løse, teknikken eller modellene vi anvender, dataene vi bruker i trening og hvordan brukerne engasjrer seg med systemet. Hvert AI-system er produktet av disse menneskelige beslutningene.

Tillit og tillit til AI-systemer kommer ikke fra AI. Mennesker bestemmer ultimate å automatisere eller augmentere en persons jobb. Det er ikke systemet som bestemmer hvilket nivå av nøyaktighet eller forklarbarhet som er tilstrekkelig. Det er ikke AI som bestemmer den mest passende brukerinteraksjonsmodellen. Når en chatbot mislykkes, påvirker det ikke AI; det degraderer merkevaren og bunns linje til selskapet som håndterer AI.

Derfor er menneskesentrert AI nøkkel.

Mange organisasjoner har avanserte AI-verktøy, men kjemper fortsatt med kultur, styring og inklusjon. Hva intervensjoner eller holdninger hjelper organisasjoner å brobygge denne gapen effektivt?

AI, som mange nye teknologier, er underlagt å falle inn i samme hype-syklus som sine forgjengere. Under den store data-æraen var å bli data-drevet alt innen rage. Få organisasjoner leverte på sin visjon. De som gjorde, var disiplinerte om å løse identifiserbare problemer som å redusere oppfyllelsestider for X eller å muliggjøre selvbetjening for Y. Det er ingen tilfeldighet at mange av disse samme selskapene nå er bransjeledere i AI.

Når man identifiserer AI-initiativer, starter man med klare forretningsmål og målbare resultater, og identifiserer deretter hvilke tilgjengelige AI-teknikker som er egnet for formålet. Motstå fristelsen til å være flashy. Innovative løsninger for kjedelige problemer betaler til slutt ut. Address dull, repetitive prosesser og oppgaver som skjer i stor skala.

Du kommer ikke til å få det rett alle gangene. Men å fokusere din oppmerksomhet og investering med forretningsresultatet i mente, tillater for den høyeste sannsynligheten for suksess.

Når AI-systemer blir mer autonome og innbygde i beslutningstaking – gjennom verktøy som AI-agenter og copilot-assistenter – hva slags etiske retningslinjer eller styringsstrukturer tror du er essensielle for å opprettholde tillit, transparens og likestilling i ledelse?

Vi i SAS definerer AI-styring gjennom linser av tilsyn, overholdelse, drift og kultur. Uansett hvilken ramme du adopterer, er det to faktorer jeg ville understreke.

Først og fremst er at hver AI-applikasjon, selv om den er bygget på samme underliggende modell eller datasamlinger, må vurderes uavhengig og kontinuerlig. Hva fungerer for markedsføring, kan ikke fungere for finans. En akseptabel hallucinasjonsrate, aka feilrate, for ansatte, vil ikke være effektiv i kundeinteraksjoner. I tillegg kan endringer i brukeratferd, underliggende datastrøm og en rekke andre faktorer raskt endre en AI-systems atferd og utdata.

For det andre er at AI-etikk og styring ikke eksisterer i et vakuum. Naturen til disse løsningene nødvendiggjør samarbeid med korporativ styring, juridisk og regulatorisk overholdelse, bedriftsrisikostyring og sikkerhet. Å utnytte og utvide disse praksisene i stedet for å gjenskape dem, kan gi en god start.

Ser du for deg at ledelseskompetanser endrer seg i en AI-drevet verden – og hva er implikasjonene for organisasjoner som ikke dyrker denne nye flytelsen?

Jeg tror at forsiktighet og resiliens vil bli stadig viktigere. Den raske endringshastigheten oppmuntrer ledere til kontinuerlig å vurdere og tilpasse forretningsstrategier og taktikker mens teknologien utvikler seg. Ledere må vurdere verdi, levedyktighet og risiko over ulike tidshorisonter og perspektiver. Gitt den sosiotekniske naturen til AI, må disse perspektivene stadig mer inkludere ikke bare aksjonærer, men også kunder, ansatte og, iblant, samfunnet som helhet. Forsiktighet er nødvendig for å navigere i dette landskapet.

Resiliens er også en faktor i AI. Som Jordan Loewen-Colón eloquently notes in reference to AI adoption and governance: AI er en prosess, ikke en bryter. Evnen til å bevisst lære, tilpasse og kontinuerlig forbedre seg mens man holder den generelle retningen, vil skille ledere fra resten.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke SAS.