Kimberly Nevala, Director of Business Strategies på SAS – Intervju-serie

SAS är ett globalt analytics- och AI-företag som erbjuder lösningar inom datahantering, avancerad analys och artificiell intelligens. Dess flaggskeppplattform, SAS Viya, betonar hastighet, skalbarhet och tillförlitliga beslut för organisationer över hela världen. Företaget visar användningsfall inom bedrägeridetektering, marknadsoptimering, IoT och riskhantering, samtidigt som det tillhandahåller gratis provversioner, utbildning och akademiska program för att stödja en bred tillämpning av analytics.

Du har byggt din karriär genom att guida organisationer genom komplexa kulturella, strategiska och tekniska transformationer – från managementkonsult till att leda affärsstrategi på SAS. Hur har den resan format din syn på vad det verkligen krävs för företag att anta AI på ett meningsfullt – och inkluderande – sätt?

Trots den expansiva omfattningen av nya AI-kapaciteter och deras lika seismiska konsekvenser, har de grundläggande byggstenarna för att driva teknisk transformation inte förändrats. Även om konsekvenserna för att göra fel har förändrats.

Först behöver det finnas en tydlig uttryck för organisationens värderingar och prioriteringar. Tillsammans med en tydlig förståelse för hur dessa faktorer påverkar hur anställda eller kunder engagerar sig med varumärket. Nästa, behöver det finnas en bred förståelse för den nya tekniken, inklusive dess inneboende begränsningar och begränsningar. Slutligen, synlighet i förutsebara färdighetsgap och hinder för antagande baserat på ett och två ovan. Detta är inte begränsat till teknisk expertis, utan också affärskompetens.

Allt detta måste sedan stödjas av robust men anpassningsbar styrning. Underbyggt, naturligtvis, av riktade, medvetna investeringar i både människor och teknologi.

Du har talat om AI-litteracitet som stiger till nivån av essentiella ledarskapsfärdigheter som strategiskt tänkande och finansiell skicklighet. Vad ser AI-fluens ut i praktiken för dagens ledare?

Testet för praktisk fluens är enkelt. Har ledarna den kunskap som krävs för att intelligent ifrågasätta ett föreslaget AI-lösning?

Detta är inte att föreslå att ledare behöver dyka ner i kod. Snarare bör ledare på alla nivåer demonstrera kontextuell kompetens. Det betyder att de är utbildade i de faktorer som kan påverka eller påverka deras bedömning av ett AI-system. Dessa faktorer kommer att förändras beroende på ledarens roll. Specifikt, omfattningen av beslutet de är ansvariga för att fatta.

Uttryckt enkelt: testet är detta: vet de vilka frågor de ska ställa? Till exempel, kan en verkställande direktör identifiera de mänskliga och tekniska faktorerna med den största påverkan på livskraften och riskprofilen för en given AI-lösning? Både i allmänhet och i en tillämpad kontext.

Ännu bättre: förstår de begränsningarna för tekniken? PR och marknadsföring tenderar att fokusera på den positiva sidan, medan erfarenhetsbaserad utbildning avslöjar begränsningar. Dessa begränsningar kan diktera de procedur- och tekniska räcken som krävs för att distribuera en given AI-lösning på ett meningsfullt sätt. I detta avseende är omfattningen av ledarnas förståelse och identifiering av sådana begränsningar ofta skillnaden mellan meningsfullt antagande och misslyckande.

Varför är jämställdhet i AI-ledning en sådan avgörande fråga just nu – och vilka risker står vi inför om kvinnor förblir passiva användare snarare än aktiva formare av AI:s utveckling och styrning?

Jag har privilegiet att arbeta, tala med och lära av kvinnor som arbetar inom alla aspekter av AI varje dag. Så, ramen för kvinnor som passiva användare, för mig, väcker bilder som är barnsliga och vilseledande. Kvinnor är aktivt involverade i att leda AI-insatser, om än i mindre antal än vår utbildade befolkning skulle indikera.

Könsobalans i tech är en mångfacetterad fråga som föregår AI. Det finns ingen enda lösning, eftersom det finns många faktorer i spel. Vissa resulterar i mindre finansiering för och/eller erkännande av kvinnor inom området. Det är ironiskt att kvinnor som får bred erkänsla ofta arbetar inom ansvarsfull eller etisk AI. Initialt märkta som anti-AI, deras arbete omprövas nu när attityder utvecklas.

Oavsett, utan medveten ingripande, riskerar vi AI-system som förstärker befintliga ojämlikheter i stor skala. Vi ser detta i användningen av automatiserade HR-screening och anställningssystem som föredrar manliga kandidater på grund av historiska bias i data.

En brist på mångfald på alla nivåer innebär att beslut om vilka typer av AI-system som byggs, hur de distribueras, vilka perspektiv och behov de tillgodoser och vilka de inte tillgodoser, dikteras av en alltmer isolerad grupp. Detta är dåligt för alla. Mångfaldiga ledningsgrupper driver bättre affärsresultat. Mångfaldiga produktteam levererar AI-lösningar som är mer robusta, resilienta och fungerar bättre.

I slutändan, om AI-system inte tillgodoser perspektiven och behoven hos kvinnor (eller någon annan underrepresenterad demografisk grupp) eller visar sig vara aktivt skadliga, vad är incitamentet för antagande? Förutom, naturligtvis, att dessa system kommer att distribueras med eller utan vår medverkan. Genom att inkludera mångfaldiga röster och genomdriva AI-styrning är det möjligt att leverera på AI:s löfte.

Med tanke på SAS senaste innovationer – som AI-agenter inom SAS Viya, intelligenta beslutsramverk, syntetisk dataverktyg som Data Maker och anpassade AI-modeller – hur omprövar företag sina ledningspipeliner för att höja både AI-fluens och jämställdhet?

Företag inser att omfattningen och påverkan av dessa tillämpningar överstiger kapaciteten hos någon enskild beslutsfattare eller utförare. Att distribuera avancerad AI framgångsrikt beror på förtroendet och engagemanget hos “byn”. De potentiella problemen och fallgroparna är alltför breda för att någon ledare ska kunna hantera dem effektivt på egen hand.

I erkänsla av denna verklighet, lutar sig ledande AI-företag mot deltagande design- och styrningspraxis. I denna modell, förbättras fluens och jämställdhet inte av formella litteracitets- och utbildningsprogram eller av HR-initiativ ensam. Utan av den kunskapsdelning och kollektiva beslutsfattning som sker när man bringar samman mångfaldiga perspektiv från hela företagets ekosystem. Dessa samarbeten är inte begränsade strikt till beslutsfattare, utan inkluderar aktivt de människor vars arbete kommer att påverkas av det AI-system som övervägs. Medan det primärt är domänen för offentliga och statliga byråer idag, har vissa organisationer aktivt engagerat externa intressenter, inklusive kundgrupper och allmänintresseorganisationer.

Vilka praktiska steg kan blivande ledare – särskilt kvinnor – ta idag för att bygga trovärdighet och agenti i en alltmer AI-driven marknad?

Först är att erkänna att vi har agenti. Varje individ har möjligheten att påverka utvecklingen av AI på ett antal sätt: genom den medvetna konsumtionen och användningen av särskilda AI-verktyg; genom advokatverksamhet och kollektivt engagemang i samhällsforum och lokal politik; genom att ansluta sig till anställdas intressegrupper eller samhällschampionnätverk (och om dessa inte existerar, genom att starta ett); och genom att höja handen för att delta i AI-program eller leda initiativ på jobbet.

Andra är att investera i din egen litteracitet på vilken nivå som helst som är meningsfull för dig. Det finns många online-resurser som spänner från kurser om AI-styrning och etik till online-college-nivå-introduktionsklasser som täcker hela spektrumet av AI-kapaciteter. Många av dessa alternativ tillhandahålls gratis eller för nominella avgifter.

Slutligen, anslut och bidra aktivt till AI-branschens eller specialintresse-nätverksgrupper. Dessa erbjuder en möjlighet att inte bara dela kunskap, utan också kurera relationer som kan ge mentorering, allianser och trovärdighet när du bygger din expertis och ditt nätverk.

Du har länge betonat kulturell transformation, datastyrning och ansvarsfull tillämpning av teknologi. Hur stödjer dessa grundläggande element utvecklingen av AI-klara ledare?

Det traditionella svaret är att dessa grundläggande element utrustar ledare med verktygen för att hantera komplexitet, hantera risk, sänka kostnader och öka produktivitet. Alla dessa resultat är sanna, men den mest underapprecierade fördelen med dessa metoder är förtroende.

När de görs rätt, skapar dessa element en miljö där anställda kan experimentera och innovativa med förtroende inom ramen för företagets etiska, juridiska och affärsmässiga etos.

Detta är särskilt viktigt eftersom tillgängliga lösningar spänner från personliga produktivitetsverktyg till utvecklade, inbäddade arbetsflöden. Beslut om AI-användning sker inte bara i styrelserummet eller i sammanhanget med ett formellt AI-projekt. Från utveckling till utforskning till distribution och bortom, en mängd samverkande faktorer påverkar hur systemet fungerar och uppfattas.

Responsiv vägledning möjliggör för individer och team på alla nivåer att aktivt experimentera, fatta beslut i tid om huruvida och hur man ska främja lösningar och bygga bättre inom ramen för ett system av regler.

IDC och SAS genomförde nyligen en undersökning om länken mellan ansvarsfulla AI-praxis, förtroende och värdeskapande. Ansvarsfull innovation är inte en teoretisk godhet, utan alltmer en ekonomisk imperativ.

Från samtal på din Pondering AI-podcast, vilka insikter om ansvarsfullt, inkluderande ledarskap står ut som mest kritiska för organisationer som navigerar AI-transformation?

Språket för AI är knepigt. Vi talar om AI-system som tänker, hallucinerar och till och med missköter sig. Vi konceptualiserar AI-system som lagkamrater eller kollegor. Som sådan är det frestande att överföra antaganden och förväntningar från människor till AI. Därigenom förlorar vi fokus på mänskligt ansvar, deltagande och ansvarsfull användning. Vi döljer också den rigor som krävs för att leverera robusta, resilienta AI-system som, när de görs väl, verkar enkla.

Detta gör det kritiskt att centra vår förståelse av AI som en mänsklig strävan. Trots antropomorfa berättelser, reflekterar AI-system alltid värderingarna och avsikterna hos deras skapare: de problem vi väljer att lösa, de tekniker eller modeller vi tillämpar, de data vi använder för utbildning och hur användare interagerar med systemet. Varje AI-system är produkten av dessa mänskliga beslut.

Förtroende och tillit till AI-system kommer inte från AI. Människor bestämmer slutligen om att automatisera eller förstärka en persons jobb. Det är inte systemet som bestämmer vilken nivå av noggrannhet eller förklarbarhet som är tillräcklig. Det är inte AI som bestämmer den mest lämpliga användarinteraktionsmodellen. När en chatbot missköter sig, påverkar det inte AI; det försämrar varumärket och resultatet för företaget som använder AI.

Därför är mänsklig AI nyckeln.

Många organisationer har avancerade AI-verktyg – men kämpar fortfarande med kultur, styrning och inkludering. Från din erfarenhet, vilka ingrepp eller attityder hjälper organisationer att överbrygga den klyftan effektivt?

AI, som många nya tekniker, är föremål för att falla i samma hype-cykel som dess föregångare. Under den stora data-eran var att bli data-driven allt som var modernt. Få organisationer levererade på sin vision. De som gjorde det var disciplinerade i att lösa identifierbara problem, såsom att minska leveranstider för X eller möjliggöra självbetjäning för Y. Det är ingen tillfällighet att många av dessa företag nu är branschledare inom AI.

När man identifierar AI-initiativ, börja med tydliga affärsmål och mätbara resultat, sedan identifiera vilka tillgängliga AI-tekniker som är lämpliga för ändamålet. Motstå frestelsen att vara flashig. Innovativa lösningar på tråkiga problem betalar till slut ut. Hantera tråkiga, upprepade processer och uppgifter som sker i stor skala.

Man kommer inte alltid att lyckas. Men genom att fokusera uppmärksamheten och investeringen med affärsresultatet i åtanke, tillåter det den högsta sannolikheten för framgång.

När AI-system blir mer autonoma och inbäddade i beslutsfattande – genom verktyg som AI-agenter och co-pilot-hjälpmedel – vilka etiska räcken eller styrningsstrukturer tror du är essentiella för att upprätthålla förtroende, transparens och jämställdhet i ledarskap?

På SAS definierar vi AI-styrning genom linsen för tillsyn, regelefterlevnad, drift och kultur. Oavsett vilken ram du antar, finns det två faktorer jag skulle understryka.

Den första är att varje AI-tillämpning, även om den byggs på samma underliggande modell eller datauppsättning, måste utvärderas oberoende och kontinuerligt. Vad som fungerar för marknadsföring kan inte fungera för finans. En acceptabel hallucinationsfrekvens (dvs. fel) för anställda kommer inte att vara effektiv i kundinteraktioner. Dessutom kan förändringar i användarbetende, underliggande dataflöde och en mängd andra faktorer snabbt förändra ett AI-systems beteende och utdata.

Den andra är att AI-etik och styrning inte existerar i ett vakuum. Karaktären på dessa lösningar kräver samarbete med företagsstyrning, juridisk och regleringsenlig efterlevnad, företagsriskhantering och cybersäkerhet. Genom att utnyttja och utöka dessa metoder snarare än att återuppfinna dem kan man få en bra start.

Om man ser framåt, hur ser du att ledarskapskompetenser förändras i en AI-driven värld – och vilka är konsekvenserna för organisationer som inte odlar den nya fluensen?

Jag tror att framsynthet och motståndskraft kommer att bli allt viktigare. Den snabba takten i förändring uppmuntrar ledare att kontinuerligt bedöma och anpassa affärsstrategier och taktik när tekniken utvecklas. Ledare måste bedöma värde, livskraft och risk över olika tidsramar och perspektiv. Med tanke på den sociotekniska naturen hos AI, måste dessa perspektiv alltmer inkludera inte bara aktieägare, utan också kunder, anställda och, ibland, samhället i stort. Framsynthet krävs för att navigera i detta landskap.

Motståndskraft är också en faktor i AI. Som Jordan Loewen-Colón lón elegant noterar i referens till AI-antagande och styrning: AI är en process, inte en strömbrytare. Förmågan att medvetet lära, anpassa och kontinuerligt förbättra sig samtidigt som man håller den allmänna kursen kommer att skilja ledare från resten. Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka SAS.