Kimberly Nevala, direktør for forretningsstrategier i SAS – Interview-serie

SAS er et globalt analytics- og AI-selskab, der tilbyder løsninger inden for data management, avanceret analytics og kunstig intelligens. Deres flagship-platform, SAS Viya, fremhæver hastighed, skalerbarhed og troværdig beslutningstagning for organisationer på tværs af brancher. Selskabet viser brugstilfælde i svindel-detection, markeds-optimering, IoT og risiko-styring, samt tilbyder gratis prøveversioner, træning og akademiske programmer for at støtte en bred adoption af analytics.

De har bygget deres karriere med at vejlede organisationer gennem komplekse kulturelle, strategiske og tekniske forandringer – fra management-konsulent til at lede forretnings-strategi i SAS. Hvordan har den rejse formet deres syn på, hvad det kræver for virksomheder at adoptere AI på en meningsfuld – og inklusiv – måde?

Trods den omfattende række af nye AI-kapaciteter og deres lige så seismiske konsekvenser, har de grundlæggende byggesten for at drive teknisk forandring ikke ændret sig. Selv om konsekvenserne for at gøre det forkert er blevet større.

Først og fremmest skal der være en klar formulering af organisationens værdier og prioriteringer. Sammen med en klar forståelse af, hvordan disse faktorer påvirker, hvordan medarbejdere eller kunder interagerer med brandet. Dernæst skal der være en bred forståelse af den opdykkede teknologi, herunder dens indbyggede begrænsninger og restriktioner. Til sidst skal der være indsigt i forudsigelige færdigheds-gab og barrierer for adoption baseret på ovenstående. Bemærk, at dette ikke blot omfatter teknisk ekspertise, men også forretnings-dygtighed.

Alt dette skal herefter understøttes af robust, men tilpasningsdygtig governance. Underbygget, naturligvis, af målrettet, bevidst investering i både mennesker og teknologi.

De har talt om, at AI-læsekyndighed skal nå op på niveau med essentielle ledelsesfærdigheder som strategisk tænkning og finansielt dygtighed. Hvad ser AI-fluency ud til i praksis for i dagens ledere?

Litmus-testen for praktisk fluency er ligetil. Har ledere den viden, der kræves for at intelligent spørge om en foreslået AI-løsning?

Dette betyder ikke, at ledere skal have fingrene dybt i koden. Ledere på alle niveauer skal demonstrere kontekstuel kompetence. Det betyder, at de er uddannet i de faktorer, der kan påvirke eller påvirke deres dom over en AI-system. Disse faktorer vil ændre sig afhængigt af lederens rolle. Specifikt omfanget af den beslutning, de er betroet med at træffe.

Forståeligt sagt: testen er denne: ved de, hvilke spørgsmål de skal stille? For eksempel kan en direktør identificere de menneskelige og tekniske faktorer med den største indvirkning på livskraften og risikoprofilen for en given AI-løsning? Både bredt og i en anvendt kontekst.

Endnu bedre: ved de begrænsningerne for teknologien? PR og marketing fokuserer ofte på upside, mens erfaringstræning afslører begrænsninger. Disse begrænsninger kan diktere de procedurale og tekniske guardrails, der kræves for at implementere en given AI-løsning med gevinst. I denne henseende er omfanget af, hvilken grad ledere forstår og identificerer disse begrænsninger, ofte forskellen på meningsfuld adoption og fiasko.

Hvorfor er køns-lighed i AI-ledelse så afgørende lige nu – og hvilke risici står vi over for, hvis kvinder forbliver passive adoptere snarere end aktive formere af AI’s udvikling og governance?

Jeg har den privilegium at arbejde, tale med og lære af kvinder, der arbejder på tværs af alle aspekter af AI hver dag. Sådan en ramme, der fremstiller kvinder som passive adoptere, er for mig en misvisende og barnlig forestilling. Kvinder er aktivt involveret i at lede AI-bestræbelser, omend i færre tal end vores uddannede befolkning ville antyde.

Køns-ubalance i tech er et multifacetteret problem, der forudgår AI. Der er ingen enkelt løsning, da der er mange faktorer på spil. Nogle resulterer i mindre finansiering til og/eller anerkendelse af kvinder i feltet. Det er ironisk, at kvinder, der modtager bred anerkendelse, ofte arbejder med ansvarlig eller etisk AI. Først blev deres arbejde betragtet som anti-AI, men nu bliver det genovervejet, da holdninger udvikler sig.

Uanset hvad, uden bevidst intervention risikerer vi AI-systemer, der forstærker eksisterende uligheder i stor målestok. Vi ser dette i brugen af automatiserede HR-screening og rekrutteringssystemer, der foretrækker mandlige kandidater på grund af historiske fordomme fanget i data.

En mangel på diversitet på alle niveauer betyder, at beslutninger om, hvilke AI-systemer der bygges, hvordan de implementeres, hvis perspektiver og behov de tilgodeser og hvis de ikke, dikteres af en stadig mere isoleret gruppe. Dette er dårligt for alle. Diverse ledelseshold driver bedre forretningsresultater. Diverse produkt-hold leverer AI-løsninger, der er mere robuste, resilient og fungerer bedre.

Til sidst, hvis AI-systemer ikke tilgodeser perspektiver og behov hos kvinder (eller andre underrepræsenterede demografiske grupper) eller viser sig at være aktivt skadelige, hvad er incitamentet for adoption? Bortset fra, at disse systemer vil blive implementeret med eller uden vores deltagelse. Ved at inkludere diverse stemmer og gennemføre AI-governance er det muligt at leve op til AI’s løfte.

Med SAS’s seneste innovationer – såsom AI-agenter inden for SAS Viya, intelligente beslutnings-rammer, syntetisk data-værktøj som Data Maker og brugerdefinerede AI-modeller – hvordan genovervejer virksomheder deres ledelses-pipelines for at hæve både AI-fluency og lighed?

Virksomheder erkender, at omfanget og virkningen af disse anvendelser overstiger kapaciteten af en enkelt beslutningstager eller gøremand. At implementere avanceret AI med succes afhænger af tilliden og engagementet fra “landsbyen”. De potentielle problemer og fælder er langt for bredt for en enkelt leder at kunne tackle alene.

I erkendelse af denne realitet er førende AI-virksomheder begyndt at læne sig op ad deltagende design- og governance-praksis. I denne model er fluency og lighed ikke forbedret gennem formelle litterære og træningsprogrammer alene. Men gennem viden-delings- og fælles beslutningsprocesser, der sker, når man bringer diverse perspektiver fra hele virksomhedens økosystem sammen. Disse samarbejder er ikke begrænset strengt til beslutningstagere, men inkluderer aktivt personer, hvis arbejde vil blive påvirket af AI-systemet under overvejelse. Mens det primært er domænet for offentlige og regerings-institutioner i dag, har nogle organisationer aktivt inddraget eksterne interessenter, herunder kunde-grupper og offentlige interesse-organisationer.

Hvad praktiske skridt kan aspirerende ledere – især kvinder – tage i dag for at opbygge troværdighed og handlekraft i en stadig mere AI-dreven marked?

Først og fremmest er det at erkende, at vi har handlekraft. Hver enkelt har mulighed for at påvirke AI’s udvikling på en række måder: gennem bevidst forbrug og brug af bestemte AI-værktøjer; gennem forkæmpelse og fælles engagement i fællesskabs-fora og lokale politik; ved at melde sig til medarbejder-interesse-grupper eller fællesskabs-udvalg (og hvis de ikke findes, så ved at starte et); og ved at række hånden op for at deltage i AI-programmer eller lede initiativer på arbejdspladsen.

Anden, er at investere i egen læsekyndighed på det niveau, der giver mening for en. Der findes talrige online-resourcer, der spænder fra kurser om AI-governance og etik til online-universitets-introduktions-klasser, der dækker hele spektret af AI-kapaciteter. Mange af disse muligheder tilbydes gratis eller for nominelle gebyrer.

Til sidst, slut dig til og bidrag aktivt til AI-industri- eller special-interesse-netværks-grupper. Disse giver mulighed for ikke blot at dele viden, men også at kuraterer relationer, der kan give mentor-skab, alliancer og troværdighed, mens du bygger din ekspertise og netværk.

De har længe understreget kulturel forandring, data-governance og ansvarlig adoption af teknologi. Hvordan støtter disse grundlæggende elementer udviklingen af AI-klare ledere?

Den traditionelle besvarelse er, at disse grundlag giver ledere de værktøjer, der kræves for at tackle kompleksitet, styre risiko, reducere omkostninger og øge produktivitet. Alle disse resultater er sande, men den mest underanskede fordel ved disse praksisser er tillid.

Når det er gjort rigtigt, skaber disse elementer en miljø, hvor medarbejdere kan eksperimentere og innovere med tillid inden for rammerne af virksomhedens etiske, lovmæssige og forretnings-ethos.

Dette er særligt vigtigt, da tilgængelige løsninger spænder fra personlige produktivitets-værktøjer til ingeniørerede, indbyggede arbejdsgange. Beslutninger om AI-brug sker ikke kun i bestyrelseslokalet eller i konteksten af et formelt AI-projekt. Fra udvikling til udforskning til implementering og derefter, påvirker en række faktorer, hvordan systemet fungerer og opfattes.

Responsiv vejledning giver individer og hold på alle niveauer mulighed for aktivt at eksperimentere, træffe beslutninger om, hvorvidt og hvordan løsninger skal fremmes, og bygge bedre inden for rammerne af en system af reguleringer.

Dette direkte link mellem ansvarlig, tilpasningsdygtig innovation og governance er ikke længere en hypotese. IDC og SAS har nylig foretaget forskning på sammenhængen mellem ansvarlige AI-praksisser, tillid og værdi-realisation. Ansvarlig innovation er ikke et teoretisk gode, men stadig mere en økonomisk imperativ.

Fra samtaler på hendes Pondering AI-podcast, hvilke indsighter om ansvarlig, inklusiv ledelse står ud som mest kritiske for organisationer, der navigerer AI-forandring?

Sproget omkring AI er svært. Vi taler om AI-systemer, der tænker, hallucinerer og endda misbehaver sig. Vi forestiller os AI-systemer som team-medlemmer eller kolleger. Derfor er det fristende at overføre antagelser og forventninger fra mennesker til AI. Derved mister vi fokus på menneskelig ansvarlighed, deltagelse og ansvarlig brug. Vi obscurer også den rigor, der kræves for at levere robuste, resilient AI-systemer, der, når de er gjort godt, ser simple ud.

Dette gør det kritisk at centrer vores forståelse af AI som en menneskelig aktivitet. Trods anthropomorfiske narrativer er AI-systemer altid et produkt af menneskelige beslutninger: de problemer, vi vælger at løse, de teknikker eller modeller, vi anvender, de data, vi bruger til træning, og hvordan brugere interagerer med systemet. Hvert AI-system er et produkt af disse menneskelige beslutninger.

Tillid og tillid til AI-systemer kommer ikke fra AI. Mennesker beslutter ultimativt, om at automatisere eller augmentere en persons job. Det er ikke systemet, der bestemmer, hvilket niveau af nøjagtighed eller forklarbarhed er tilstrækkeligt. Det er ikke AI, der bestemmer den mest passende bruger-interaktionsmodel. Når en chatbot misbehaver sig, påvirker det ikke AI; det nedgrader brandet og bundlinjen for virksomheden, der anvender AI.

Derfor er menneske-centreret AI nøgle.

Mange organisationer har avancerede AI-værktøjs-sæt – men kæmper stadig med kultur, governance og inklusion. Fra hendes erfaring, hvilke interventioner eller holdninger hjælper organisationer med at brokke denne kløft effektivt?

AI, ligesom mange andre opdykkende teknologier, er underlagt at falde i den samme hype-cyklus som dens forgængere. Under den store data-æra var det at blive data-dreven helt på mode. Få organisationer leverede på deres vision. De, der gjorde, var disciplinerede om at løse identificerbare problemer, såsom reducere fuldbyrdelsestider for X eller enable selv-service for Y. Det er ikke tilfældigt, at mange af disse samme virksomheder i dag er branchens ledere i AI.

Når man identificerer AI-initiativer, skal man starte med klare forretnings-mål og målbare resultater, derefter identificere, hvilke tilgængelige AI-teknikker er egnede til formålet. Modstå fristelsen til at være flashy. Innovative løsninger til kedelige problemer betaler til sidst dividend. Adresse kedelige, repetitive processer og opgaver, der sker i stor målestok.

Man får det ikke altid rigtigt. Men ved at fokusere ens opmærksomhed og investering med forretnings-resultatet i mente giver det den højeste sandsynlighed for succes.

Når AI-systemer bliver mere autonome og indlejret i beslutningstagning – gennem værktøjer som AI-agenter og co-pilot-assistenter – hvad etiske guardrails eller governance-strukturer tror de er essentielle for at opretholde tillid, gennemsigtighed og lighed i ledelse?

Vi definerer AI-governance i SAS gennem linserne for oversigt, compliance, operationer og kultur. Uanset hvilken ramme, man antager, er der to faktorer, jeg vil understrege.

Først og fremmest er det, at hver AI-anvendelse, selv om den er bygget på samme underliggende model eller data-sæt, skal vurderes uafhængigt og løbende. Hvad der fungerer for marketing, kan ikke fungere for finans. En acceptabel hallucinations-rate for medarbejdere vil ikke være effektiv i kunde-interaktioner. Derudover kan ændringer i bruger-adfærd, underliggende data-flow og en række andre faktorer hurtigt ændre et AI-systems adfærd og output.

Anden, er at AI-etik og governance ikke eksisterer i et vakuum. Naturen af disse løsninger nødvendiggør samarbejde med corporate governance, juridisk og regulatorisk compliance, enterprise-risiko-styring og cybersikkerhed. Ved at udnytte og udvide disse praksisser i stedet for at genopfinde dem kan give en god start.

Settende fremad, hvordan ser de ledelseskompetencerne ud til at ændre sig i en AI-dreven verden – og hvad er implikationerne for organisationer, der ikke dyrker denne nye fluency?

Jeg tror, at forsigtighed og resiliens vil blive stadig mere vigtige. Det hurtige tempo af forandring opmuntrer ledere til kontinuerligt at evaluere og tilpasse forretnings-strategier og taktikker, mens teknologien udvikler sig. Ledere må evaluere værdi, livskraft og risiko på tværs af forskellige tids-horisonter og perspektiver. Givet den socio-tekniske natur af AI, må disse perspektiver stadig mere omfatte ikke blot aktionærer, men også kunder, medarbejdere og i nogle tilfælde samfundet i bred forstand. Forsigtighed er nødvendig for at navigere i dette landskab.

Resiliens er også en faktor i AI. Som Jordan Loewen-Colón eloquently bemærker i forbindelse med AI-adoption og governance: AI er en proces, ikke en kontakt. Evnen til at lære, tilpasse og kontinuerligt forbedre sig, mens man holder den generelle retning, vil differentiere ledere fra resten.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge SAS.