Kimberly Nevala, Directeur van Business Strategies bij SAS – Interview Serie

SAS is een wereldwijd analytics- en AI-bedrijf dat oplossingen biedt op het gebied van data management, geavanceerde analytics en kunstmatige intelligentie. Het vlaggenschip-platform, SAS Viya, legt de nadruk op snelheid, schaalbaarheid en betrouwbare besluitvorming voor organisaties in verschillende branches. Het bedrijf toont use cases in fraude detectie, marketing optimalisatie, IoT en risicomanagement, en biedt ook gratis proefversies, training en academische programma’s om de bredere adoptie van analytics te ondersteunen.

U hebt uw carrière opgebouwd door organisaties te begeleiden bij complexe culturele, strategische en technische transformaties – van management consulting tot het leiden van businessstrategie bij SAS. Hoe heeft die reis uw visie gevormd op wat het echt kost voor ondernemingen om AI op een betekenisvolle – en inclusieve – manier te adopteren?

Ondanks de uitgebreide reikwijdte van opkomende AI-mogelijkheden en hun eveneens seismische gevolgen, zijn de basisbouwstenen voor het aandrijven van technische transformatie niet veranderd. Hoewel de gevolgen voor het verkeerd doen ervan wel zijn veranderd.

Eerst moet er een duidelijke articulatie zijn van de waarden en prioriteiten van de organisatie. Samen met een duidelijk begrip van hoe deze factoren de manier beïnvloeden waarop medewerkers of klanten met het merk omgaan. Vervolgens moet er een breed begrip zijn van de opkomende technologie, inclusief de inherente beperkingen en beperkingen ervan. Ten slotte moet er zicht zijn op voorzienbare vaardigheidskloven en barrières voor adoptie op basis van één en twee hierboven. Dit is niet beperkt tot technische expertise, maar ook tot businesskennis.

Alles moet dan worden ondersteund door robuuste maar adaptieve governance. Ondersteund, natuurlijk, door gerichte, bewuste investeringen in zowel mensen als technologie.

U hebt gesproken over AI-geletterdheid die stijgt tot het niveau van essentiële leiderschapsvaardigheden zoals strategisch denken en financieel inzicht. Wat ziet AI-beheersing er in de praktijk uit voor de leiders van vandaag?

De lakmoesproef voor praktische beheersing is eenvoudig. Hebben uw leiders de kennis die nodig is om een voorgestelde AI-oplossing intelligent te ondervragen?

Dit betekent niet dat leiders diep in de code moeten duiken. Leiders op alle niveaus moeten contextuele competentie demonstreren. Dat wil zeggen dat ze zijn opgeleid in de factoren die hun oordeel over een AI-systeem kunnen beïnvloeden of beïnvloeden. Deze factoren zullen veranderen op basis van de rol van de leider. Specifiek, het bereik van de beslissing die ze zijn belast met maken.

Om het simpel te zeggen, is de test deze: weten ze welke vragen ze moeten stellen? Bijvoorbeeld, kan een executive de menselijke en technische factoren identificeren met de grootste impact op de levensvatbaarheid en risicoprofiel van een bepaalde AI-oplossing? Zowel in het algemeen als in een toegepast kader.

Nog beter: begrijpen ze de beperkingen van de technologie? PR en marketing heeft de neiging om de upside te benadrukken, terwijl experientieel trainen de beperkingen blootlegt. Deze beperkingen kunnen de procedurele en technische guardrails dicteren die nodig zijn om een bepaalde AI-oplossing winstgevend te implementeren. In dit opzicht is de mate waarin leiders deze beperkingen begrijpen en identificeren vaak het verschil tussen betekenisvolle adoptie en mislukking.

Waarom is gendergelijkheid in AI-leiderschap zo’n cruciaal onderwerp op dit moment – en welke risico’s lopen we als vrouwen passieve adopters blijven in plaats van actieve vormers van de ontwikkeling en governance van AI?

Ik heb het voorrecht om te werken, te spreken en te leren van vrouwen die in alle aspecten van AI werken. Dus, het kader van vrouwen als passieve adopters roept voor mij beelden op die kinderlijk en misleidend zijn. Vrouwen zijn actief betrokken bij het leiden van AI-inspanningen, hoewel in kleinere aantallen dan onze opgeleide bevolking zou aangeven.

Geslachtsongelijkheid in tech is een multifacetteerd probleem dat aan AI voorafgaat. Er is geen enkele oplossing, omdat er veel factoren in het spel zijn. Sommige resulteren in minder financiering voor en/of erkenning van vrouwen in het veld. Het is ironisch dat vrouwen die brede erkenning ontvangen, vaak werken aan verantwoorde of ethische AI. Aanvankelijk gelabeld als anti-AI, wordt hun werk nu opnieuw overwogen naarmate de attitudes evolueren.

Ongeacht, zonder doelgerichte interventie, lopen we het risico dat AI-systemen bestaande ongelijkheden op grote schaal verergeren. We zien dit in het gebruik van geautomatiseerde HR-screener- en wervingsystemen die mannelijke kandidaten prefereren vanwege historische vooroordelen die in de data zijn opgenomen.

Een gebrek aan diversiteit op alle niveaus betekent dat beslissingen over welke soorten AI-systemen worden gebouwd, hoe ze worden geïmplementeerd, wiens perspectieven en behoeften ze aanpakken en wiens ze niet, worden gedicteerd door een steeds meer geïsoleerde groep. Dit is slecht voor iedereen. Diverse managementteams drijven betere bedrijfsresultaten. Diverse productteams leveren AI-oplossingen die robuuster, veerkrachtiger en beter werken.

Uiteindelijk, als AI-systemen de perspectieven en behoeften van vrouwen (of enige andere onderbediende demografische groep) niet aanpakken of actief schadelijk blijken te zijn, wat is dan de stimulans voor adoptie? Behalve, natuurlijk, dat deze systemen met of zonder onze deelname worden geïmplementeerd. Door diverse stemmen op te nemen en AI-governance af te dwingen, is het mogelijk om de belofte van AI waar te maken.

Gezien de laatste innovaties van SAS – zoals AI-agents binnen SAS Viya, intelligente beslissingskaders, synthetische datatools zoals Data Maker en aangepaste AI-modellen – hoe denken ondernemingen na over hun leiderschaps pijplijn om zowel AI-beheersing als gelijkheid te verhogen?

Ondernemingen realiseren zich dat het bereik en de impact van deze toepassingen de capaciteit van enige enkele beslissingsmaker of doener overstijgen. Het succesvol implementeren van geavanceerde AI hangt af van het vertrouwen en de betrokkenheid van de “dorpsgemeenschap”. De potentiële problemen en valkuilen zijn veel te breed voor enige leider om effectief aan te pakken.

In erkenning van deze realiteit, leunen toonaangevende AI-ondernemingen op participatieve ontwerp- en governancepraktijken. In dit model worden beheersing en gelijkheid niet verhoogd door formele geletterdheids- en trainingsprogramma’s noch door HR-initiatieven alleen. Maar door de kennisdeling en collectieve besluitvorming die plaatsvindt wanneer diverse perspectieven uit het hele bedrijfsecosysteem samen worden gebracht. Deze samenwerkingen zijn niet beperkt tot beslissingsmakers, maar omvatten actief de mensen wiens werk door het AI-systeem onder consideration zal worden beïnvloed. Hoewel voornamelijk het domein van overheids- en overheidsagentschappen vandaag, hebben sommige organisaties externe stakeholders, waaronder klantengroepen en publieke belangengroepen, actief betrokken.

Wat zijn de praktische stappen die aspirant-leiders – vooral vrouwen – vandaag kunnen nemen om geloofwaardigheid en agentie op te bouwen in een steeds meer AI-gedreven markt?

Ten eerste is het erkennen dat we agentie hebben. Elk individu heeft de mogelijkheid om de ontwikkeling van AI op een aantal manieren te beïnvloeden: door de doelgerichte consumptie en het gebruik van specifieke AI-hulpmiddelen; door voorstander en collectieve betrokkenheid in gemeenschapsforums en lokale politiek; door deel te nemen aan werknemersbelangengroepen of gemeenschapschampionsnetwerken (en als die niet bestaan, door er een te starten); en door je hand op te steken om deel te nemen aan AI-programma’s of initiatieven te leiden op het werk.

Ten tweede is het investeren in uw eigen geletterdheid op welk niveau dan ook dat voor u zinvol is. Er zijn talloze online bronnen die variëren van cursussen over AI-governance en ethiek tot online college-niveau introductielessen die het volledige spectrum van AI-mogelijkheden behandelen. Veel van deze opties worden aangeboden voor gratis of voor een nominaal bedrag.

Ten slotte, sluit u zich aan en draagt u actief bij aan de AI-industrie of speciale belangengroepen. Deze bieden de mogelijkheid om niet alleen kennis te delen, maar ook relaties te cultiveren die mentorship, allianties en geloofwaardigheid kunnen bieden terwijl u uw expertise en uw netwerk opbouwt.

U hebt altijd benadrukt dat culturele transformatie, data governance en verantwoorde adoptie van technologie essentieel zijn. Hoe ondersteunen deze fundamenten de ontwikkeling van AI-klaar leiders?

Het traditionele antwoord is dat deze fundamenten leiders de middelen geven om complexiteit aan te pakken, risico’s te beperken, kosten te verlagen en productiviteit te verhogen. Al deze resultaten zijn waar, maar het meest onderschatte voordeel van deze praktijken is vertrouwen.

Als het goed wordt gedaan, creëren deze elementen een omgeving waarin medewerkers met vertrouwen kunnen experimenteren en innoveren binnen de grenzen van de ethiek, het recht en de bedrijfsfilosofie van het bedrijf.

Dit is vooral belangrijk omdat beschikbare oplossingen variëren van persoonlijke productiviteitstools tot geëngineerde, ingebedde workflows. Beslissingen over AI-gebruik vinden niet alleen plaats in de boardroom of in de context van een formeel AI-project. Van ontwikkeling tot exploratie tot implementatie en verder, een veelvoud van factoren beïnvloedt hoe het systeem presteert en wordt waargenomen.

Responsieve richtlijnen maken het mogelijk voor individuen en teams op alle niveaus om actief te experimenteren, tijdige beslissingen te nemen over of en hoe oplossingen te implementeren, en beter te bouwen binnen de grenzen van een systeem van regelgeving.

Uit uw gesprekken op uw Pondering AI-podcast, welke inzichten over verantwoorde, inclusieve leiderschap springen eruit als het meest kritiek voor organisaties die AI-transformatie navigeren?

De taal van AI is tricky. We spreken over AI-systemen die denken, hallucineren en zelfs misdragen. We conceptualiseren AI-systemen als teamleden of collega’s. Als zodanig is het verleidelijk om aannamen en verwachtingen van mensen over te dragen aan AI. Hierdoor verliezen we het focus op menselijke verantwoordelijkheid, participatie en verantwoord gebruik. We verduisteren ook de rigor die nodig is om robuuste, veerkrachtige AI-systemen te leveren, die, als ze goed worden gedaan, eenvoudig lijken.

Dit maakt het kritiek om ons begrip van AI te centreren als een inherent menselijke onderneming. Ondanks de veel voorkomende antropomorfe verhalen, weerspiegelen AI-systemen altijd de waarden en intenties van hun makers: de problemen die we kiezen om op te lossen, de technieken of modellen die we toepassen, de data die we gebruiken voor training, en hoe gebruikers met het systeem omgaan. Elk AI-systeem is het product van deze menselijke beslissingen.

Vertrouwen en vertrouwen in AI-systemen komt niet van AI. Mensen beslissen uiteindelijk om een persoonlijke taak te automatiseren of te versterken. Het is niet het systeem dat bepaalt welk niveau van nauwkeurigheid of verklaring voldoende is. Het is niet AI dat bepaalt welk gebruikersinteractiemodel het meest geschikt is. Wanneer een chatbot misdraagt, heeft het geen invloed op het AI; het degradeert het merk en de onderkant van de onderneming die het AI gebruikt.

Daarom is mensgerichte AI de sleutel.

Veel organisaties hebben geavanceerde AI-hulpmiddelen, maar worstelen nog steeds met cultuur, governance en inclusie. Uit uw ervaring, welke interventies of mentaliteiten helpen organisaties deze kloof effectief te overbruggen?

AI, zoals veel opkomende technologieën, is onderhevig aan het vallen in dezelfde hype-cyclus als zijn voorgangers. Tijdens de big data-era was het worden van een data-gedreven onderneming alle rage. Weinig ondernemingen hebben hun visie waargemaakt. Die wel, waren gedisciplineerd in het oplossen van identificeerbare problemen, zoals het verlagen van de vervullingstijden voor X of het inschakelen van selfservice voor Y. Het is geen toeval dat veel van deze ondernemingen nu industrieleiders zijn in AI.

Wanneer u AI-initiatieven identificeert, begin met duidelijke bedrijfsdoelstellingen en meetbare resultaten, en identificeer vervolgens welke beschikbare AI-technieken geschikt zijn voor het doel. Weersta de neiging om flashy te zijn. Innovatieve oplossingen voor saaie problemen betalen uiteindelijk dividend. Pak saaie, herhalende processen en taken aan die op grote schaal plaatsvinden.

U zult het niet altijd goed doen. Maar door uw aandacht en investeringen te richten met het bedrijfsresultaat in gedachten, kunt u de hoogste kans op succes hebben.

Terwijl AI-systemen meer autonoom en ingebed worden in besluitvorming – door middel van tools zoals AI-agents en copilot-assistenten – welke ethische guardrails of governance-structuren zijn essentieel om vertrouwen, transparantie en gelijkheid in leiderschap te handhaven?

Bij SAS definiëren we AI-governance door de lens van toezicht, naleving, operaties en cultuur. Ongeacht welk kader u aanneemt, zijn er twee factoren die ik zou benadrukken.

De eerste is dat elke AI-toepassing, zelfs als deze is gebouwd op hetzelfde onderliggende model of dataset, op individuele basis en op continue basis moet worden geëvalueerd. Wat werkt voor marketing, werkt mogelijk niet voor finance. Een acceptabele hallucinatie, aka fout, voor werknemers zal niet effectief zijn in klantinteracties. Bovendien kunnen verschuivingen in gebruikersgedrag, onderliggende datastroom en een veelvoud van andere factoren het gedrag en de output van een AI-systeem snel veranderen.

De tweede is dat AI-ethiek en governance niet in een vacuüm bestaan. De aard van deze oplossingen vereist samenwerking met corporate governance, juridische en regelgevende compliance, enterprise risk management en cybersecurity. Het benutten en uitbreiden van deze praktijken in plaats van ze opnieuw uit te vinden, kan een vliegende start geven.

Kijkend naar de toekomst, hoe ziet u de veranderingen in leiderschapscompetenties in een AI-gedreven wereld – en wat zijn de implicaties voor organisaties die deze nieuwe beheersing niet cultiveren?

Ik geloof dat vooruitziendheid en veerkracht steeds belangrijker zullen worden. Het snelle tempo van verandering moedigt leiders aan om continu bedrijfsstrategieën en tactieken te beoordelen en aan te passen naarmate de technologie evolueert. Leiders moeten waarde, levensvatbaarheid en risico beoordelen over verschillende tijdsperioden en perspectieven. Gezien de sociotechnische aard van AI, moeten deze perspectieven steeds vaker niet alleen aandeelhouders, maar ook klanten, medewerkers en soms de samenleving als geheel omvatten. Vooruitziendheid is nodig om deze landschap te navigeren.

Veerkracht is ook een factor in AI. Zoals Jordan Loewen-Colón eloquently notes in reference to AI adoption and governance: AI is a process not a switch. The ability to intentionally learn, adapt and continuously improve while staying the general course will differentiate leaders from the rest.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten bezoeken SAS.