Kimberly Nevala, Direttore delle Strategie Aziendali presso SAS – Serie di Interviste

SAS è una società globale di analisi e intelligenza artificiale che offre soluzioni in gestione dei dati, analisi avanzate e intelligenza artificiale. La sua piattaforma principale, SAS Viya, enfatizza la velocità, la scalabilità e la decisione affidabile per le organizzazioni di tutti i settori. La società presenta casi di studio in rilevamento di frodi, ottimizzazione del marketing, IoT e gestione del rischio, oltre a fornire prove gratuite, formazione e programmi accademici per supportare l’adozione generalizzata dell’analisi.

Hai costruito la tua carriera guidando organizzazioni attraverso complesse trasformazioni culturali, strategiche e tecniche – dalla consulenza gestionale alla guida della strategia aziendale presso SAS. Come ha plasmato il tuo punto di vista su cosa richiede veramente alle imprese adottare l’AI in modo significativo e inclusivo?

Nonostante l’ampio ambito delle capacità AI emergenti e delle loro conseguenze altrettanto sismiche, i blocchi fondamentali per guidare la trasformazione tecnica non sono cambiati. Sebbene le conseguenze per l’errore siano cambiate.

Innanzitutto, è necessaria una chiara articolazione dei valori e delle priorità dell’organizzazione. Insieme a una chiara comprensione di come questi fattori influenzano il modo in cui i dipendenti o i clienti interagiscono con il marchio. Successivamente, è necessaria una vasta comprensione della tecnologia emergente, comprese le sue limitazioni e vincoli intrinseci. Infine, la visibilità delle lacune di competenze e degli ostacoli all’adozione basati su uno e due sopra. Nota che ciò non è limitato solo alla competenza tecnica, ma anche all’acume aziendale.

Tutto ciò deve essere poi supportato da una governance robusta ma adattiva. Sostenuta, naturalmente, da investimenti mirati e deliberati sia nelle persone che nella tecnologia.

Hai parlato dell’alfabetizzazione AI che sale al livello di competenze di leadership essenziali come il pensiero strategico e l’acume finanziario. Cosa significa la fluency AI nella pratica per i leader di oggi?

Il test di praticità è semplice. I leader hanno le conoscenze necessarie per interrogare intelligentemente una soluzione AI proposta?

Questo non significa che i leader debbano addentrarsi nel codice. Piuttosto, i leader a tutti i livelli dovrebbero dimostrare la competenza contestuale. Ciò significa che sono istruiti nei fattori che potrebbero impattare o influenzare il loro giudizio su un sistema AI. Questi fattori cambieranno in base al ruolo del leader. In particolare, l’ambito della decisione che sono incaricati di prendere.

Detto semplicemente, il test è questo: sanno quali domande fare? Ad esempio, può un dirigente identificare i fattori umani e tecnici con l’impatto più grande sulla fattibilità e sul profilo di rischio di una data soluzione AI? Sia in generale che in un contesto applicato.

Meglio ancora: capiscono i limiti della tecnologia? Il PR e il marketing tendono a concentrarsi sul lato positivo, mentre la formazione basata sull’esperienza espone i limiti. Questi limiti possono dettare le barriere procedurali e tecniche necessarie per distribuire una data soluzione AI in modo proficuo. In questo senso, la misura in cui i leader comprendono e identificano tali limiti è spesso la differenza tra un’adozione significativa e il fallimento.

Perché l’equità di genere nella leadership AI è una questione così cruciale in questo momento – e quali rischi corriamo se le donne rimangono adottanti passive piuttosto che plasmare lo sviluppo e la governance dell’AI?

Sono privilegiata di lavorare, parlare con e imparare da donne che lavorano in tutti gli aspetti dell’AI ogni giorno. Quindi, la cornice delle donne come adottanti passive, per me, evoca immagini che sono ingannevoli e infantili. Le donne sono attivamente coinvolte nella guida degli sforzi AI, sebbene in numero inferiore rispetto alla nostra popolazione istruita.

La disuguaglianza di genere nella tecnologia è un problema multifacético che precede l’AI. Non c’è una sola soluzione, poiché ci sono numerosi fattori in gioco. Alcuni risultano in meno finanziamenti per e/o riconoscimento delle donne nel campo. Rendendolo dolorosamente ironico che le donne che ricevono un ampio riconoscimento stanno spesso lavorando in AI responsabile o etica. Inizialmente etichettate come anti-AI, il loro lavoro sta ora essere riconsiderato man mano che le attitudini evolvono.

Indipendentemente, senza un intervento deliberato, rischiamo che i sistemi AI esacerbino le disuguaglianze esistenti su larga scala. Vediamo questo nell’uso di sistemi di selezione e assunzione automatizzati che preferiscono i candidati maschi a causa dei pregiudizi storici catturati nei dati.

La mancanza di diversità a tutti i livelli significa che le decisioni riguardanti i tipi di sistemi AI da costruire, come vengono distribuiti, quali prospettive e necessità affrontano e quali no, sono dettate da un gruppo sempre più insulare. Ciò è negativo per tutti. Le squadre di gestione diverse guidano risultati aziendali migliori. Le squadre di prodotto diverse forniscono soluzioni AI più robuste, resilienti e funzionali.

Nel finale, se i sistemi AI non affrontano le prospettive e le necessità delle donne (o di qualsiasi altro demografico sottoservito) o sono dimostrati essere attivamente dannosi, quale è l’incentivo per l’adozione? A meno che, naturalmente, questi sistemi vengano distribuiti con o senza la nostra partecipazione. Includendo voci diverse e applicando la governance AI è possibile mantenere la promessa dell’AI.

Considerando le ultime innovazioni di SAS – come gli agenti AI all’interno di SAS Viya, i framework di decision-making intelligente, gli strumenti di dati sintetici come Data Maker e i modelli AI personalizzati – come le imprese stanno ripensando le loro pipeline di leadership per elevare sia la fluency AI che l’equità?

Le imprese stanno realizzando che l’ambito e l’impatto di queste applicazioni superano la capacità di qualsiasi singolo decisore o attore. Il deploy di soluzioni AI di successo dipende dalla fiducia e dall’impegno della “comunità”. I potenziali problemi e trabocchetti sono troppo ampi perché un leader possa affrontarli efficacemente da solo.

Nel riconoscimento di questa realtà, le imprese leader AI stanno adottando pratiche di progettazione e governance partecipative. In questo modello, la fluency e l’equità non vengono migliorate solo dai programmi di alfabetizzazione formale e dalle iniziative HR. Ma dalla condivisione delle conoscenze e dalla presa di decisioni collettiva che si verificano quando si riuniscono prospettive diverse da tutto l’ecosistema aziendale. Queste collaborazioni non sono limitate strettamente ai decisori, ma includono attivamente le persone il cui lavoro sarà influenzato dal sistema AI in considerazione. Sebbene principalmente nel dominio delle agenzie pubbliche e governative oggi, alcune organizzazioni hanno attivamente coinvolto stakeholder esterni, tra cui gruppi di clienti e organizzazioni di interesse pubblico.

Quali passi pratici possono intraprendere i leader aspiranti – in particolare le donne – per costruire credibilità e agenzia in un mercato sempre più guidato dall’AI?

Primo, riconoscere che abbiamo l’agenzia. Ogni individuo ha l’opportunità di influenzare lo sviluppo dell’AI in una serie di modi: attraverso il consumo e l’uso deliberato di particolari strumenti AI; attraverso l’advocacy e l’impegno collettivo in forum comunitari e politica locale; unendosi a gruppi di interesse degli dipendenti o reti di campioni della comunità (e se questi non esistono, creandone uno); e alzando la mano per partecipare ai programmi AI o guidare le iniziative sul posto di lavoro.

Secondo, investire nella propria alfabetizzazione a qualsiasi livello che abbia senso. Ci sono numerose risorse online che coprono corsi di alfabetizzazione AI, governance ed etica, a classi universitarie introduttive online che coprono l’intero spettro delle capacità AI. Molti di questi sono forniti gratuitamente o a carico nominale.

Infine, unirsi e contribuire attivamente ai gruppi di networking dell’industria AI o di interesse speciale. Questi forniscono l’opportunità non solo di condividere la conoscenza, ma di curare relazioni che possono fornire mentoraggio, alleanze e credibilità mentre si costruisce la propria esperienza e la propria rete.

Hai sempre sottolineato la trasformazione culturale, la governance dei dati e l’adozione responsabile della tecnologia. Come questi elementi fondamentali supportano lo sviluppo di leader pronti all’AI?

La risposta tradizionale è che queste fondamenta forniscono ai leader gli strumenti per affrontare la complessità, gestire il rischio, ridurre i costi e aumentare la produttività. Tutti questi risultati sono veri, tuttavia, il beneficio più sottovalutato di queste pratiche è la fiducia.

Fatte correttamente, questi elementi creano un ambiente in cui i dipendenti possono sperimentare e innovare con fiducia all’interno dei confini dell’etica, legale e aziendale dell’azienda.

Questo è particolarmente importante poiché le soluzioni disponibili vanno dagli strumenti di produttività personale ai flussi di lavoro ingegnerizzati e incorporati. Le decisioni sull’uso dell’AI non si verificano solo nella sala riunioni o nel contesto di un progetto AI formale. Dalla progettazione all’esplorazione alla distribuzione e oltre, una miriade di fattori complessi influenza come il sistema si esegue e viene percepito.

La guida responsiva consente agli individui e alle squadre a tutti i livelli di sperimentare attivamente, prendere decisioni tempestive su come avanzare le soluzioni e costruire meglio all’interno dei confini di un sistema di regolamenti.

Dal tuo podcast Pondering AI, quali insight sulla leadership responsabile e inclusiva si distinguono come più critici per le organizzazioni che navigano la trasformazione AI?

Il linguaggio dell’AI è ingannevole. Parliamo di sistemi AI che pensano, si illudono e addirittura si comportano male. Concettualizziamo i sistemi AI come compagni di squadra o colleghi. Di conseguenza, è tentante trasferire assunzioni e aspettative dagli umani all’AI. Così facendo, perdiamo il focus sull’accountability umana, la partecipazione e l’uso responsabile. Oscuriamo anche la rigorosità necessaria per fornire sistemi AI robusti e resilienti, che, quando fatti bene, appaiono semplici.

Questo rende critico centrare la nostra comprensione dell’AI come un’impresa umana innata. Nonostante le narrazioni antropomorfiche diffuse, i sistemi AI riflettono sempre i valori e le intenzioni dei loro creatori: i problemi che scegliamo di risolvere, le tecniche o i modelli che applichiamo, i dati che utilizziamo per l’addestramento e il modo in cui gli utenti interagiscono con il sistema. Ogni sistema AI è il prodotto di queste decisioni umane.

La fiducia e la fiducia nei sistemi AI non provengono dall’AI. Gli esseri umani decidono ultimately di automatizzare o aumentare il lavoro di una persona. Non è il sistema che determina quale livello di accuratezza o spiegabilità sia sufficiente. Non è l’AI che determina il modello di interazione dell’utente più appropriato. Quando un chatbot si comporta male, non influisce sull’AI; degrada il marchio e il bottom line dell’azienda che utilizza l’AI.

Pertanto, l’AI centrata sull’uomo è fondamentale.

Molte organizzazioni hanno set di strumenti AI avanzati, ma ancora lottano con la cultura, la governance e l’inclusione. Dalla tua esperienza, quali interventi o mentalità aiutano le organizzazioni a colmare quel divario in modo efficace?

AI, come molte tecnologie emergenti, è soggetta a cadere nello stesso ciclo di hype dei suoi predecessori. Durante l’era dei big data, diventare guidati dai dati era tutto il rage. Pochi hanno realizzato la loro visione. Coloro che l’hanno fatto sono stati disciplinati nel risolvere problemi identificabili come ridurre i tempi di evasione per X o abilitare il self-service per Y. Non è una coincidenza che molte di quelle stesse aziende siano ora leader di settore nell’AI.

Quando si identificano le iniziative AI, iniziare con obiettivi aziendali chiari e risultati misurabili, quindi identificare quali tecniche AI disponibili sono adatte allo scopo. Resiste alla tentazione di essere appariscenti. Soluzioni innovative a problemi noiosi alla fine pagano i dividendi. Affronta processi e attività ripetitivi e noiosi che si verificano su larga scala.

Non otterrai sempre il successo. Ma concentrandoti l’attenzione e l’investimento con il risultato aziendale in mente, si consente la più alta probabilità di successo.

Man mano che i sistemi AI diventano più autonomi e incorporati nella presa di decisioni – attraverso strumenti come gli agenti AI e gli assistenti copilota – quali paratie etiche o strutture di governance ritieni essenziali per mantenere la fiducia, la trasparenza e l’equità nella leadership?

In SAS, definiamo la governance AI attraverso la lente della supervisione, della conformità, delle operazioni e della cultura. Indipendentemente da quale framework si adotti, ci sono due fattori che sottolineerei.

Il primo è che ogni applicazione AI, anche se costruita sulla stessa base di modello o set di dati, deve essere valutata indipendentemente e continuamente. Ciò che funziona per il marketing potrebbe non funzionare per le finanze. Un tasso di errore accettabile per i dipendenti non sarà efficace nelle interazioni con i clienti. Inoltre, a causa della loro natura probabilistica, gli spostamenti nel comportamento dell’utente, nel flusso di dati di base e in una miriade di altri fattori possono rapidamente cambiare il comportamento e gli output del sistema AI.

Il secondo è che l’etica e la governance AI non esistono nel vuoto. La natura di queste soluzioni richiede la collaborazione con la governance aziendale, la conformità legale e normativa, la gestione del rischio aziendale e la sicurezza informatica. Sfruttando e ampliando queste pratiche piuttosto che reinventarle può fornire un buon inizio.

Guardando avanti, come vedi cambiare le competenze di leadership in un mondo guidato dall’AI – e quali sono le implicazioni per le organizzazioni che non coltivano quella nuova fluency?

Credo che la preveggenza e la resilienza diventeranno sempre più importanti. Il rapido ritmo di cambiamento incoraggia i leader a valutare e adattare continuamente le strategie e le tattiche aziendali man mano che la tecnologia evolve. I leader devono valutare il valore, la fattibilità e il rischio su diversi orizzonti temporali e prospettive. Date le caratteristiche sociotecnologiche dell’AI, queste prospettive devono includere sempre più non solo gli azionisti, ma anche i clienti, i dipendenti e, a volte, la società nel suo complesso. La preveggenza è necessaria per navigare questo paesaggio.

La resilienza è anche un fattore nell’AI. Come Jordan Loewen-Colón eloquente nota in riferimento all’adozione e alla governance dell’AI: l’AI è un processo, non un interruttore. La capacità di imparare intenzionalmente, adattarsi e migliorare continuamente restando nel corso generale differenzierà i leader dal resto.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare SAS.