Kimberly Nevala, Director de Strategii de Afaceri la SAS – Seria de Interviuri

SAS este o companie globală de analize și inteligență artificială care oferă soluții în managementul datelor, analize avansate și inteligență artificială. Platforma sa emblematică, SAS Viya, pune accentul pe viteză, scalabilitate și luarea deciziilor de încredere pentru organizații din diverse industrii. Compania prezintă studii de caz în detectarea fraudelor, optimizarea marketingului, IoT și gestionarea riscurilor, oferind în același timp încercări gratuite, training și programe academice pentru a sprijini adoptarea largă a analizei.

Ai construit o carieră ghidând organizații prin transformări complexe culturale, strategice și tehnice – de la consultanță de management la conducerea strategiei de afaceri la SAS. Cum v-a influențat această călătorie perspectiva asupra a ceea ce este necesar cu adevărat pentru ca întreprinderile să adopte inteligența artificială într-un mod semnificativ și incluziv?

În ciuda sferei largi a capacităților emergente de inteligență artificială și a ramificațiilor lor la fel de seismice, blocurile de bază pentru conducerea transformării tehnice nu s-au schimbat. Deși ramificațiile pentru greșeli au devenit mai severe.

În primul rând, trebuie să existe o articulare clară a valorilor și priorităților organizației. Împreună cu o înțelegere clară a modului în care acești factori influențează modul în care angajații sau clienții interacționează cu marca. Următorul pas este să existe o înțelegere largă a tehnologiei emergente, inclusiv a limitărilor și constrângerilor sale inerente. În final, vizibilitatea în ceea ce privește lacunele de abilități și barierele de adoptare bazate pe primii doi factori menționați. Notabil, acest lucru nu se limitează la expertiza tehnică, ci și la abilitățile de afaceri.

Toate acestea trebuie susținute de o guvernanță robustă, dar adaptabilă. Susținută, desigur, de investiții țintite și deliberate în oameni și tehnologie.

Ai vorbit despre alfabetizarea în inteligență artificială care ajunge la nivelul de abilități de conducere esențiale, cum ar fi gândirea strategică și priceperea financiară. Ce înseamnă fluența în inteligență artificială în practică pentru liderii de astăzi?

Testul pentru fluență practică este simplu. Au liderii cunoștințele necesare pentru a interoga inteligent o soluție propusă de inteligență artificială?

Acest lucru nu sugerează că liderii trebuie să se implice în cod. Mai degrabă, liderii la toate nivelurile ar trebui să demonstreze competență contextuală. Adică, sunt educați în factorii care ar putea influența sau afecta judecata lor asupra unui sistem de inteligență artificială. Acești factori se vor schimba în funcție de rolul liderului. În special, de sfera deciziei pe care sunt însărcinați să o ia.

Pus simplu, testul este următorul: știu ce întrebări să pună? De exemplu, poate un executiv identifica factorii umani și tehnici cu cel mai mare impact asupra viabilității și profilului de risc al unei soluții de inteligență artificială date? Atât în general, cât și într-un context aplicat.

Încă mai bine: înțeleg limitele tehnologiei? PR și marketingul tind să se concentreze pe partea pozitivă, în timp ce trainingul experiențial expune limitele. Aceste limite pot dicta gardurile procedurale și tehnice necesare pentru a implementa o soluție de inteligență artificială într-un mod avantajoas.

De ce este echitatea de gen în conducerea inteligenței artificiale o problemă atât de critică în acest moment – și ce riscuri ne confruntăm dacă femeile rămân adoptatori pasivi, în loc de a fi creatori activi ai dezvoltării și guvernanței inteligenței artificiale?

Sunt onorat să lucrez, să vorbesc și să învăț de la femei care lucrează în toate aspectele inteligenței artificiale în fiecare zi. Așa că, prezentarea femeilor ca adoptatori pasivi, pentru mine, evocă imagini care sunt copilărești și înșelătoare. Femeile sunt implicate activ în conducerea eforturilor de inteligență artificială, deși în număr mai mic decât populația noastră educată ar indica.

Inechitatea de gen în tehnologie este o problemă multifacetată care precede inteligența artificială. Nu există o singură soluție, deoarece există numeroși factori implicați. Unii duc la mai puțin finanțare pentru și/sau recunoaștere a femeilor în domeniu. Făcându-l ironic că femeile care primesc recunoaștere largă sunt adesea implicate în inteligență artificială responsabilă sau etică. Inițial etichetate ca anti-inteligență artificială, munca lor este acum reevaluată pe măsură ce atitudinile evoluează.

Indiferent, fără intervenție deliberată, riscăm sisteme de inteligență artificială care exacerbează inegalitățile existente la scară largă. Vedem acest lucru în utilizarea sistemelor automate de selecție și angajare care preferă candidații de sex masculin din cauza prejudecăților istorice capturate în date.

O lipsă de diversitate la toate nivelurile înseamnă că deciziile privind tipurile de sisteme de inteligență artificială care sunt construite, modul în care sunt implementate, ale căror perspective și nevoi sunt abordate și ale căror nu, sunt dictate de un grup din ce în ce mai izolat. Acest lucru este rău pentru toată lumea. Echipele de management diverse conduc la rezultate comerciale mai bune. Echipele de produse diverse livrează soluții de inteligență artificială care sunt mai robuste, mai rezistente și funcționează mai bine.

În final, dacă sistemele de inteligență artificială nu abordează perspectivele și nevoile femeilor (sau oricare altă demografie subreprezentată) sau sunt demonstrate a fi activ dăunătoare, ce este stimulentul pentru adoptare? Cu excepția, desigur, că aceste sisteme vor fi implementate cu sau fără participarea noastră. Prin includerea vocilor diverse și impunerea guvernanței inteligenței artificiale, este posibil să livrăm pe promisiunea inteligenței artificiale.

Având în vedere inovațiile recente ale SAS – cum ar fi agenții de inteligență artificială din SAS Viya, cadrul de decizie inteligent, instrumentele de date sintetice precum Data Maker și modelele personalizate de inteligență artificială – cum reevaluează întreprinderile conductele de conducere pentru a ridica atât fluența în inteligență artificială, cât și echitatea?

Întreprinderile realizează că sfera și impactul acestor aplicații depășesc capacitatea oricărui singur decident sau executant. Implementarea cu succes a inteligenței artificiale avansate depinde de încrederea și implicarea “satului”. Problemele și capcanele potențiale sunt mult prea largi pentru a fi abordate eficient de orice lider singur.

În recunoașterea acestei realități, întreprinderile de top în domeniul inteligenței artificiale se îndreaptă spre practici de proiectare și guvernanță participativă. În acest model, fluența și echitatea nu sunt îmbunătățite doar prin programe de alfabetizare și training formal, ci prin împărtășirea cunoștințelor și luarea deciziilor colective care au loc atunci când se aduc perspective diverse de pe întregul ecosistem al întreprinderii. Aceste colaborări nu sunt limitate strict la decidenți, ci includ activ oamenii ale căror activități vor fi afectate de sistemul de inteligență artificială în discuție. Deși în principal în domeniul de astăzi al agențiilor publice și guvernamentale, unele organizații au implicat activ și părți interesate externe, inclusiv grupuri de clienți și organizații de interes public.

Ce pași practice pot lua liderii aspiranți – în special femeile – pentru a-și construi credibilitatea și agenția într-un mediu din ce în ce mai condus de inteligență artificială?

Primul pas este să recunoaștem că avem agenție. Fiecare individ are oportunitatea de a influența dezvoltarea inteligenței artificiale într-un număr de moduri: prin consumul și utilizarea deliberată a unor instrumente de inteligență artificială; prin advocacy și implicare colectivă în forumuri comunitare și politica locală; prin alăturarea grupurilor de interes ale angajaților sau rețelelor de campioni comunitari (și, dacă acestea nu există, prin crearea lor); și prin ridicarea mâinii pentru a participa la programe de inteligență artificială sau pentru a conduce inițiative la locul de muncă.

Al doilea pas este să investești în propria alfabetizare la orice nivel care are sens pentru tine. Există numeroase resurse online care acoperă cursuri de guvernanță și etică a inteligenței artificiale, până la clase universitare introductive online care acoperă spectrul complet de capacități de inteligență artificială. Multe dintre aceste opțiuni sunt oferite gratuit sau la taxe nominale.

În final, alăturați-vă și contribuiți activ la grupurile de networking din industria inteligenței artificiale sau la grupurile de interes special. Acestea oferă oportunitatea de a împărtăși cunoștințe, dar și de a cultiva relații care pot oferi mentorat, alianțe și credibilitate pe măsură ce construiți expertiza și rețeaua dvs.

Ai subliniat întotdeauna transformarea culturală, guvernanța datelor și adoptarea responsabilă a tehnologiei. Cum sprijină aceste elemente fundamentale dezvoltarea liderilor pregătiți pentru inteligența artificială?

Răspunsul tradițional este că aceste fundații înzestrează liderii cu instrumentele necesare pentru a aborda complexitatea, a gestiona riscul, a reduce costurile și a crește productivitatea. Toate aceste rezultate sunt adevărate, însă beneficiul cel mai puțin apreciat al acestor practici este încrederea.

Realizate corect, aceste elemente creează un mediu în care angajații pot experimenta și inova cu încredere în limitele eticii, legale și de afaceri ale companiei.

Acest lucru este deosebit de important, deoarece soluțiile disponibile variază de la unelte de productivitate personală la fluxuri de lucru încorporate. Deciziile despre utilizarea inteligenței artificiale nu se iau doar în sala de consiliu sau în contextul unui proiect formal de inteligență artificială. De la dezvoltare la explorare, la implementare și dincolo, o multitudine de factori care se combină influențează modul în care sistemul funcționează și este perceput.

Îndrumarea responsivă permite indivizilor și echipelor de la toate nivelurile să experimenteze activ, să ia decizii la timp despre modul de a avansa soluții și să construiască mai bine în limitele unui sistem de reglementări.

Acest link direct între inovația responsabilă și adaptativă și guvernanță nu mai este unul ipotetic. IDC și SAS au efectuat recent o cercetare despre legătura dintre practicile responsabile de inteligență artificială, încredere și realizarea valorii. Inovația responsabilă nu este un bun teoretic, ci din ce în ce mai mult o necesitate economică.

De la conversațiile de pe podcast-ul dvs. Pondering AI, ce insight-uri despre conducerea responsabilă și incluzivă se remarcă ca fiind cele mai critice pentru organizațiile care navighează transformarea inteligenței artificiale?

Limbajul inteligenței artificiale este capcios. Vorbeam despre sisteme de inteligență artificială care gândesc, halucinează și chiar se comportă defectuos. Conceptualizăm sisteme de inteligență artificială ca parteneri sau colegi. Ca atare, este tentant să transferăm presupuneri și așteptări de la oameni la inteligența artificială. Prin urmare, pierdem focusul asupra responsabilității umane, participării și utilizării responsabile. De asemenea, obscurează rigurozitatea necesară pentru a livra sisteme de inteligență artificială robuste și rezistente, care, atunci când sunt făcute bine, par simple.

Acest lucru face ca este critic să centrăm înțelegerea noastră asupra inteligenței artificiale ca o întreprindere fundamental umană. În ciuda narativelor antropomorfice predominante, sistemele de inteligență artificială reflectă întotdeauna valorile și intențiile creatorilor lor: problemele pe care le alegem să le rezolvăm, tehnicile sau modelele pe care le aplicăm, datele pe care le folosim în antrenament și modul în care utilizatorii interacționează cu sistemul. Fiecare sistem de inteligență artificială este produsul acestor decizii umane.

Încrederea și încrederea în sistemele de inteligență artificială nu vin de la inteligența artificială. Oamenii decid în cele din urmă să automatizeze sau să îmbunătățească un loc de muncă. Nu este sistemul care determină ce nivel de acuratețe sau explicabilitate este suficient. Nu este inteligența artificială care determină cel mai potrivit model de interacțiune al utilizatorului. Când un chatbot se comportă defectuos, nu afectează inteligența artificială; degradează brandul și linia de jos a companiei care utilizează inteligența artificială.

Prin urmare, inteligența artificială centrată pe oameni este cheia.

Multe organizații au seturi de instrumente avansate de inteligență artificială, dar încă se luptă cu cultura, guvernanța și incluziunea. Din experiența dvs., ce intervenții sau mentalități ajută organizațiile să traverseze eficient această lacună?

Inteligența artificială, ca și multe tehnologii emergente, este supusă căderii în același ciclu de hype ca și predecesoarele sale. În era big data, a devenit “dată condusă” a fost toată moda. Puține organizații au livrat pe viziunea lor. Cele care au făcut-o au fost disciplinate în rezolvarea problemelor identificabile, cum ar fi reducerea timpilor de îndeplinire pentru X sau permiterea auto-servirii pentru Y. Nu este o coincidență că multe dintre aceleași companii sunt acum lideri în industria inteligenței artificiale.

Când identificați inițiative de inteligență artificială, începeți cu obiective de afaceri clare și rezultate măsurabile, apoi identificați care dintre tehnicile de inteligență artificială disponibile sunt potrivite pentru scop. Rezistați impulsului de a fi spectaculoși. Soluțiile inovatoare pentru probleme plictisitoare plătesc în cele din urmă. Abordați procesele și sarcinile repetitive și plictisitoare care se întâmplă la scară.

Nu veți reuși întotdeauna. Dar, concentrând atenția și investițiile dvs. cu rezultatul de afaceri în minte, permite cea mai mare probabilitate de succes.

Pe măsură ce sistemele de inteligență artificială devin mai autonome și încorporate în procesele de luare a deciziilor – prin instrumente precum agenți de inteligență artificială și asistenți de copilotaj – ce garduri etice sau structuri de guvernanță considerați esențiale pentru a menține încrederea, transparența și echitatea în conducere?

La SAS, definim guvernanța inteligenței artificiale prin prisma supravegherii, conformității, operațiunilor și culturii. Indiferent de cadru, subliniez două factori.

Primul este că fiecare aplicație de inteligență artificială, chiar dacă este construită pe același model sau set de date subiacent, trebuie evaluată independent și în mod continuu. Ceea ce funcționează pentru marketing poate să nu funcționeze pentru finanțe. O rată de eroare acceptabilă pentru angajați nu va fi eficientă în interacțiunile cu clienții. În plus, datorită naturii lor probabilistice, schimbările în comportamentul utilizatorilor, fluxul de date subiacent și o multitudine de alți factori pot schimba rapid comportamentul și ieșirile sistemului de inteligență artificială.

Al doilea este că etica și guvernanța inteligenței artificiale nu există în vid. Natura acestor soluții necesită colaborare cu guvernanța corporativă, conformitatea legală și de reglementare, gestionarea riscurilor la nivel de întreprindere și securitatea cibernetică. Prin valorificarea și extinderea acestor practici, mai degrabă decât reinventarea lor, se poate obține un start bun.

Privind înainte, cum anticipați că competențele de conducere se vor schimba într-o lume condusă de inteligență artificială – și ce sunt implicațiile pentru organizațiile care nu cultivă această nouă fluență?

Cred că previziunea și reziliența vor deveni din ce în ce mai importante. Ritmul rapid de schimbare încurajează liderii să evalueze și să adapteze în mod constant strategiile și tacticile de afaceri pe măsură ce tehnologia evoluează. Liderii trebuie să evalueze valoarea, viabilitatea și riscul pe diferite orizonturi de timp și perspective. Având în vedere natura sociotehnică a inteligenței artificiale, aceste perspective trebuie să includă nu numai acționarii, ci și clienții, angajații și, uneori, societatea în ansamblu. Previziunea este necesară pentru a naviga în acest peisaj.

Reziliența este, de asemenea, un factor în inteligența artificială. Așa cum Jordan Loewen-Colón notează elocvent în legătură cu adoptarea și guvernanța inteligenței artificiale: inteligența artificială este un proces, nu un comutator. Capacitatea de a învăța intenționat, de a se adapta și de a se îmbunătăți continuu, în timp ce menține cursul general, va diferenția liderii de rest.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe, ar trebui să viziteze SAS.