Kimberly Nevala, Dyrektor Strategii Biznesowej w SAS – Wywiad

SAS to globalna firma analityczna i AI oferująca rozwiązania w zakresie zarządzania danymi, zaawansowanej analityki i sztucznej inteligencji. Jej flagowa platforma, SAS Viya, podkreśla szybkość, skalowalność i zaufanie do podejmowania decyzji dla organizacji z różnych branż. Firma prezentuje przypadki użycia w wykrywaniu oszustw, optymalizacji marketingu, IoT i zarządzaniu ryzykiem, a także oferuje bezpłatne wersje próbne, szkolenia i programy akademickie w celu wspierania powszechnego przyjęcia analityki.

Wybudowała Pani karierę, prowadząc organizacje przez złożone transformacje kulturowe, strategiczne i techniczne – od konsultingu do kierowania strategią biznesową w SAS. Jak ta podróż ukształtowała Pani pogląd na to, co naprawdę jest potrzebne, aby przedsiębiorstwa przyjęły AI w sposób znaczący i inkluzywny?

Pomimo ogromnego zakresu nowych możliwości AI i ich równie sejsmicznych konsekwencji, podstawowe elementy budowania transformacji technicznej nie uległy zmianie. Chociaż konsekwencje błędów są inne.

Po pierwsze, należy wyraźnie określić wartości i priorytety organizacji. Wraz z klarownym zrozumieniem, w jaki sposób te czynniki wpływają na to, jak pracownicy lub klienci wchodzą w interakcję z marką. Następnie należy mieć szerokie zrozumienie nowych technologii, w tym ich wrodzonych ograniczeń i ograniczeń. Na koniec, widoczność w przewidywalnych lukach umiejętności i barierach wdrożeniowych opartych na powyższych punktach. Co istotne, nie dotyczy to tylko ekspertyzy technicznej, ale także umiejętności biznesowych.

Wszystko to musi być wspierane przez solidną, ale elastyczną governance. Opierającą się, oczywiście, na ukierunkowanym, celowym inwestowaniu w ludzi i technologię.

Mówiła Pani o tym, że umiejętność AI staje się tak samo istotna jak myślenie strategiczne i zdolności finansowe. Co oznacza umiejętność AI w praktyce dla dzisiejszych liderów?

Test na umiejętność AI jest prosty. Czy liderzy mają wiedzę niezbędną do inteligentnego przesłuchania proponowanego rozwiązania AI?

To nie oznacza, że liderzy muszą zagłębiać się w kod. Raczej, liderzy na wszystkich poziomach powinni wykazywać kompetencje kontekstowe. Oznacza to, że są wykształceni w czynnikach, które mogą wpłynąć na ich osąd AI. Te czynniki zmieniają się w zależności od roli lidera. Konkretnie, zakres decyzji, które są im powierzane.

Prościej mówiąc, test jest taki: czy wiedzą, jakie pytania zadać? Na przykład, czy menedżer może zidentyfikować czynniki ludzkie i techniczne o największym wpływie na opłacalność i profil ryzyka danego rozwiązania AI? Zarówno w sensie ogólnym, jak i zastosowanym.

Nawet lepiej: czy rozumieją ograniczenia technologie? PR i marketing koncentruje się na stronie pozytywnej, podczas gdy szkolenia praktyczne ujawniają ograniczenia. Ograniczenia te mogą dyktować procedury i techniczne bariery niezbędne do wdrożenia danego rozwiązania AI w sposób korzystny. W tym zakresie, stopień, w jakim liderzy rozumieją i identyfikują te ograniczenia, często jest różnicą między znaczącym wdrożeniem a niepowodzeniem.

Dlaczego równość płci w przywództwie AI jest tak istotnym problemem w tym momencie – i jakie ryzyko ponosimy, jeśli kobiety pozostaną biernymi odbiorcami, a nie aktywnymi kształtującymi rozwój i governance AI?

Mam przywilej pracować, rozmawiać i uczyć się od kobiet pracujących we wszystkich aspektach AI każdego dnia. Dlatego też ramy kobiet jako biernych odbiorców wydają mi się dziecinne i mylące. Kobiety są aktywnie zaangażowane w prowadzenie wysiłków AI, choć w mniejszej liczbie niż nasza wykształcona populacja wskazywałaby.

Nierówność płci w technologiach jest wielowymiarowym problemem, który poprzedza AI. Nie ma jednego rozwiązania, ponieważ istnieje wiele czynników. Niektóre z nich powodują mniejsze finansowanie lub rozpoznawanie kobiet w tej dziedzinie. To ironiczne, że kobiety, które otrzymują szerokie uznanie, często pracują w dziedzinie odpowiedzialnego lub etycznego AI. Początkowo etykietowane jako anty-AI, ich praca jest teraz ponownie rozważana, gdy postawy ewoluują.

Niezależnie od tego, bez celowego wkładu, ryzykujemy, że systemy AI zwiększą istniejące nierówności w skali. Widzimy to w użyciu zautomatyzowanych systemów rekrutacji i selekcji, które faworyzują kandydatów mężczyzn ze względu na historyczne uprzedzenia utrwalone w danych.

Brak różnorodności na wszystkich poziomach oznacza, że decyzje dotyczące tego, jakie systemy AI są budowane, w jaki sposób są wdrażane, jakie perspektywy i potrzeby są brane pod uwagę, a jakie nie, są dyktowane przez coraz bardziej izolowaną grupę. To szkodliwe dla wszystkich. Różnorodne zespoły kierownicze przynoszą lepsze wyniki biznesowe. Różnorodne zespoły produktowe dostarczają rozwiązania AI, które są bardziej solidne, odporne i lepiej działają.

W końcu, jeśli systemy AI nie uwzględniają perspektyw i potrzeb kobiet (lub innych zaniedbanych grup demograficznych) lub są szkodliwe, jaki jest motywator do ich przyjęcia? Oczywiście, te systemy będą wdrażane z lub bez naszego udziału. Poprzez włączanie różnorodnych głosów i egzekwowanie governance AI, możliwe jest spełnienie obietnicy AI.

Biorąc pod uwagę najnowsze innowacje SAS, takie jak agenci AI w SAS Viya, ramy decyzyjne, narzędzia syntetyczne, takie jak Data Maker, i niestandardowe modele AI – jak przedsiębiorstwa zmieniają swoje potoki przywództwa, aby podnieść zarówno umiejętność AI, jak i równość?

Przedsiębiorstwa zdają sobie sprawę, że zakres i wpływ tych aplikacji przekraczają możliwości jednego decydenta lub wykonawcy. Pomyślne wdrożenie zaawansowanego AI zależy od zaufania i zaangażowania “wioski”. Potencjalne problemy i pułapki są zbyt szerokie, aby jeden lider mógł je skutecznie rozwiązać samodzielnie.

W uznaniu tej rzeczywistości, wiodące przedsiębiorstwa AI są skłonne do partycypacyjnego projektowania i praktyk governance. W tym modelu, umiejętność AI i równość nie są wzmocnione przez formalne programy szkoleniowe ani inicjatywy HR. Ale przez dzielenie się wiedzą i podejmowanie zbiorowych decyzji, które występują podczas łączenia różnorodnych perspektyw z całego ekosystemu przedsiębiorstwa. Te współprace nie są ograniczone ściśle do decydentów, ale aktywnie obejmują ludzi, których praca będzie dotknięta przez system AI, który jest brany pod uwagę. Chociaż głównie w dziedzinie agencji publicznych i rządowych, niektóre organizacje aktywnie zaangażowały zewnętrznych interesariuszy, w tym grupy klientów i organizacje społeczne.

Jakie praktyczne kroki mogą podjąć aspirujący liderzy – szczególnie kobiety – aby zbudować wiarygodność i agencję na coraz bardziej AI-napędzanym rynku?

Po pierwsze, należy uznać, że mamy agencję. Każdy jednostka ma możliwość wpływania na rozwój AI na wiele sposobów: poprzez celowe korzystanie z określonych narzędzi AI; poprzez zaangażowanie i wspólne zaangażowanie w forum społeczności i polityce lokalnej; poprzez dołączenie do grup zainteresowań pracowników lub sieci mistrzów społeczności (i jeśli one nie istnieją, poprzez ich tworzenie); oraz poprzez podniesienie ręki, aby wziąć udział w programach AI lub zainicjować inicjatywy w pracy.

Po drugie, należy zainwestować we własną umiejętność AI na poziomie, który ma sens. Istnieją liczne zasoby online, od kursów na temat governance i etyki AI, po internetowe kursy uniwersyteckie, które obejmują cały zakres możliwości AI. Wiele z tych opcji jest dostępnych bezpłatnie lub za nominalną opłatą.

W końcu, dołącz i aktywnie przyczyniaj się do grup sieciowych branży AI lub specjalistycznych. Zapewniają one okazję nie tylko do dzielenia się wiedzą, ale także do kultywowania relacji, które mogą zapewnić mentorowanie, sojusze i wiarygodność, gdy budujesz swoją ekspertyzę i sieć.

Od dawna podkreśla Pani transformację kulturową, governance danych i odpowiedzialne przyjęcie technologii. Jak te podstawowe elementy wspierają rozwój liderów gotowych do AI?

Odpowiedź tradycyjna brzmi: te podstawy wyposażają liderów w narzędzia do radzenia sobie z złożonością, zarządzaniem ryzykiem, obniżaniem kosztów i zwiększaniem produktywności. Wszystkie te wyniki są prawdziwe, jednak najmniej docenianą korzyścią tych praktyk jest ufność.

Wykonane prawidłowo, te elementy tworzą środowisko, w którym pracownicy mogą eksperymentować i innowować z ufnością w ramach etosu biznesowego, prawnego i etycznego firmy.

To jest szczególnie ważne, ponieważ dostępne rozwiązania wahają się od narzędzi produktywności osobistej do wbudowanych workflow. Decyzje dotyczące użycia AI nie są podejmowane tylko w sali konferencyjnej lub w kontekście formalnego projektu AI. Od rozwoju do eksploracji, wdrożenia i dalej, wiele czynników wpływa na to, jak system działa i jest postrzegany.

Bezpośredni związek między odpowiedzialną, adaptacyjną innowacją a governance nie jest już hipotetyczny. IDC i SAS niedawno przeprowadzili badanie na temat związku między odpowiedzialnymi praktykami AI, zaufaniem i realizacją wartości. Odpowiedzialna innowacja nie jest teoretycznie dobra, ale coraz bardziej jest imperatywem ekonomicznym.

Na podstawie rozmów w Pani podcastzie Pondering AI, jakie spostrzeżenia na temat odpowiedzialnego, inkluzywnego przywództwa wydają się najbardziej krytyczne dla organizacji nawigujących transformację AI?

Język AI jest trudny. Mówimy o systemach AI, które myślą, halucynują i nawet źle się zachowują. Konceptualizujemy systemy AI jako współpracowników lub kolegów. W ten sposób jesteśmy skłonni przenosić założenia i oczekiwania z ludzi na AI. Tracimy w ten sposób focus na odpowiedzialności ludzkiej, udziale i odpowiedzialnym użyciu. Również trudno jest nam dostrzec rygor, który jest wymagany do dostarczania solidnych, wytrzymałych systemów AI, które, gdy są dobrze wykonane, wydają się proste.

To sprawia, że jest krytyczne, abyśmy umieścili nasze zrozumienie AI jako wewnętrznie ludzkiej inicjatywy. Pomimo antropomorficznych narracji, systemy AI zawsze odzwierciedlają wartości i intencje ich twórców: problemy, które rozwiązujemy, techniki lub modele, które stosujemy, dane, które używamy do szkolenia, oraz sposób, w jaki użytkownicy wchodzą w interakcję z systemem. Każdy system AI jest produktem tych ludzkich decyzji.

Ufność i zaufanie do systemów AI nie pochodzą z AI. Ludzie ostatecznie decydują o automatyzacji lub uzupełnieniu pracy. To nie system decyduje o tym, jaki poziom dokładności lub wyjaśnialności jest wystarczający. To nie AI decyduje o najbardziej odpowiednim modelu interakcji użytkownika. Gdy chatbot źle się zachowuje, nie wpływa to na AI; degraduje markę i wynik finansowy firmy, która używa AI.

DLatego też AI ukierunkowane na człowieka jest kluczowe.

Wiele organizacji ma zaawansowane narzędzia AI, ale nadal boryka się z kulturą, governance i inkluzją. Z Pani doświadczenia, jakie interwencje lub nastawienie pomagają organizacjom skutecznie pokonywać tę lukę?

AI, jak wiele innych technologii, podlega wpadaniu w tę samą falę hossy, co jego poprzednicy. W erze big data, stanie się firmą opartą na danych było wszystkim. Niewiele firm zrealizowało swoją wizję. Te, które to zrobiły, były zdyscyplinowane w rozwiązywaniu identyfikowalnych problemów, takich jak redukcja czasu realizacji X lub umożliwienie samousług dla Y. Nie jest to zaskakujące, że wiele z tych samych firm jest teraz liderami w AI.

Gdy identyfikuje się inicjatywy AI, należy zacząć od klarownych celów biznesowych i mierzalnych wyników, a następnie określić, które dostępne techniki AI są odpowiednie do celu. Odpornie na pokusę bycia efektownym. Innowacyjne rozwiązania problemów nudnych ostatecznie przynoszą dywidendy. Skoncentruj się na nudnych, powtarzalnych procesach i zadaniach, które występują w skali.

Nie zawsze będziesz miał rację. Ale koncentrując uwagę i inwestycje z myślą o wyniku biznesowym, pozwala to na najwyższą prawdopodobieństwo sukcesu.

Gdy systemy AI stają się bardziej autonomiczne i wbudowane w podejmowanie decyzji – za pomocą narzędzi takich jak agenci AI i asystenci – jakie etyczne bariery ochronne lub struktury governance uważa Pani za niezbędne do utrzymania zaufania, przejrzystości i równości w przywództwie?

W SAS definiujemy governance AI przez pryzmat nadzoru, zgodności, operacji i kultury. Niezależnie od ram, które przyjmujesz, są dwa czynniki, które chciałabym podkreślić.

Pierwszy to to, że każda aplikacja AI, nawet jeśli zbudowana na tym samym podstawowym modelu lub zestawie danych, musi być oceniona niezależnie i na bieżąco. To, co działa dla marketingu, może nie działać dla finansów. Akceptowalna stopa błędów dla pracowników nie będzie skuteczna w interakcjach z klientami. Ponadto, ze względu na ich probabilistyczną naturę, zmiany w zachowaniu użytkownika, przepływie danych i wielu innych czynnikach mogą szybko zmienić zachowanie i dane wyjściowe systemu AI.

Drugi to to, że etyka AI i governance nie istnieją w próżni. Natura tych rozwiązań wymaga współpracy z governance korporacyjnym, zgodnością prawną i regulacyjną, zarządzaniem ryzykiem przedsiębiorstwa i bezpieczeństwem. Wykorzystanie i rozszerzanie tych praktyk, zamiast ich reinwencji, może zapewnić dobry start.

Jak Pani widzi zmiany kompetencji przywódczych w świecie napędzanym przez AI – i jakie są konsekwencje dla organizacji, które nie kultywują tej nowej umiejętności?

Wierzę, że przewidywanie i elastyczność staną się coraz bardziej ważne. Szybki temp zmian zachęca liderów do ciągłej oceny i adaptacji strategii i taktyki biznesowej, gdy technologia ewoluuje. Liderzy muszą oceniać wartość, opłacalność i ryzyko w różnych horyzontach czasowych i perspektywach. Biorąc pod uwagę sociotechniczną naturę AI, te perspektywy muszą coraz częściej obejmować nie tylko udziałowców, ale także klientów, pracowników i społeczeństwo jako całość. Przewidywanie jest niezbędne do nawigowania w tym krajobrazie.

Elastyczność jest również czynnikiem w AI. Jak Jordan Loewen-Colón pięknie zauważa w odniesieniu do przyjęcia i governance AI: AI jest procesem, a nie przełącznikiem. Możliwość celowego uczenia się, adaptacji i ciągłego doskonalenia przy zachowaniu ogólnego kierunku będzie różnicować liderów od reszty.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić SAS.