Sztuczna inteligencja cieni: luka w zarządzaniu, której organizacje nie mogą ignorować

W tym momencie rozwoju sztucznej inteligencji, liderzy biznesu szeroko rozpoznają znaczenie zarządzania sztuczną inteligencją. Niemniej, tempo, w jakim organizacje tworzą polityki i bariery bezpieczeństwa, nadal pozostaje w tyle za tempem, w jakim pracownicy przyjmują i integrują sztuczną inteligencję w swojej codziennej pracy.

Organizacje, które czekają na ramy zarządzania, które będą czuć się “kompletne” zanim włączą sztuczną inteligencję, muszą zmierzyć się z trudną rzeczywistością: w braku wyraźnych zasad dotyczących tego, jak, co i gdzie sztuczna inteligencja może być używana, pracownicy sami zdefiniują te granice. I te decyzje mogą bezpośrednio sprzeciwiać się standardom organizacyjnym, tolerancji ryzyka lub obowiązkom regulacyjnym.

Ta luka w zarządzaniu spowodowała, że sztuczna inteligencja cieni stała się domyślnym modelem operacyjnym w wielu organizacjach.

Powszechny i rosnący problem

Sztuczna inteligencja cieni nie jest ograniczona do pojedynczych pracowników eksperymentujących na marginesach. Rozciąga się na całą organizację, w tym na kierownictwo. Ponieważ sztuczna inteligencja staje się coraz bardziej wbudowana w codzienne procesy pracy, nawet najwyżsi decydenci omijają formalne procesy zatwierdzania, aby wykorzystać jej korzyści. W rzeczywistości, niedawne badanie wykazało, że 68% liderów bezpieczeństwa, w tym CISO, przyznaje się do nieautoryzowanego wykorzystania sztucznej inteligencji w procesach pracy.

W tym samym czasie, 79% liderów IT raportuje, że ich organizacje już doświadczyły negatywnych konsekwencji udostępniania danych korporacyjnych narzędziom sztucznej inteligencji. Analitycy przewidują, że problem ten będzie się nasilał. Gartner szacuje, że do 2030 roku, ponad 40% organizacji doświadczy incydentów bezpieczeństwa lub zgodności z powodu wykorzystania nieautoryzowanych narzędzi sztucznej inteligencji.

Rozszerzająca się powierzchnia ryzyka

Sztuczna inteligencja cieni stanowi szeroki zakres ryzyka, w tym:

• Utrata kontroli nad danymi i potencjalne wycieki danych
• Rozszerzone podatności na ataki i powierzchnia ataków
• Ekspozycja na ryzyko zgodności i regulacyjne
• Brak widoczności w zakresie wykorzystania sztucznej inteligencji
• Utrata własności intelektualnej
• Uszkodzenie reputacji
• Niedokładne lub tendencyjne dane wyjściowe

Istotnym czynnikiem tych ryzyk jest fundamentalne niezrozumienie, w jaki sposób systemy sztucznej inteligencji radzą sobie z danymi.

Wielu pracowników zakłada, że korzystanie z “bezpłatnych” narzędzi, szczególnie tych, które nie wymagają poświadczeń logowania, oferuje anonimowość lub ochronę. W rzeczywistości, te narzędzia często polegają na danych wejściowych użytkowników, aby trenować i udoskonalać swoje modele, a w niektórych przypadkach, udostępniają dane stronom trzecim. Te dane mogą obejmować highly wrażliwe informacje, takie jak dane osobowe, medyczne lub prawne, rekordy finansowe, własność intelektualną i inne poufne informacje biznesowe.

Jeszcze bardziej niepokojące, świadomość nie zawsze zmienia zachowanie. Badania pokazują, że 38% pracowników świadomie udostępnia informacje wrażliwe narzędziom sztucznej inteligencji bez zatwierdzenia organizacyjnego.

Dlaczego sztuczna inteligencja cieni trwa

Aby skutecznie rozwiązać problem sztucznej inteligencji cieni, organizacje muszą najpierw zrozumieć jej przyczynę.

W większości przypadków, pracownicy nie działają z złą intencją. Reagują racjonalnie na swoje środowisko. Są pod presją, aby działać szybciej, robić więcej z mniej i osiągać lepsze wyniki. Sztuczna inteligencja umożliwia wszystko to.

Sztuczna inteligencja cieni pojawia się, gdy systemy organizacyjne nie nadążają za tymi oczekiwaniami. Powszechne czynniki to:

• Ścisłe zakazy korzystania z narzędzi sztucznej inteligencji w miejscu pracy
• Zatwierdzone narzędzia, które są mniej zdolne lub mniej przyjazne dla użytkownika
• Ciśnienie, aby dotrzymać agresywnych terminów
• Wolne lub skomplikowane procesy zakupowe
• Niejasne, niespójne lub nieistniejące polityki
• Ograniczone szkolenia lub wskazówki
• Nadmierna ufność w osobistą ocenę lub niedocenianie ryzyka

W swojej istocie, sztuczna inteligencja cieni jest kompromisem. Kiedy postrzegane korzyści produktywności przewyższają postrzegane ryzyko, pracownicy zawsze wybiorą szybkość i wydajność.

Zarządzanie sztuczną inteligencją bez tłumienia innowacji

Pracownicy już korzystają z sztucznej inteligencji. Ignorowanie tego faktu lub opóźnianie działania tylko powiększa lukę między polityką a praktyką.

Organizacje powinny zmienić swój podejście z kontroli na umożliwienie.

To zaczyna się od ustanowienia wyraźnych, praktycznych i transparentnych wytycznych, nawet jeśli nie są one w pełni dojrzałe. Wczesne bariery bezpieczeństwa zapewniają kierunek, redukują niejasności i tworzą wspólne zrozumienie akceptowalnego wykorzystania.

Ale sama polityka nie jest wystarczająca. Organizacje potrzebują także widoczności. To wymaga budowania mechanizmów opartych na zaufaniu, które pozwalają pracownikom bezpiecznie ujawniać, jakie narzędzia używają i dlaczego. Podejścia takie jak “amnestia” dla sztucznej inteligencji cieni lub anonimowe raportowanie mogą ujawnić krytyczne informacje bez natychmiastowego karania zachowania.

W tym samym czasie, organizacje muszą utrzymać odpowiedzialność. W przypadkach, w których narażenie danych jest znaczące lub zaniedbane, konsekwencje mogą być nadal konieczne. Celem nie jest całkowite wyeliminowanie ryzyka, ale inteligentne zarządzanie nim.

Od cieni do strategii

Sztuczna inteligencja cieni jest sygnałem, że innowacja porusza się szybciej niż struktury organizacyjne zaprojektowane do jej zawężenia.

Organizacje nie mogą pozwolić sobie na czekanie. Ustanowienie zarządzania teraz, nawet jeśli nie jest ono idealne, jest kluczowe dla redukcji ryzyka i odzyskania widoczności. Ale zarządzanie samemu w sobie nie jest wystarczające. Wyraźne bariery bezpieczeństwa muszą być połączone z umożliwieniem, edukacją i dostępnymi alternatywami, które umożliwiają pracownikom bezpieczne i skuteczne korzystanie z sztucznej inteligencji.

Celem nie jest ograniczenie adopcji sztucznej inteligencji, ale kształtowanie jej. Kiedy organizacje osiągają równowagę, sztuczna inteligencja cieni przechodzi z ukrytej odpowiedzialności w zarządzaną, strategiczną zdolność. I robiąc to, mogą zamknąć lukę między tym, jak sztuczna inteligencja jest wykorzystywana, a tym, jak powinna być wykorzystywana, zanim ta luka rozwinie się w incydent.