Niebezpieczeństwo mówienia nie sztucznej inteligencji

W zeszłym tygodniu dołączyłem do wideokonferencji potencjalnego klienta. Wszyscy specjaliści ds. bezpieczeństwa i sieci byli tam obecni, a także kierownictwo. Różni prelegenci omawiali tematy dnia. Potem ktoś zaczął wyjaśniać, jak jego zespoły techniczne wykorzystują sztuczną inteligencję w codziennej pracy.

Prelegent był podekscytowany. Znalazł sposób, aby skompresować trzy dni ręcznej pracy kopiowania i wklejania do kilku minut za pomocą narzędzi sztucznej inteligencji. Bardzo fajnie, prawda? Rozumiem, co robił i dlaczego to robił. To jest obietnica sztucznej inteligencji!

Ale jako osoba odpowiedzialna za bezpieczeństwo myślę: “O mój Boże”. “Jaki to narzędzie? Kto jest właścicielem tego narzędzia?” Ponieważ wprowadza on informacje o klientach do tych platform – dane dotyczące cen. Może informacje finansowe? Cokolwiek to może być. Wszystko po to, aby przyspieszyć swój workflow.

Więc zadałem oczywiste pytanie: “Czy masz politykę sztucznej inteligencji?” Szukaliśmy. Znaleźliśmy fragment ukryty w zaakceptowanym użyciu. Coś niejasnego dotyczącego narzędzi sztucznej inteligencji. Czy ktoś to czyta? Prawdopodobnie nie. Podpisujesz to podczas procesu wdrożenia i już.

Twoi ludzie już używają sztucznej inteligencji

To, czego się dowiedziałem, rozmawiając z firmami z każdej branży: sztuczna inteligencja jest już wszędzie, czy to się podoba, czy nie. Ostatnie badania potwierdzają tę rzeczywistość – 75% pracowników używa już sztucznej inteligencji w pracy, co stanowi niemal podwojenie w ciągu zaledwie sześciu miesięcy.

W zeszłym tygodniu w Houston spotkałem się z facetem, którego firma wiertła odwierty naftowe. Mają platformę sztucznej inteligencji, która analizuje skład gleby i wzorce pogodowe, aby zoptymalizować lokalizację odwiertów. Wyjaśnił, jak uwzględniają dane dotyczące opadów – “Wiedzieliśmy, że padało 18 dni więcej niż w tym obszarze, więc pojemność ropy naftowej jest prawdopodobnie wyższa, co pozwala na głębsze wiercenie”.

Tymczasem ja używam sztucznej inteligencji, aby stworzyć plan podróży do Niemiec. Rozmawiałem z firmami z branży opieki zdrowotnej, które wykorzystują ją do platform telemedycznych. Zespoły finansowe uruchamiają modele ryzyka. Spotkałem nawet kogoś, kto prowadzi interes z lemoniadą i wykorzystuje sztuczną inteligencję w jakiś sposób.

Punkt jest taki: sztuczna inteligencja jest we wszystkich branżach, we wszystkich workflow. Nie nadchodzi – jest już tu. I większość tych organizacji jest w tej samej sytuacji, co my. Wiedzą, że ich pracownicy ją używają. Po prostu nie wiedzą, jak ją zarządzać.

Shadow IT staje się niebezpieczny bardzo szybko

Czy wiesz, co się dzieje, gdy mówisz ludziom, że nie mogą używać sztucznej inteligencji? To tak jakby powiedzieć swojemu nastolatkowi, że nigdy nie może pić. Gratulacje, teraz będą pić w najmniej bezpieczny sposób, ponieważ stworzyłeś prohibicję.

Liczby potwierdzają tę rzeczywistość: 72% użycia generatywnej sztucznej inteligencji w przedsiębiorstwach to shadow IT, a pracownicy używają kont osobistych, aby uzyskać dostęp do aplikacji sztucznej inteligencji.

Ludzie biorą drugi laptop. Używają swojego telefonu komórkowego, który nie jest chroniony przez bezpieczeństwo firmy. Potem używają sztucznej inteligencji tak czy inaczej. Nagle tracisz widoczność i tworzysz dokładnie te luki, których próbujesz zapobiec.

Widziałem ten wzorzec wcześniej. Zespoły ds. bezpieczeństwa, które mówią “nie” wszystkiemu, popychają ludzi pod ziemię i tracą wszelką kontrolę nad tym, co się naprawdę dzieje.

Bezpieczeństwo staje się wrogiem

Istnieje taki pogląd, że zespoły ds. bezpieczeństwa to “nieprzyjemni faceci w piwnicy”. Ludzie myślą: “Och, zespół ds. bezpieczeństwa pewnie powie nie, więc nie ma sensu ich pytać”. I używają sztucznej inteligencji tak czy inaczej.

Miałem developera, który podszedł do mnie po prezentacji na konferencji. Używa on API każdego dnia i próbował zwrócić uwagę swojego zespołu ds. bezpieczeństwa na temat testowania i walidacji. Ale postanowił nie pytać, bo uznał, że powiedzą mu “nie”.

Deficyt zaufania kosztuje wszystko

To jest rozmowa, jakiej chcesz: ktoś z marketingu podchodzi do ciebie i mówi: “Hej, chcę używać tego narzędzia sztucznej inteligencji. Jaka jest nasza polityka w tej sprawie? Jak mogę ją używać bezpiecznie?” To jest właściwy sposób współpracy z zespołem ds. bezpieczeństwa.

Będziemy to weryfikować. Rozumiemy, że sztuczna inteligencja będzie częścią biznesu. Nie powiemy “nie” – chcemy, aby ludzie ją używali bezpiecznie. Ale potrzebujemy tej rozmowy najpierw.

Gdy ludzie zakładają, że zespół ds. bezpieczeństwa zablokuje wszystko, przestają pytać. Zapisują się na konta osobiste, zaczynają wprowadzać dane firmowe do niezweryfikowanych platform i tracisz wszelką widoczność i kontrolę. Rezultat jest przewidywalny: 38% pracowników udostępnia wrażliwe informacje o pracy narzędziom sztucznej inteligencji bez pozwolenia pracodawcy.

Organizacje będą używać sztucznej inteligencji niezależnie od wszystkiego. Pytanie brzmi: jak możemy upewnić się, że nasi pracownicy będą mogli ją wykorzystywać bezpiecznie, nie narażając danych firmy, prywatności ani bezpieczeństwa?

Zacznij od mądrych “tak”, a nie od powszechnych “nie”

To jest to, co naprawdę działa: proaktywna komunikacja. Wysyłaj biuletyny lub prowadź 30-minutowe webinaria, mówiąc: “Zezwalamy na użycie sztucznej inteligencji w organizacji. Oto, jak to zrobić bezpiecznie”. Nagrywaj sesje dla osób, które ich przegapiły.

Pokazuj przykłady pracowników, którzy współpracowali z zespołem ds. bezpieczeństwa w sposób udany. Uczynij te partnerstwa widocznymi, zamiast być tajemniczą jednostką, której ludzie zakładają, że ją zablokuje.

Musisz budować zaufanie między zespołem ds. bezpieczeństwa a pracownikami w czasie. Na końcu dnia wszyscy używamy sztucznej inteligencji na dużą i małą skalę. Użyłem jej, aby zaplanować moją podróż do Niemiec – powiedziałem, aby stworzyła trzydniowy plan podróży i dostałem niesamowitą podróż z tego.

Pod względem organizacyjnym musimy rozpoznać, gdzie sztuczna inteligencja stoi w biznesie. Czy zwiększy przychody? Prawdopodobnie. Przypadek biznesowy jest jasny: sztuczna inteligencja przeszła od “eksperymentu” do “niezbędnego”, a wydatki na sztuczną inteligencję w przedsiębiorstwach skoczyły o 130%. Co więc robimy? Jak zapewniamy ochronę, umożliwiając jednocześnie produktywność?

Celem nie jest idealna kontrola, to niemożliwe. Celem jest poinformowane przyjęcie sztucznej inteligencji z funkcjami, które naprawdę działają w praktyce. Nowe ryzyko dla bezpieczeństwa polega na tym, że staje się ono oddzielone od użycia sztucznej inteligencji – użycia, które następuje z Twoim udziałem lub bez niego.

Dla organizacji, które poważnie myślą o tym, jak to zrobić, eksperci zalecają opracowanie wyraźnych polityk zarządzania sztuczną inteligencją, które balansują potrzeby biznesowe z wymogami bezpieczeństwa przed użyciem sztucznej inteligencji w sposób, który całkowicie wyjdzie spod kontroli.