Luka w wiedzy, którą tworzy sztuczna inteligencja, jest nową luką w bezpieczeństwie. Oto jak ją zlikwidować.

Firmy technologiczne podejmują dobrze znany zakład: że sztuczna inteligencja wykona pracę szybciej i taniej niż ludzie. Choć w wielu przypadkach może to być prawdą, AI jest też wykorzystywana jako łatwe uzasadnienie zwolnień.

W raporcie PwC udostępnionym na początku tego roku 56% dyrektorów generalnych stwierdziło, że dotychczas nie dostrzegło znaczących korzyści finansowych ze swoich inwestycji w AI. Tylko 12% zgłosiło jednocześnie oszczędności kosztów i wzrost przychodów dzięki AI. Ponadto lutowe badanie National Bureau of Economic Research wykazało, że prawie 90% firm stwierdziło, że AI nie wpłynęła na zatrudnienie ani produktywność w ciągu ostatnich trzech lat. Pokazuje to znamienną prawdę: wiele organizacji nadal nie uzyskało pierwotnie obiecywanych korzyści w zakresie przychodów i produktywności, a żeby pokryć straty, wciąż zwalnia tysiące pracowników.

Ale jest coś, czego nie mówi się podczas telekonferencji o wynikach finansowych: gdy zwalniasz opiekuna klienta, który ma w głowie dziesięć lat wiedzy o relacjach z klientami, albo inżyniera zapewnienia jakości, którego wiedza instytucjonalna jako jedyna pozwala wychwycić usterki, zanim dotrą do klientów, nie usuwasz zbędnego tłuszczu. Wyburzasz ściany nośne. Koszty wykonywania pracy od nowa, utrata klientów i późniejsze problemy z jakością rzadko trafiają do tej samej prezentacji, która świętowała redukcję zatrudnienia. Są po cichu uwzględniane w kolejnych kwartałach, przypisywane warunkom rynkowym i zapominane. Luka między tym, co obiecuje restrukturyzacja oparta na AI, a jej rzeczywistymi efektami istnieje i rośnie, a wiele organizacji nadal w ogóle jej nie uznaje.

Rzeczywiste koszty tego cyklu nie skupiają się w jednym miejscu. Rozchodzą się po wszystkich zespołach, które pozostały po cięciach. Programiści przejmują obciążenie inżynierów, którzy odeszli, a jednocześnie otrzymują narzędzia AI wciąż zbyt niedojrzałe, by zrekompensować utratę personelu. Zespoły produktowe tracą kontekst, który osadzał ich plany w realiach klientów. Zespoły wsparcia są przeciążone, a jakość odpowiedzi spada, podczas gdy klienci od razu rozpoznają niskiej jakości treści generowane przez AI w odpowiedziach na swoje zgłoszenia. Obciążenie nie jest skoncentrowane, lecz rozproszone, a właśnie to rozproszenie sprawia, że tak łatwo je zignorować w raporcie kwartalnym. W ramach tego szerszego zjawiska zespoły IT mierzą się jednak ze szczególną i spotęgowaną wersją problemu. Nie chodzi tylko o robienie więcej mniejszymi środkami. Mają zarządzać szybko zbudowaną infrastrukturą bez wiedzy instytucjonalnej, która zapewniała jej spójność. Równocześnie obsługują procedury odejścia byłych współpracowników i wdrożenia ich następców, gdy firmy po cichu wycofują się z cięć, które wcześniej publicznie świętowały.

W miarę upływu roku, gdy organizacje próbują spełnić obietnice AI, czas dostrzec, że wraz z usuwaniem ludzkiej wiedzy eksperckiej w imię efektywności dzięki AI tracimy znacznie więcej niż przychody. Dobra wiadomość jest taka, że można połączyć zalety obu światów. Wymaga to jednak bardziej praktycznego i pragmatycznego podejścia do AI, które stawia ludzi w centrum strategii.

Co tracimy, gdy wiedza wychodzi za drzwi

Kluczowa wiedza operacyjna tkwi w ludziach i jest wykorzystywana dzięki ludzkiemu osądowi, a nie systemom. Kiedy ci ludzie odchodzą, wiedza odchodzi wraz z nimi. Niezależnie od stopnia zaawansowania modelu AI nie potrafi dziś wypełnić tej luki.

Nawet gdy możliwości AI rosną, automatyzacja pozbawiona zniuansowanego kontekstu tworzy niebezpieczne luki w kluczowych obszarach:

• Osąd i strategia: Intuicja, wiedza instytucjonalna i znajomość rynku nie mieszczą się łatwo w zbiorach danych, nawet nieustrukturyzowanych.
• Kontekst i świadomość sytuacyjna: Ludzie rozpoznają niuanse i intencje oraz potrafią poruszać się w szarych strefach, w których sztywne reguły przestają działać.
• Empatia i zaufanie: Sytuacje o poważnych konsekwencjach lub dużym ładunku emocjonalnym, zwłaszcza dotyczące klientów lub pracowników, wymagają reakcji skoncentrowanej na człowieku.
• Nadzór i odpowiedzialność: Ktoś musi odpowiadać za wykrywanie błędów i uprzedzeń lub zapobieganie dezinformacji. Samo powiedzenie „Masz rację, spróbuję jeszcze raz” po przekazaniu całkowicie błędnych informacji nie wystarcza.
• Pamięć instytucjonalna i kontekst systemów: Rozumienie, dlaczego zespoły zbudowały infrastrukturę w określony sposób — albo dlaczego tego nie zrobiły —, czego próbowały wcześniej i jakie nieudokumentowane przypadki brzegowe istnieją.
• Przywództwo i zarządzanie: Określanie zasad i tolerancji ryzyka oraz przestrzeganie granic etycznych pozostaje zasadniczo ludzką odpowiedzialnością.

AI może wydobywać przydatne informacje, zalecać działania i przyspieszać ich realizację, ale nie może zastąpić pamięci instytucjonalnej zapobiegającej katastrofom ani zapewnić odpowiedzialności pozwalającej wychwycić je, zanim wymkną się spod kontroli.

Co sprawne organizacje robią inaczej

Organizacje, które odnoszą sukces dzięki AI, nie usuwają ludzi z równania. Wykorzystują AI do usprawniania rutynowych, powtarzalnych procesów utrudniających codzienną działalność. Uwalniają w ten sposób czas i inne kluczowe zasoby, aby ludzie mogli szukać nowych, twórczych sposobów zwiększania korzyści biznesowych. Traktują AI jako narzędzie, z którym można „biec razem”, aby wzmacniać ludzkie możliwości. Weźmy operacje IT. Zespoły te są już przeciążone i zarządzają rozległą infrastrukturą przy ograniczonych środkach. AI, a może ściślej uczenie maszynowe (ML), może tutaj przynieść realną wartość.

AI i ML mogą automatyzować rutynowe zadania, które wcześniej pochłaniały dużo czasu i zasypywały cennych ekspertów pracą operacyjną: analizę i testowanie poprawek, klasyfikację zgłoszeń, generowanie przepływów pracy, wykrywanie zasobów i mapowanie ryzyka.

Zadania te stanowią podstawę operacji IT, ale pochłaniają ogromne ilości czasu. Dotyczy to zwłaszcza sytuacji, gdy środowiska cyfrowe organizacji się rozrastają, krajobraz podatności się zmienia, a pracownicy coraz częściej oczekują pozytywnych doświadczeń cyfrowych na urządzeniach służbowych. Kiedy zespoły nie radzą sobie z podstawami — zarządzaniem tymi funkcjami i procesami lub ich monitorowaniem — z powodu przeciążenia, skutki są poważne: przestoje, niezastosowane poprawki, wycieki danych i naruszenia bezpieczeństwa.

Natomiast dobrze wykorzystana AI usprawnia pracę w tych obszarach i daje personelowi IT czas na to, czego sama nie potrafi: ograniczanie długu technicznego, ulepszanie istniejących systemów i procesów, przeprojektowanie architektury dla większej odporności oraz zachowanie wiedzy instytucjonalnej podtrzymującej działanie systemów krytycznych. To więcej niż efektywność. To ograniczanie ryzyka. I tworzy solidniejsze podstawy długoterminowego wzrostu.

Jak prawidłowo wdrażać AI

Organizacje, które zaczynają od przemyślanego zastosowania i wdrożenia AI, a równocześnie priorytetowo traktują umożliwienie bezpiecznego i skutecznego korzystania z niej, już osiągają — i nadal będą osiągać — większe korzyści ze swoich strategii AI. Optymalizacja nie wynika ze zwalniania ludzi. Wynika z inwestowania w nich, przeprojektowywania przepływów pracy i szkolenia zespołów w zakresie najlepszego wykorzystania AI.

To naprawdę nic nowego. Technologia rozwija się poprzez cykle pokoleniowe od setek lat. Za każdym razem mamy skłonność powtarzać te same błędy. Posuwamy się za daleko i próbujemy uczynić konkretny postęp panaceum na wszystkie problemy. Nie brakuje szarlatanów, którzy wykorzystują tę desperację, obiecują zbyt wiele i znikają, zanim wyniki da się zmierzyć. W rzeczywistości AI i ML mogą robić to, co komputery robiły od zawsze: wykonywać określone zadania szybciej i dokładniej niż człowiek. Ci, którzy dostrzegą te możliwości i zastosują AI pragmatycznie, by z nią współpracować, szybko zobaczą zwrot z inwestycji. W praktyce oznacza to:

• Wykorzystywanie AI do eliminowania zadań o niskiej wartości, a nie wartościowego ludzkiego osądu
• Projektowanie przepływów pracy z udziałem człowieka w celu ograniczania ryzyka decyzji o poważnych konsekwencjach
• Określanie jasnych ścieżek eskalacji, gdy systemy AI zawodzą lub dają niepewne wyniki
• Wyraźne przypisywanie odpowiedzialności za decyzje oparte na AI
• Szkolenie zespołów w krytycznej ocenie wyników AI zamiast ich ślepego akceptowania

Rzeczywisty koszt popełnienia błędu

Obecny cykl w branży technologicznej, charakteryzujący się masowymi zwolnieniami, a następnie cichym ponownym zatrudnieniem, nie jest przesunięciem talentów. To przeniesienie ryzyka. Organizacje wymieniają dekady pamięci instytucjonalnej na kilka miesięcy zautomatyzowanej szybkości, a liderzy IT zostają z odpowiedzialnością za zarządzanie konsekwencjami.

AI przynosi realne korzyści, ale mają one największą wartość, gdy służy zachowaniu i wzmacnianiu wiedzy eksperckiej, a nie jej zastępowaniu. W erze AI nadal będą prosperować nie firmy, które dokonują najgłębszych cięć lub wdrażają najwięcej narzędzi AI, lecz te, które rozważnie wykorzystują AI do automatyzowania monotonnej pracy oraz wzmacniania ludzkiej kreatywności, współpracy i wiedzy eksperckiej.

Gdy bowiem kolejny system zawiedzie albo wystąpi następna awaria lub incydent cyberbezpieczeństwa, nie będziesz chcieć robota czy maszyny kierujących przywracaniem działania systemów lub komunikacją z klientami. Wtedy będziesz chcieć — i potrzebować — osoby z dogłębną wiedzą i kontekstem historycznym, która nadal pracuje w firmie.

Jeśli chcemy uwolnić pełny potencjał AI, musimy skoncentrować się na wykorzystywaniu jej do monotonnych zadań i przestać używać jej jako wymówki dla słabych wyników biznesowych.