Większe wydatki na bezpieczeństwo AI nie redukują ryzyka związanego z AI

Budżety na bezpieczeństwo AI rosną szybko. W wielu organizacjach rosną szybciej niż systemy, które mają chronić.

To niedopasowanie jest łatwe do przeoczenia. Inwestycje w sztuczną inteligencję nadal przyspieszają, a globalne finansowanie prywatne sięgało $33,9 miliarda w 2025 roku. W tym samym czasie liderzy ds. bezpieczeństwa są proszeni o rozliczenie nowych ryzyk związanych z zachowaniem modelu, narażeniem danych i manipulacją przeciwnika. Odpowiedzią jest więcej narzędzi, więcej kontroli i więcej budżetu.

Może się wydawać, że to jest rozmowa o koszcie prowadzenia działalności, prostej kwestii, ile organizacje muszą wydać, aby zabezpieczyć AI. To jednak nie jest właściwy sposób podejścia do tego nowego problemu. Zamiast tego organizacje muszą sprawdzić, czy ich inwestycje w AI naprawdę zabezpieczają odpowiednie narzędzia.

W większości przedsiębiorstw AI wciąż jest wprowadzany na poziomie zadania. Zespoły eksperymentują z podsumowaniem, pomocą w kodowaniu, analizą lub automatyzacją przepływu pracy, aby poprawić produktywność na poziomie indywidualnym. Te narzędzia dostarczają lokalne korzyści, ale rzadko zmieniają sposób podejmowania decyzji lub działania systemów na szerszym poziomie. Ta luka zaczyna się pojawiać w wynikach. Podczas gdy wdrożenie jest powszechne, tylko około 20% organizacji zgłasza znaczący wpływ na ich wynik finansowy.

Inwestycje w bezpieczeństwo rosną wraz z tym eksperymentowaniem. Jednak w wielu przypadkach są one stosowane do rosnącej kolekcji niepołączonych narzędzi, a nie spójnych systemów, które kształtują sposób działania biznesu. AI jest oceniany na poziomie zadania, zabezpieczany na poziomie systemu i nigdy nie jest w pełni zaprojektowany na poziomie przepływu pracy, gdzie tworzy się prawdziwa wartość.

Adopcja AI rozwija się szybciej niż jest integrowana

Większość wdrożeń AI dzisiaj jest wąska przez projekt. Są one budowane, aby uczynić poszczególne zadania szybszymi, a nie aby zmienić sposób, w jaki praca płynie w zespołach lub systemach.

Zespół sprzedaży może przyjąć AI, aby wygenerować e-maile lub podsumować połączenia. Zespoły inżynierskie używają go do przyspieszenia generacji kodu. Zespoły operacyjne eksperymentują z analizą lub wsparciem prognoz. Każde z tych przypadków dostarcza mierzalne korzyści produktywności na poziomie indywidualnym, i to często wystarcza, aby uzasadnić początkową inwestycję.

Złożoność zaczyna się pojawiać, gdy te izolowane korzyści się kumulują.

Każde wdrożenie wprowadza własne modele, wzorce dostępu do danych, interfejsy API i zależności. Z czasem organizacje znajdują się w sytuacji, w której zarządzają rosnącym ekosystemem możliwości AI, które nigdy nie były zaprojektowane do współpracy. Nawet teraz, duża część przedsiębiorstw pozostaje na wczesnym etapie eksperymentowania, a wiele inicjatyw nie jest jeszcze wbudowanych w podstawowe operacje biznesowe.

Zespoły ds. bezpieczeństwa dziedziczą to środowisko, gdy się tworzy. Są proszeni o zabezpieczenie nie jednego systemu, ale stale zmieniającej się kolekcji narzędzi, integracji i przepływów danych, które rosną z każdym nowym eksperymentem. Bez ujednoliconej architektury bezpieczeństwo staje się ćwiczeniem w zakresie pokrycia, a nie kontroli.

Rzeczywiste ryzyko nie leży w poszczególnych narzędziach, lecz w fragmentacji systemu

Podczas gdy eksperymenty z AI trwają, oczekiwania liderów zaczynają się zmieniać. Zarządy i zespoły wykonawcze pytają, jak rosnące wydatki na AI przekładają się na mierzalne wyniki biznesowe.

Gdy wczesne inicjatywy nie spełniają oczekiwań, organizacje rzadko zwalniają tempo. Rozszerzają swoje wysiłki. Uruchamiane są więcej pilotów. Wprowadzane są nowe narzędzia. Tworzone są nowe integracje w poszukiwaniu wartości, która jeszcze nie zaistniała. Przewidywania już sugerują, że ponad połowa projektów AI może nie osiągnąć produkcji lub dostarczyć oczekiwanych wyników w nadchodzących latach.

Dla zespołów ds. bezpieczeństwa ten cykl tworzy nowy rodzaj ryzyka.

Wyzwaniem nie jest już tylko ochrona poszczególnych aplikacji lub modeli. Jest to zarządzanie środowiskiem, w którym podstawowy system jest stale zmieniany. Każde nowe narzędzie wprowadza dodatkowe tożsamości, przepływy danych i zachowania modelu, które rozszerzają powierzchnię ataku, zanim obrońcy będą mieli czas, aby w pełni je zrozumieć.

W tym kontekście zwiększanie wydatków na bezpieczeństwo niekoniecznie redukuje ryzyko. Może zwiększyć złożoność operacyjną. Ochrona fragmentowanych systemów wymaga więcej narzędzi, więcej monitorowania i więcej koordynacji, ale nie rozwiązuje podstawowego problemu, którym jest brak spójnej struktury dla wdrożenia i użytkowania AI.

Wydatki na bezpieczeństwo stają się strategiczne tylko wtedy, gdy AI staje się operacyjne

Jesteśmy w doskonałej sytuacji dzięki inwestycjom w bezpieczeństwo AI; stopień innowacji jest astronomiczny, a podczas gdy przyszłość jest jasna dla przypadków użycia AI, inwestycje w bezpieczeństwo często są niepołączone z miejscem, w którym AI naprawdę tworzy wartość.

Gdy AI jest wdrożony głównie jako zestaw izolowanych narzędzi produktywności, wysiłki w zakresie bezpieczeństwa są zmuszone do naśladowania tej fragmentacji. Zespoły kończą się chroniąc dziesiątki niepołączonych aplikacji, które mają ograniczony wpływ na podstawowe wyniki biznesowe.

Większa wartość pojawia się, gdy AI jest wbudowany w przepływy pracy, które napędzają sposób działania organizacji. Planowanie, prognozowanie, alokacja zasobów i podejmowanie decyzji operacyjnych to miejsca, w których AI zaczyna wpływać na wyniki w znaczący sposób. To również środowiska, w których inwestycje w bezpieczeństwo stają się bardziej strategiczne.

Zabezpieczanie niepołączonego narzędzia chroni zadanie. Zabezpieczanie zintegrowanego systemu chroni proces biznesowy.

To jest miejsce, w którym rozróżnienie między adopcją na poziomie zadania a projektem na poziomie przepływu pracy staje się krytyczne. AI, który nie jest zintegrowany z podejmowaniem decyzji, będzie miał trudności z dostarczaniem mierzalnego wpływu. Bezpieczeństwo, które nie jest wyalignowane z tymi systemami podejmowania decyzji, będzie miało trudności z redukowaniem znaczącego ryzyka.

Zmiana musi nastąpić wcześniej niż później

Organizacje nie potrzebują mniej inicjatyw AI. Potrzebują więcej zamierzonych.

Pierwsza zmiana polega na tym, jak oceniany jest sukces AI. Jeśli wdrożenie nie zmienia sposobu podejmowania decyzji lub przepływu pracy w zespołach, jego wpływ pozostanie ograniczony, niezależnie od tego, jak szeroko jest przyjęte. Mierzenie sukcesu na poziomie przepływu pracy, a nie na poziomie zadania, dostarcza wyraźniejszego sygnału, gdzie AI naprawdę dostarcza wartość.

Druga zmiana polega na tym, jak priorytetowane są inwestycje w bezpieczeństwo. Zamiast rozdzielać kontrolę na każde eksperymentalne narzędzie, organizacje powinny skoncentrować ochronę wokół systemów, które wpływają na planowanie, operacje i podejmowanie decyzji. To są środowiska, w których ryzyko i wartość się krzyżują.

Trzecia zmiana jest strukturalna. Systemy AI wprowadzają nowe formy własności, które wykraczają poza tradycyjne granice aplikacji. Modele, dane szkoleniowe, potoki danych i wyjścia wygenerowane przez AI wymagają wyraźnej odpowiedzialności. Bez określonej własności, zarządzanie staje się niespójne, a luki w bezpieczeństwie są trudniejsze do identyfikacji.

Weźmie te zmiany, organizacje oddalają się od zabezpieczania aktywności i zbliżają się do zabezpieczania wyników.

Budowanie systemów AI, które mogą naprawdę skalować

Organizacje, które wyalignują adopcję AI z projektem na poziomie przepływu pracy, zyskują wyraźniejszą ścieżkę do wartości i kontroli.

Środki bezpieczeństwa stają się bardziej skuteczne, gdy są skupione na systemach, które mają największe znaczenie, a nie rozproszone na niepołączone eksperymenty. Liderzy zyskują lepszą widoczność, jak inwestycje w AI przekładają się na wpływ operacyjny. Z czasem programy AI stają się bardziej zrównoważone, ponieważ są budowane na strukturalnych systemach, a nie na nagromadzonych narzędziach.

Inwestycje w AI nie zwalniają tempa. Wydatki na bezpieczeństwo będą nadal rosły wraz z nimi. Różnica polega na tym, jak te inwestycje są stosowane.

Organizacje, które będą nadal skalować AI na poziomie zadania, znajdą się w sytuacji, w której będą zabezpieczać coraz większą powierzchnię niepołączonych narzędzi. Te, które zaprojektują AI na poziomie przepływu pracy, będą zabezpieczać systemy, które są naprawdę warte ochrony.