Pascal Geenens, VP Cyber Threat Intelligence, Radware – Wywiad z serii

Pascal Geenens, VP Cyber Threat Intelligence, Radware, jest badaczem bezpieczeństwa cybernetycznego i liderem technologicznym z ponad dwudziestoletnim doświadczeniem w dziedzinie technologii informacyjnych, bezpieczeństwa sieci i wywiadu zagrożeń. W Radware pomaga on kierować badaniami i przywództwem myśli w zakresie ewoluującego krajobrazu zagrożeń cybernetycznych, ze szczególnym uwzględnieniem ataków typu distributed denial-of-service, oprogramowania szkodliwego Internetu Rzeczy, zagrożeń zautomatyzowanych oraz rosnącego wykorzystania sztucznej inteligencji przez atakujących i obrońców. Geenens rozwija i utrzymuje honeypoty IoT jako część zespołu badawczego Radware i przeprowadził obszerną analizę zagrożeń, takich jak BrickerBot i Hajime. Przed dołączeniem do Radware pracował jako inżynier konsultant w Juniper Networks , doradzając głównym dostawcom usług chmurowych i komunikacyjnych w Europie, na Bliskim Wschodzie i w Afryce w zakresie strategii sieci określonych przez oprogramowanie, wirtualizacji funkcji sieciowych i automatyzacji centrów danych.

Radware to publicznie notowana spółka zajmująca się bezpieczeństwem cybernetycznym i dostarczaniem aplikacji, która pomaga przedsiębiorstwom chronić sieci, strony internetowe, aplikacje i interfejsy API w środowiskach fizycznych, chmurowych, hybrydowych i określonych przez oprogramowanie. Jej portfolio obejmuje ochronę przed atakami typu distributed denial-of-service z wykorzystaniem sztucznej inteligencji, firewalle aplikacji webowych, zarządzanie botami, zabezpieczenia interfejsów API, kontrolery dostarczania aplikacji oraz usługi awaryjne zarządzane. Łącząc analizę behawioralną, uczenie maszynowe, wywiad zagrożeń w skali chmury i automatyczne łagodzenie, technologia Radware jest zaprojektowana do identyfikowania działań malwersatywnych w czasie rzeczywistym, przy zachowaniu dostępu dla użytkowników legitymowanych i utrzymaniu dostępności i wydajności krytycznych usług cyfrowych.

Spędziłeś prawie trzy dekady w branży bezpieczeństwa cybernetycznego, od obsługi jądra IBM AIX i inżynierii infrastruktury do odkrywania botnetów, takich jak BrickerBot, JenX i Demonbot, a teraz kierujesz Threat Intelligence w Radware. Oto największe zmiany, których byliśmy świadkami w tym, jak atakujący innowują, oraz jak sztuczna inteligencja zmieniła Twoje oczekiwania dotyczące następnej generacji zagrożeń cybernetycznych?

Krajobraz zagrożeń uległ fundamentalnej zmianie z samotnych hakerów, którzy byli wysoko wykwalifikowanymi entuzjastami, w cyberprzestępców, którzy są wysoko zorganizowanymi, wyrafinowanymi przedsiębiorcami. W przeszłości haker był zwykle motywowany samym wyzwaniem technicznym. Dziś połączenie przyspieszenia cyfrowego i generatywnej sztucznej inteligencji skomercjalizowało całą operację, napędzając dojrzałą gospodarkę Crime-as-a-Service (CaaS). Aktorzy malwersacyjni podążali za modelem korporacyjnym Software-as-a-Service (SaaS), sprzedając zaawansowane narzędzia każdemu. Pozwala to na to, aby całkowici nowicjusze uruchamiali zaawansowane ataki na dużą skalę. Im więcej nasz ślad cyfrowy rośnie co roku, tym bardziej dostępna powierzchnia ataku i możliwości eksploatacji finansowej rosną wraz z nim.

Sztuczna inteligencja napędza następny rozdział tej ewolucji na dwa odrębne sposoby.

Po pierwsze, demokratyzuje bezpieczeństwo cybernetyczne. Daje amatorskim atakującym natychmiastowy zastrzyk możliwości, jednocześnie pomagając głównym syndykatom usprawnić swoje operacje, wygładzić interfejsy użytkownika i lepiej marketingować swoje usługi malwersacyjne.

Po drugie, i co ważniejsze, pojawienie się agentywnej sztucznej inteligencji w połączeniu z najnowszymi modelami jest automatyzacją cyklu życia podatności. Poruszamy się w kierunku rzeczywistości operacyjnej, w której maszyny mogą samodzielnie skanować sieci, odkrywać podatności i bronić się przed atakami niemal całkowicie samodzielnie, pracując 24/7 i wykonując akcje o wiele szybciej niż jakikolwiek obrońca ludzki.

Sztuczna inteligencja dramatycznie obniża techniczną barierę dla atakujących. Które ofensywne możliwości sztucznej inteligencji najbardziej Cię niepokoją w ciągu najbliższych trzech do pięciu lat, a które z nich obecnie otrzymują więcej uwagi, niż im się należy?

Obszar, który wymaga najbliższej uwagi, to sztuczna inteligencja wspomagana odkrywanie podatności i ich eksploatacja. W momencie, gdy usterka zostaje ujawniona, rozpoczyna się wyścig. Atakujący wykorzystują sztuczną inteligencję do natychmiastowej analizy usterki, mapowania miejsc, w których się znajduje, oraz generowania i testowania wariantów eksploatacji. To całkowicie kompresuje czas eksploatacji, który już wcześniej poruszał się zbyt szybko dla większości procesów zarządzania poprawkami w przedsiębiorstwach.

Równocześnie obserwujemy znaczącą zmianę w kierunku lokalnych, ciągłych systemów sztucznej inteligencji. Konkretnie chodzi o pojawienie się “lokalnych agentów z pulsem”. Przykładem jest OpenClaw i niedawne ogłoszenie Microsoftu (MSFT ), że będą integrować OpenClaw w pasku zadań każdego pracownika. W przeciwieństwie do standardowych chmurowych asystentów, te lokalne agenci działają nieprzerwanie w tle, bezpośrednio na maszynie pracownika. Działają one poprzez ciągłe pętle i naśladują działania ludzkie, takie jak wpisywanie tekstu i nawigacja za pomocą automatyzacji przeglądarki. To sprawia, że standardowe systemy bezpieczeństwa punktu końcowego stają się całkowicie niezdolne do odróżnienia pracownika od agenta automatycznego.

Nadmierna uwaga poświęcana jest potencjalnemu pełnemu, autonomicznemu, wykorzystującemu sztuczną inteligencję atakowi, który mógłby spontanicznie zhakować złożone przedsiębiorstwa na dużą skalę od podstaw. To może pojawić się kiedyś, ale nie jest to dzisiejszy problem. Dzisiejszym problemem są wysoko wykwalifikowani atakujący z lepszymi narzędziami i automatyzacją oraz większą liczbą mniej doświadczonych atakujących, którzy mogą więcej osiągnąć, niż wcześniej.

Okno pomiędzy ujawnieniem podatności a aktywną eksploatacją ciągle się kurczy. Jak bardzo sztuczna inteligencja przyspieszyła ten czas, i jakie zmiany powinny zespoły bezpieczeństwa wprowadzić, aby utrzymać przewagę?

To jest wyścig podwójny: z jednej strony mamy wyścig, by odkryć, naprawić i ujawnić nowe podatności przed tym, zanim zrobią to złe osoby, z drugiej strony mamy wyścig, by załatać podatne wdrożenia oprogramowania przed tym, zanim złe osoby wykorzystają je. Sztuczna inteligencja jest na pierwszym planie w obu tych wyścigach.

Obrońcy muszą radzić sobie z coraz większą liczbą podatności i mają coraz mniej czasu na reakcję. Jak tylko podatność zostaje ujawniona, atakujący poruszają się szybko przez podstawy. Co jest dotknięte? Czy jest to dostępne z Internetu? Czy eksploatację można odtworzyć i dostosować do pracy w różnych środowiskach? Sztuczna inteligencja pomaga w każdym z tych kroków, podsumowując usterkę, przeglądając kod proof-of-concept, sugerując poprawki i automatyzując skanowanie, eksploatowanie i przetwarzanie wyników.

Poprawianie nie może być jedyną rzeczą, na którą zwracają uwagę zespoły bezpieczeństwa. To konieczne, ale zwykle jest wolniejsze niż czas atakującego, zwłaszcza dla aplikacji produkcyjnych i internetowych oraz interfejsów API. Zespoły muszą wiedzieć, co jest narażone, co jest eksploatowalne w praktyce i które usługi biznesowe oraz zasoby będą dotknięte, gdy zostaną zaatakowane.

Aby zamknąć to krytyczne okno narażenia, obrońcy muszą przesunąć się od reaktywnej, poprawiającej mentalności do zautomatyzowanego, chroniącego modelu, wdrażając środowiskowe, czasowe mechanizmy obrony. Zamiast polegać na ogólnych, jednym rozmiarem pasującym do wszystkich sygnaturach lub zmuszać zespoły operacyjne do wprowadzania niezweryfikowanych aktualizacji oprogramowania do produkcji, organizacje powinny zacząć polegać na ciągłym, zautomatyzowanym odkrywaniu punktów końcowych API i logiki biznesowej aplikacji online, wraz z zautomatyzowanym wykazem oprogramowania (SBOM), połączonym z wywiadem zagrożeń na temat najnowszych podatności i zagrożeń, aby dynamicznie generować dostosowane wirtualne łaty. Wdrożenie tych kontekstowo świadomych ochron przed aplikacjami webowymi i punktami końcowymi API blokuje próby eksploatacji na warstwie czasu wykonywania, zanim dotrą do podatnej logiki aplikacji. Ten rodzaj zautomatyzowanego przechwycenia daje zespołom bezpieczeństwa okno naprawy, pozwalając im dokładnie przetestować i bezpiecznie wdrożyć aktualizacje oprogramowania w zarządzalnym terminie, bez narażania biznesu na natychmiastowe ryzyko lub przestoje.

Przedsiębiorstwa szybko wdrażają aplikacje i agenty sztucznej inteligencji, które silnie polegają na interfejsach API. Czy przedsiębiorstwa zaniżają ryzyko bezpieczeństwa, jakie to stwarza, i jakie największe błędy widzisz dzisiaj?

Tak, wiele przedsiębiorstw nadal zaniża te ryzyko, ponieważ traktują agenty sztucznej inteligencji jako aplikacje do zabezpieczenia i bezpieczeństwo sztucznej inteligencji jako kwestię prywatności danych, a nie jako zagrożenie operacyjne. Problem, jaki widzimy najczęściej, to fundamentalne niezrozumienie agencji agenta. Aby lokalny agent sztucznej inteligencji był naprawdę skuteczny i zaoszczędził pracownikowi czasu, użytkownik musi przekazać wszystkie swoje uprawnienia dostępu do niego. To oznacza, że agent efektywnie dziedziczy tożsamość pracownika i zaufany dostęp do aplikacji korporacyjnych, sesji przeglądarki i plików lokalnych. Nawet jeśli organizacja aktywnie monitoruje i ogranicza łączniki agenta sztucznej inteligencji, te lokalne agenci mogą wchodzić w interakcje z systemami, naśladując zachowania ludzkie, takie jak klikanie i wpisywanie za pomocą automatyzacji przeglądarki. Systemy bezpieczeństwa korporacyjne stają się całkowicie niezdolne do odróżnienia prawdziwego pracownika od zautomatyzowanego agenta.

To przekazywanie zaufania staje się wysoce niebezpieczne ze względu na to, jak LLM przetwarza informacje: modele sztucznej inteligencji nie rozróżniają danych i instrukcji. Gdy agent otrzymuje szeroki dostęp do systemu, aby wykonać swoją pracę, staje się niezwykle łatwo dla aktora zagrożenia, aby oszukać agenta za pomocą pośredniej iniekcji promtu. Atakujący mogą po prostu umieścić instrukcje malwersacyjne wewnątrz e-maila, pliku PDF lub strony internetowej, z którymi agent ma do czynienia. Model przetwarza niezaufane dane jako polecenie, całkowicie omijając świadomość użytkownika. Nagle, proste narzędzie mające na celu podsumowanie dokumentów jest manipulowane w celu autonomicznego eksportowania wrażliwych informacji, modyfikowania danych korporacyjnych lub instalowania oprogramowania malwersacyjnego, wszystko to ukrywając się za pośrednictwem pośrednich poświadczeń użytkownika.

Po latach badania oprogramowania szkodliwego IoT i botnetów, jak widzisz przyszłość botnetów w kontekście sztucznej inteligencji? Czy możemy oczekiwać autonomicznych botnetów, które będą w stanie dostosowywać swoje taktyki bez bezpośredniej interwencji człowieka?

Pasterze botnetów nigdy nie siedzieli bezczynnie. Operatorzy rotują ładunki, wdrażają nowe podatności, nieustannie skanują stare urządzenia i zmieniają swoją infrastrukturę, gdy obrońcy ich doganiają. Agenci sztucznej inteligencji mogą poważnie przyspieszyć te cykle, czy to w triażu podatności, generowaniu eksploatacji czy zarządzaniu infrastrukturą.

Autonomiczne botnety nie są fikcją. BrickerBot był jednym z pierwszych autonomicznych botów. Czekali oni cicho i czekali, aż urządzenia zainfekowane Mirai spróbują skompromitować urządzenie-gospodarza, a następnie odwzajemniali się, kontratakując urządzenie winowajcę, wykorzystując odcisk palca urządzenia i wybierając najbardziej odpowiednie podatności, aby uzyskać przyczółek na urządzeniu. Ostatecznie BrickerBot zniszczył zainfekowane urządzenie. Bot działał jak system ekspertowy oparty na regułach, podobny do wczesnych systemów sztucznej inteligencji. Innym istotnym botnetem, który zrobił wrażenie na społeczności bezpieczeństwa ponad dekadę temu, był Hajime. Był to jeden z pierwszych botnetów peer-to-peer. Wykorzystując rozproszone tabele hashujące Torrent, Hajime mógł być kontrolowany i aktualizowany w sposób zdecentralizowany, nie wymagając centralnej infrastruktury dowodzenia i kontroli, a przez to był niemal nie do pokonania.

Istnieją dyskusje w społeczności bezpieczeństwa na temat możliwości botnetu agentywnego zbudowanego na ramach lokalnych agentów sztucznej inteligencji, takich jak OpenClaw. Nie są to tradycyjne botnety oparte na oprogramowaniu malwersacyjnym, ale botnety napędzane całkowicie przez manipulację kontekstem. Gdy lokalni agenci przetwarzają dane zewnętrzne, atakujący nie muszą znajdować tradycyjnej eksploatacji oprogramowania, aby przejąć te maszyny; po prostu muszą oszukać podstawowy model LLM. W ten sposób atakujący uzyskują dostęp do potężnej wykonywalności terminala, automatyzacji przeglądarki i potencjalnie wielu innych “umiejętności”.

Społeczność dyskutuje o kilku kluczowych elementach, które sprawiają, że szeroko rozpowszechniony “botnet OpenClaw” jest wykonalny:

• Ponieważ OpenClaw ciągle pobiera dane zewnętrzne (takie jak monitorowanie problemów GitHub, czytanie nadchodzących wiadomości Slack/Telegram lub podsumowanie stron internetowych), atakujący mogą osadzić instrukcje malwersacyjne w danych publicznie dostępnych. Jeśli agent użytkownika przetwarza te dane, wstrzyknięty promt może zastąpić instrukcje systemu i nakazać agentowi połączenie się z kontrolowanym przez atakującego serwerem C2.
• Badacze bezpieczeństwa zauważyli, że agenci OpenClaw mają możliwość wykorzystania kanałów komunikacji peer-to-peer lub agent-to-agent z szyfrowaniem (takich jak umiejętności opracowane przez społeczność, jak ClaudeConnect). Przestępcy cybernetyczni zdają sobie sprawę, że mogą wykorzystać te kanały komunikacji, aby pozwolić zhakowanym agentom na koordynowanie ze sobą w sposób niezauważalny, całkowicie omijając tradycyjne zapory sieciowe i monitorowanie punktów końcowych.
• Skany bezpieczeństwa ujawniły, że dziesiątki tysięcy naiwnych użytkowników uruchamiają instancje OpenClaw na serwerach chmurowych i przypadkowo narażają interfejsy zarządzania HTTP bezpośrednio na Internet. Ten ogromny pulpit narażonych, uprzywilejowanych środowisk daje aktorom zagrożenia ogromną, wcześniej istniejącą bazę do ataku.
• Ponieważ OpenClaw opiera się silnie na “umiejętnościach” pobieranych z publicznych repozytoriów, takich jak ClawHub, atakujący uploadują pozornie nieszkodliwe umiejętności (takie jak “Co by zrobił Elon”), które zawierają ukryte instrukcje. Po zainstalowaniu agent jest cicho nakazany do wykonania poleceń w tle lub instalacji oprogramowania malwersacyjnego, skutecznie rekrutując maszynę-gospodarza do botnetu, bez że użytkownik kiedykolwiek widzi alert o podejrzanym pliku.

Ostatecznie konsensus w społeczności jest taki, że OpenClaw jest celem numer jeden dla pierwszego prawdziwego botnetu agentywnego. Zamiast botnetu złożonego z skompromitowanych routerów lub urządzeń IoT uruchamiających skrypty DDoS, botnet OpenClaw składałby się z wysoko wydajnych, w pełni uwierzytelnionych maszyn, którymi atakujący mogliby sterować, aby wykradać poświadczenia, modyfikować dane lub orkiestrować ogromne ataki łańcuchowe z prędkością maszyny.

Kampanie haktywistów i duże ataki DDoS stają się coraz bardziej powszechne. Czy te grupy stają się bardziej wyrafinowane, czy sztuczna inteligencja i łatwo dostępne narzędzia atakowe po prostu sprawiają, że zaawansowane ataki są bardziej dostępne dla szerszego grona odbiorców?

Obie odpowiedzi są prawdziwe. Niektóre grupy haktywistów stały się naprawdę bardziej zorganizowane. Niektóre grupy, takie jak ikoniczny NoName057(16), aktywnie prowadzą ataki DDoS na codzień od lutego 2022 roku. Mieli czas, aby udoskonalić swoje narzędzia, zbudować lojalną bazę i nauczyć się, jak wybierać cele, które przyciągają uwagę, czas ich ataków wokół wydarzeń politycznych i wykorzystywać publiczne roszczenia, aby wywierać presję. Dla haktywistów wiadomość jest ważniejsza niż sama perturbacja.

Równocześnie narzędzia stały się łatwiejsze do zdobycia, niż kiedyś. Usługi DDoS-for-hire, botnety, sieci proxy, wycieki skryptów i tutoriale pozwoliły każdemu z ograniczonymi umiejętnościami dołączyć do kampanii i czuć się częścią czegoś większego. Sztuczna inteligencja dodaje asystę kodowania, badanie celów, tłumaczenie, kampanie informacyjne i podstawową automatyzację na szczycie.

Ofiary odczuwają wpływ tak czy inaczej, czy atak pochodzi od wyrafinowanej grupy napędzanej ideologią, czy od samotnego wilka wynajętego przez konkurenta, który wynajmuje infrastrukturę ataku DDoS. Zatrzymany serwer internetowy wpływa na klientów. Niedostępna usługa publiczna zauważalna jest przez obywateli. Wystarczająco dużo szumu, a dyrektorzy i zespoły komunikacyjne muszą zareagować, niezależnie od tego, kto jest za klawiaturą.

Podczas gdy przedsiębiorstwa wyścigają się, aby zintegrować generatywną sztuczną inteligencję z ich operacjami, jakie nowe powierzchnie ataku pojawiają się, których liderzy bezpieczeństwa mogą jeszcze w pełni nie doceniać?

Odpowiedź jest określona przez to, do czego agent sztucznej inteligencji ma dostęp. Gdy tylko ma dostęp do dokumentów wewnętrznych, kodu, pipeline CI/CD, kluczy API lub narzędzi devops, powierzchnia ataku rozprzestrzenia się szybko. Aby być użytecznym, agent potrzebuje agencji, w przeciwnym razie jest nie więcej niż wyrafinowanym chatbotem. Pytanie brzmi, co agent jest dopuszczony do robienia. Jakie poufne informacje może przeczytać? Czy może zmienić bilet lub konto bankowe klienta w CRM? Czy może uruchomić kod? Czy może wywołać zewnętrzną usługę? Czy może ujawnić dane przez wywołanie narzędzia?

Indirect prompt injection staje się poważniejsze w takim środowisku. Jeśli agent przetwarza niezaufane treści i następnie działa, promt może stać się ścieżką do przepływu pracy. To różni się od chatbota odpowiadającego na pytanie.

Sztuczna inteligencja jest obecnie wykorzystywana zarówno przez atakujących, jak i obrońców. Czy uważasz, że defensywna sztuczna inteligencja ostatecznie utrzyma tempo z ofensywną sztuczną inteligencją, czy organizacje będą musiały stawić czoła coraz bardziej asymetrycznej bitwie w nadchodzących latach?

Sztuczna inteligencja tworzy dysproporcję, która faworyzuje atakującego. Nie jest to dlatego, że modele defensywnej sztucznej inteligencji są gorsze. W rzeczywistości użycie sztucznej inteligencji w obronie jest bardzo skuteczne w filtrowaniu codziennego szumu i przyspieszaniu reakcji na incydenty. Problem polega na strukturalnej lukie w szybkości operacyjnej i ograniczeniach.

Historycznie, gdy podatność była odkryta, zespoły bezpieczeństwa miały małą ilość czasu, aby wdrożyć poprawkę, zanim atakujący ją wykorzystali. Dziś agentywna sztuczna inteligencja skompresowała ten czas do niemal zera. Zautomatyzowane narzędzia mogą znaleźć usterkę i natychmiast wygenerować ukierunkowaną eksploatację. Tradycyjny, ludzki proces zarządzania poprawkami po prostu nie może konkurować z zautomatyzowanym potokiem uruchamianym w ciągłych pętlach ataku.

Ponadto obie strony działają pod całkowicie różnymi regułami. Atakujący nie mają ograniczeń dotyczących zgodności, etyki ani przestojów operacyjnych. Mogą wdrożyć niestandardowe agenty sztucznej inteligencji, aby uruchomić nieograniczone, duże kampanie. Obrońcy, z drugiej strony, muszą działać deterministycznie. Defensywna sztuczna inteligencja nie może po prostu odizolować centralnej bazy danych produkcyjnej lub odwołać poświadczeń wykonawczych na podstawie wysokiej prawdopodobieństwa anomalii. Obrońcy wymagają weryfikacji, aby chronić ciągłość biznesu, a opóźnienie wprowadzane przez te niezbędne zabezpieczenia jest dokładnie tym, co wykorzystują zautomatyzowane ataki.

Ostatecznie przywództwo w bezpieczeństwie nie będzie określone przez to, kto posiada “mądrzejszą” sztuczną inteligencję, ale przez to, kto rozwiązuje tę architektoniczną lukę szybkości. Przedsiębiorstwa, które traktują sztuczną inteligencję jako tylko standardowe narzędzie bezpieczeństwa, zostaną przytłoczone przez prędkość nowoczesnych zagrożeń. Sukces wymaga przebudowy infrastruktury, aby umożliwić defensywnej sztucznej inteligencji izolować i zawierać zagrożenia w sposób autonomiczny.

Wiele zespołów bezpieczeństwa nadal polega na tradycyjnych metrykach bezpieczeństwa i metodach wykrywania. Podczas gdy ataki stają się szybsze i bardziej zautomatyzowane, jakie wskaźniki lub zachowania powinny organizacje priorytetowo traktować?

Większość metryk bezpieczeństwa nadal koncentruje się głównie na aktywności: wyzwanych alertach, zablokowanych atakach lub znalezionych podatnościach. Chociaż te liczby są przydatne do pomiaru reakcji na incydenty, nie zapewniają one wglądu w rzeczywistą ekspozycję organizacji. Mówią one obrońcom, co złapali, ale nie pokazują im ślepych punktów, które pozostają otwarte, aż atakujący je wykorzystają.

W erze zautomatyzowanych zagrożeń poleganie na reaktywnych metrykach nie jest już wykonalne. Jak tylko organizacja zostaje zaatakowana, szybkość ataku wymaga proaktywnego zarządzania. Zarządzanie powierzchnią ataku w czasie rzeczywistym jest teraz niezbędne. Obrońcy potrzebują ciągłej widoczności w określonych operacyjnych ryzykach: które krytyczne aplikacje i interfejsy API są narażone na Internet? Jakie podatności istnieją w nich?

Prawdziwa wytrzymałość pochodzi z połączenia tego kontekstu powierzchni ataku z behawioralną detekcją i wywiadem zagrożeń. Poprzez zrozumienie tego, co jest narażone i jak się zachowuje, zespoły bezpieczeństwa mogą przewidzieć i zablokować wcześniej nieznane ataki.

Ostatecznie operacyjna szybkość pozostaje krytycznym wskaźnikiem sukcesu, ale obrońcy muszą mierzyć odpowiednią szybkość: jak szybko identyfikujemy, że nowa podatność dotyka narażonego systemu, i jak szybko możemy umieścić kontrolę kompensującą, aby ją chronić? Ta konkretna szybkość jest najbardziej prawdziwym miernikiem, czy program bezpieczeństwa może wytrzymać ataki o wysokiej szybkości na dużą skalę.

Spójrzając w przyszłość, przez pięć lat, jakie będzie największe wyzwanie bezpieczeństwa w erze sztucznej inteligencji, i co powinni zacząć robić dzisiaj CISO i zespoły bezpieczeństwa, aby się przygotować?

Spójrzając w przyszłość, przez pięć lat, największym wyzwaniem bezpieczeństwa w erze sztucznej inteligencji będzie zarządzanie i zabezpieczanie autonomicznych relacji nie-ludzkich. Gdy organizacje poruszają się od samodzielnych chatbotów w kierunku połączonych, wieloagentowych systemów, które posiadają agencję do wykonywania transakcji finansowych, modyfikowania kodu źródłowego i zmiany infrastruktury chmury, tradycyjne granice bezpieczeństwa zaczną się rozpaść. W ciągu pięciu lat przedsiębiorstwo nie będzie już zarządzało tylko pracownikami ludzkimi i statycznym oprogramowaniem; będzie nadzorować tysiące autonomicznych agentów sztucznej inteligencji, które wchodzą w interakcje ze sobą, danymi korporacyjnymi i zewnętrznymi systemami trzecich stron.

Widoczność agentywnych systemów w całej organizacji będzie niezbędna. Przed tym, zanim agenci się rozprzestrzenią, CISO powinni ustanowić scentralizowany rejestr, który definiuje jasne własność dla każdego wdrożonego agenta, modele danych i repozytoria, do których agent jest upoważniony do odczytu, oraz narzędzia, interfejsy API i polecenia systemowe, które jest dozwolone wywołać. CISO powinni również nakazać, aby każde wdrożenie technologii agentywnej wykorzystywało standardowe, weryfikowalne protokoły łączności, aby zapewnić, że wszystkie integracje narzędzi są ściśle rejestrowane.

W ciągu pięciu lat obrona przed interfejsami API i aplikacjami online nie będzie już tylko o zarządzaniu konfiguracjami, blokowaniu znanych sygnatur i łataniu podatności; będzie to wojna autonomiczna, oparta na logice. Gdy atakujący wdrożą w pełni zautomatyzowane, kontekstowo świadome potoki agentywne, które mogą odwrócić logikę biznesową aplikacji w ciągu kilku sekund od jej odkrycia, tradycyjne firewalle aplikacji webowych staną się przestarzałe. Obrona tego krajobrazu będzie wymagała przejścia do autonomicznych, kontekstowo napędzanych architektur.

Atakujący będą wykorzystywać modele frontierowe, aby całkowicie zautomatyzować cykl odkrywania i eksploatacji podatności logicznych (takich jak Broken Object Level Authorization, lub BOLA). Zamiast szukać znanych błędów oprogramowania, zautomatyzowane boty atakujące będą mapować cały schemat interfejsu API aplikacji, zrozumieć, jak przepływa dane, i dynamicznie generować dostosowane sekwencje ładunków, aby manipulować logiką biznesową. Ponieważ te ataki wykorzystują prawidłową składnię i legitime wywołania interfejsu API, progiem oparte na szybkości i wykrywaniu sygnatur będzie całkowicie ślepe wobec nich.

Aby przeciwdziałać zautomatyzowanemu odkrywaniu, obrońcy muszą osiągnąć widoczność w czasie rzeczywistym, ciągłą widoczność swojej własnej narażonej architektury. Zautomatyzowane bezpieczeństwo musi być połączone z dynamicznym wykazem oprogramowania (SBOM), aby natychmiast połączyć nowe globalne ujawnienie podatności z konkretnymi wierszami kodu, które są narażone na Internet. Ponieważ zautomatyzowane ataki będą się maskować jako ruch użytkowników legitymowanych, obrona musi przesunąć się całkowicie do kontekstowo behawioralnej analizy. Defensywna sztuczna inteligencja będzie profilować standardowe zachowanie każdego klienta interfejsu API, tokena i tożsamości użytkownika. Będzie monitorować intencję i sekwencję wywołań interfejsu API, a nie tylko dane wejściowe. Jeśli zautomatyzowany skrypt atakującego zacznie szwankować legitime wywołania interfejsu API w anomalnej sekwencji, aby wydobyć dane lub przetestować podatność logiczną, system musi rozpoznać strukturalne odchylenie od intencji i natychmiast interweniować.

Prawdziwym miernikiem wytrzymałości będzie, jak szybko organizacja może skompresować okno pomiędzy narażeniem podatności a jej naprawą. Czekanie na zespoły developerskie, aby napisały, przetestowały i wdrożyły aktualizacje kodu do produkcji, będzie fatalną strategią. Prawdziwa ochrona będzie polegała na zautomatyzowanym, kontekstowo świadomym wirtualnym łataniu na warstwie czasu wykonywania. Poprzez karmienie defensywnych silników sztucznej inteligencji na brzegu bezpośrednio danymi wywiadu zagrożeń i odkrywania interfejsu API, infrastruktura automatycznie generuje i wdraża dostosowane wirtualne łaty, aby przechwytywać i blokować próby eksploatacji, zanim kiedykolwiek dotkną podatnej logiki aplikacji.

Dziękujemy za wspaniały wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Radware.