Walka z AI przy użyciu AI w nowoczesnym krajobrazie zagrożeń

Nie jest to szczególnie zaskakujące, aby powiedzieć, że AI dramatycznie zmienił branżę cyberbezpieczeństwa. Zarówno atakujący, jak i obrońcy korzystają z sztucznej inteligencji, aby podnieść swoje możliwości, każdy starając się pozostać o krok przed drugim. Ta gra w kotka i myszkę nie jest niczym nowym – atakujący próbowali wyprzedzić zespoły bezpieczeństwa przez dziesięciolecia – ale pojawienie się sztucznej inteligencji wprowadziło nowy, często nieprzewidywalny element do dynamiki. Atakujący na całym świecie cieszą się perspektywą wykorzystania tej nowej technologii do opracowania innowacyjnych, nigdy wcześniej niewidzianych metod ataku.

Przynajmniej, taka jest percepcja. Ale rzeczywistość jest trochę inna. Chociaż atakujący coraz częściej wykorzystują AI, głównie używają go do zwiększenia skali i złożoności swoich ataków, doskonaląc swoje podejście do istniejących taktyk, zamiast łamać nowy grunt. Myślenie tutaj jest jasne: po co wydawać czas i wysiłek na rozwój metod ataku jutra, gdy obrońcy już mają trudności z powstrzymaniem ataków dzisiejszych? Na szczęście, nowoczesne zespoły bezpieczeństwa wykorzystują również możliwości AI – wiele z nich pomaga wykrywać oprogramowanie szkodliwe, próby phishingu i inne powszechne taktyki ataku z większą szybkością i dokładnością. Podczas gdy “wyścig zbrojeń AI” między atakującymi a obrońcami trwa, będzie coraz ważniejsze dla zespołów bezpieczeństwa, aby zrozumieć, jak przeciwnicy faktycznie wdrożili tę technologię – i upewnić się, że ich własne wysiłki są ukierunkowane w odpowiednim miejscu.

Jak atakujący wykorzystują AI

Pomysł półautonomicznego AI, które jest wdrożone w celu systematycznego włamania się do obron organizacji, jest przerażający, ale (na razie) pozostaje w sferze powieści science fiction. Jest prawdą, że AI rozwinął się w niezwykłym tempie w ciągu ostatnich kilku lat, ale nadal jesteśmy daleko od tego rodzaju sztucznej inteligencji ogólnej (AGI), która mogłaby idealnie naśladować ludzkie wzorce myślenia i zachowania. Nie mówiąc, że dzisiejszy AI nie jest imponujący – na pewno jest. Ale narzędzia AI generatywne i duże modele językowe (LLM) są najbardziej skuteczne w syntezowaniu informacji z istniejącego materiału i generowaniu małych, iteracyjnych zmian. Nie mogą stworzyć czegoś całkowicie nowego samodzielnie – ale nie myśl, że zdolność do syntezowania i iterowania jest niezwykle przydatna.

W praktyce oznacza to, że zamiast opracowywać nowe metody ataku, przeciwnicy mogą raczej podnieść swoje obecne. Korzystając z AI, atakujący mogą wysłać miliony e-maili phishingowych, zamiast tysięcy. Mogą również użyć LLM, aby stworzyć bardziej przekonywującą wiadomość, oszukując więcej odbiorców, aby kliknęli na złośliwy link lub pobrali plik z zainfekowanym oprogramowaniem. Taktyki takie jak phishing są skutecznie grą liczb: ogromna większość ludzi nie da się nabrać na e-mail phishingowy, ale jeśli miliony ludzi otrzymają go, nawet 1% wskaźnik powodzenia może skutkować tysiącami nowych ofiar. Jeśli LLM mogą zwiększyć ten 1% wskaźnik powodzenia do 2% lub więcej, oszuści mogą skutecznie podwoić skuteczność swoich ataków z niewielkim lub żadnym wysiłkiem. To samo dotyczy oprogramowania szkodliwego: jeśli niewielkie modyfikacje kodu oprogramowania szkodliwego mogą skutecznie zamaskować je przed narzędziami wykrywania, atakujący mogą uzyskać znacznie więcej korzyści z jednego programu oprogramowania szkodliwego, zanim będą musieli przerzucić się na coś nowego.

Inny element, który jest ważny, to szybkość. Ponieważ ataki oparte na AI nie są ograniczone przez ludzkie ograniczenia, mogą często prowadzić całą sekwencję ataku z znacznie szybszą szybkością niż operator ludzki. Oznacza to, że atakujący mogą potencjalnie włamać się do sieci i dotrzeć do najcenniejszych lub najbardziej wrażliwych danych ofiary, zanim zespół bezpieczeństwa nawet otrzyma alert, nie mówiąc już o odpowiedzi na niego. Jeśli atakujący mogą poruszać się szybciej, nie muszą być tak ostrożni – co oznacza, że mogą prowadzić głośniejsze, bardziej burzliwe działania bez zostania zatrzymanymi. Nie robią nic nowego tutaj, ale poprzez przyspieszanie swoich ataków, mogą wyprzedzić obronę sieci w potencjalnie zmieniający sposób.

To jest klucz do zrozumienia, jak atakujący wykorzystują AI. Oszustwa socjalne i programy oprogramowania szkodliwego są już skutecznymi wektorami ataku – ale teraz przeciwnicy mogą uczynić je jeszcze bardziej skutecznymi, wdrożyć je szybciej i działać na znacznie większą skalę. Zamiast odpierać dziesiątki prób dziennie, organizacje mogą odpierać setki, tysiące lub nawet dziesiątki tysięcy szybkich ataków. I jeśli nie mają rozwiązań lub procesów, które umożliwiają im szybkie wykrywanie tych ataków, identyfikowanie, które z nich stanowią prawdziwe, realne zagrożenia, i skuteczne ich usuwanie, narażają się na niebezpieczeństwo ataków. Zamiast zastanawiać się, jak atakujący mogą wykorzystać AI w przyszłości, organizacje powinny wykorzystywać rozwiązania AI, aby radzić sobie z istniejącymi metodami ataku na większą skalę.

Czy AI staje się przewagą zespołów bezpieczeństwa

Eksperci ds. bezpieczeństwa na każdym poziomie zarówno biznesu, jak i rządu szukają sposobów na wykorzystanie AI do celów obronnych. W sierpniu amerykańska Agencja Zaawansowanych Projektów Badawczych Obrony (DARPA) ogłosiła finalistów swojego niedawnego wyzwania AI Cyber Challenge (AIxCC), które nagradza zespoły badawcze zajmujące się szkoleniem LLM do identyfikacji i naprawy luk w zabezpieczeniach opartych na kodzie. Wyzwanie jest wspierane przez głównych dostawców AI, w tym Google, Microsoft i OpenAI, którzy zapewniają wsparcie technologiczne i finansowe dla tych wysiłków, aby wzmocnić bezpieczeństwo oparte na AI. Oczywiście, DARPA to tylko jeden przykład – można prawie potrząsnąć gałęzią w Dolinie Krzemowej, aby trafić na tuzin założycieli startupów, którzy chcieliby opowiedzieć o swoich zaawansowanych nowych rozwiązaniach bezpieczeństwa opartych na AI. Wystarczy powiedzieć, że znalezienie nowych sposobów na wykorzystanie AI do celów obronnych jest wysokim priorytetem dla organizacji wszystkich typów i rozmiarów.

Ale podobnie jak atakujący, zespoły bezpieczeństwa często osiągają największy sukces, gdy używają AI do wzmocnienia swoich istniejących możliwości. Z atakami, które występują w coraz większej skali, zespoły bezpieczeństwa są często rozciągnięte – zarówno pod względem czasu, jak i zasobów – co utrudnia im odpowiednie identyfikowanie, badanie i usuwanie każdego alertu bezpieczeństwa, który pojawia się. Po prostu nie ma czasu. Rozwiązania AI odgrywają ważną rolę w łagodzeniu tego wyzwania, zapewniając automatyczne możliwości wykrywania i reagowania. Jeśli jest coś, co AI jest dobrze w stanie zrobić, to identyfikowanie wzorców – a to oznacza, że narzędzia AI są bardzo dobre w rozpoznawaniu niezwykłego zachowania, zwłaszcza jeśli zachowanie to odpowiada znanym wzorcom ataku. Ponieważ AI może przeglądać ogromne ilości danych znacznie szybciej niż ludzie, umożliwia to zespołom bezpieczeństwa zwiększenie swoich operacji w znacznym stopniu. W wielu przypadkach te rozwiązania mogą nawet zautomatyzować podstawowe procesy usuwania, przeciwdziałając atakom na niskim poziomie bez potrzeby interwencji człowieka. Mogą być również wykorzystywane do zautomatyzowania procesu walidacji bezpieczeństwa, ciągłego “pukania” i “szczypania” w obronę sieci, aby upewnić się, że funkcjonują one zgodnie z zamierzeniem.

Ważne jest również, aby zauważyć, że AI nie pozwala tylko zespołom bezpieczeństwa na szybsze identyfikowanie potencjalnej aktywności ataku – ale również dramatycznie poprawia ich dokładność. Zamiast ścigania fałszywych alarmów, zespoły bezpieczeństwa mogą być pewne, że gdy rozwiązanie AI alarmuje ich o potencjalnym ataku, jest ono godne ich natychmiastowej uwagi. To jest element AI, o którym nie mówi się prawie wystarczająco – podczas gdy wiele dyskusji koncentruje się na tym, że AI “zastępuje” ludzi i odbiera im pracę, rzeczywistość jest taka, że rozwiązania AI umożliwiają ludziom lepsze i bardziej efektywne wykonywanie swojej pracy, a także zmniejszają wypalenie, które pochodzi z wykonywania nudnych i powtarzalnych zadań. Zamiast mieć negatywny wpływ na operatorów ludzkich, rozwiązania AI zajmują się większością “pracy”, związanej z pozycjami bezpieczeństwa, pozwalając ludziom skupić się na bardziej interesujących i ważnych zadaniach. W momencie, gdy wypalenie jest na najwyższym poziomie, a wiele firm ma trudności z przyciągnięciem nowych talentów bezpieczeństwa, poprawa jakości życia i satysfakcji z pracy może mieć ogromny pozytywny wpływ.

To jest prawdziwa zaleta dla zespołów bezpieczeństwa. Nie tylko rozwiązania AI mogą pomóc im skalować swoje operacje, aby skutecznie przeciwdziałać atakom wykorzystującym narzędzia AI – ale mogą również utrzymać profesjonalistów bezpieczeństwa szczęśliwszych i bardziej zadowolonych w swoich rolach. To rzadkie rozwiązanie “wygranych” dla wszystkich stron, i powinno pomóc dzisiejszym firmom zrozumieć, że czas, aby zainwestować w rozwiązania bezpieczeństwa oparte na AI, to teraz.

Wyścig zbrojeń AI dopiero się zaczyna

Wyścig, aby przyjąć rozwiązania AI, jest w pełni rozegrany, z atakującymi i obrońcami, którzy znajdują różne sposoby, aby wykorzystać tę technologię do swojej korzyści. Podczas gdy atakujący używają AI, aby zwiększyć szybkość, skalę i złożoność swoich ataków, zespoły bezpieczeństwa będą musiały walczyć ogniem z ogniem, używając narzędzi AI, aby poprawić szybkość i dokładność swoich możliwości wykrywania i usuwania. Na szczęście, rozwiązania AI zapewniają krytyczne informacje zespołom bezpieczeństwa, pozwalając im lepiej testować i oceniać skuteczność swoich własnych rozwiązań, a także zwalniając czas i zasoby na zadania o wyższej wadze. Nie myśl, że wyścig zbrojeń AI dopiero się zaczyna – ale fakt, że profesjonaliści bezpieczeństwa już teraz używają AI, aby pozostać o krok przed atakującymi, jest bardzo dobrym znakiem.