Agenci AI zmieniają zero-day w wyścig, w którym ludzie nie mogą wygrać samodzielnie

Przez lata, zero-dayowe podatności były niebezpieczne, ale były rzadkie i trudne do wykorzystania na dużą skalę. Znalezienie jednej wymagało cierpliwości, specjalistycznych umiejętności i głębokiego zrozumienia zachowania oprogramowania. Jak donosili Nicole Perlroth i inni dziennikarze, istniał handel zero-dayami, a państwa traktowały je jako niezwykle cenne cyberbronie.

Dziś zero-dayowe podatności są powszechnie dostępne. Prawie każdy może odkryć nowe, korzystając z otwartych modeli AI lub własnych modeli AI, takich jak Claude i OpenAI.

Te same postępy, które sprawiają, że AI jest przydatne do pisania kodu, podsumowywania logów i przyspieszania operacji bezpieczeństwa, mogą być również wykorzystane do wyszukiwania błędów, łączenia podatności i testowania ścieżek eksploatacji z prędkością maszyny. Atakujący nie muszą już ręcznie sprawdzać każdej zależności, odwrócić każdej aplikacji czy spędzać tygodni na wyszukiwaniu słabości. Agenci AI mogą zautomatyzować wiele tej pracy, eksplorując bazy kodu, skanując narażone systemy, generując hipotezy i iterując, aż znajdą coś przydatnego.

To zmienia ekonomikę eksploatacji zero-day. Atakujący człowiek może mieć czas tylko na najbardziej obiecujące cele. Atakujący wspomagany przez AI może sobie pozwolić na zbadanie o wiele więcej oprogramowania, o wiele szybciej, z o wiele mniejszym zmęczeniem. Nawet jeśli większość prób kończy się niepowodzeniem, sama liczba prób sprawia, że sukces staje się bardziej prawdopodobny. W cyberbezpieczeństwie skala często zmienia rzadkie zdarzenia w rutynowe.

AI rozszerza powierzchnię wyszukiwania zero-day

Dlatego zero-dayowe podatności stają się bardziej pilnym ryzykiem dla przedsiębiorstw. Współczesne oprogramowanie jest zbyt duże, zbyt połączone i zbyt zależne od składników trzecich, aby jakakolwiek organizacja mogła w pełni zrozumieć każdą słabość przed atakującym. Większość firm polega na rozbudowanym mieszanym oprogramowaniu komercyjnym, bibliotekach open-source, usługach chmurowych, aplikacjach SaaS, API, systemach identyfikacji, urządzeniach brzegowych i wewnętrznych narzędziach. Każda warstwa wprowadza potencjalne podatności. Każde połączenie tworzy nowe ścieżki ataku. Każda aktualizacja może cicho zmienić profil ryzyka.

Niewygodna rzeczywistość jest taka, że istnieje ogromna ilość nieodkrytych podatności w oprogramowaniu wszystkich rodzajów. Część z nich istnieje w starym kodzie. Część z nich istnieje w nowym kodzie napisanym pod presją. Część z nich pochodzi od zależności, których niewiele organizacji śledzi z wystarczającą precyzją. Część z nich wynika ze sposobu, w jaki systemy взаимодействują, nawet jeśli każdy poszczególny komponent wydaje się bezpieczny. Agenci AI są dobrze przystosowani do eksploracji tej złożoności, ponieważ mogą wyszukiwać szeroko, wytrwale i adaptacyjnie.

Obrońcy stają przed niemożliwym problemem łatania. Nie możesz załatać podatności, której nie znasz. Nie możesz równo ważyć każdej teoretycznej słabości. Nie możesz w pełni przetestować każdej kombinacji oprogramowania, konfiguracji i zachowania użytkownika przed wdrożeniem. Nawet dojrzałe programy zarządzania podatnościami są często budowane wokół znanych CVE, porad sprzedawców i informacji o zagrożeniach. Te są niezbędne, ale pojawiają się po odkryciu. W świecie przyspieszonej przez AI wyszukiwania zero-day, odkrycie może nastąpić najpierw w rękach atakującego.

To tworzy rosnącą grę w młotek. Podatność jest znaleziona. Łatka jest spieszone. Eksploatacja przechodzi do sąsiedniego systemu, innej zależności lub nowo odsłoniętego interfejsu. Zespoły bezpieczeństwa reagują, ale zapas wciąż rośnie. AI zwiększa prędkość młotka po obu stronach, ale atakujący często korzystają najpierw, ponieważ muszą znaleźć tylko jedną przydatną ścieżkę. Obrońcy muszą chronić je wszystkie.

Długoterminowa odpowiedź może pochodzić z samej AI. Gdy systemy AI stają się lepsze w generowaniu, przeglądaniu i testowaniu kodu, powinny pomóc wyeliminować całe klasy podatności, zanim oprogramowanie dotrze do produkcji. Rozwój zabezpieczeń może stać się o wiele bardziej praktyczny, gdy AI może nieustannie sprawdzać kod, identyfikować niebezpieczne wzorce, modelować eksploatację i polecać naprawy w czasie rzeczywistym. Ostatecznie możemy dojść do punktu, w którym powszechne błędy pamięci, wstrzyknięcia, błędy uwierzytelniania i niebezpieczne konfiguracje są dramatycznie zmniejszone, ponieważ AI-wspomagany inżynieria łapie je wcześnie. W naszej pracy nad DeepTempo już widzimy większe wykorzystanie języków bezpiecznych dla pamięci, takich jak Rust; chociaż Rust jest trudniejszy w niektórych aspektach, jest bezpieczniejszy, a jego kodowanie stało się o wiele łatwiejsze dzięki AI.

Obrońcy muszą przesunąć się od szybkości łatania do odporności na ataki

Podczas gdy przyszłość, w której wszystkie oprogramowanie zostało załatane lub przepisane w sposób bardziej bezpieczny, jest warta dążenia, nie jest jasne, jak teoretycznie możliwe jest to do osiągnięcia z różnych powodów. W każdym razie wiemy, że jeszcze nie nastąpiło i nie nastąpi przez wiele lat. Dziś kod wygenerowany przez AI może nadal wprowadzać podatności. A narzędzia bezpieczeństwa AI mogą nadal pomijać kontekst. Dziś środowiska przedsiębiorstw nadal zawierają dziesięciolecia nagromadzonego długu technicznego. Atakujący już wykorzystują automatyzację, aby poruszać się szybciej, podczas gdy obrońcy wciąż integrują AI z istniejącymi przepływami pracy, łańcuchami zatwierdzeń i modelami ryzyka i stwierdzają, że LLM są niewykonalne w przypadku wykrywania ataków.Więcej informacji na temat tego, jak LLM radzą sobie w wykrywaniu, można znaleźć w niedawnych benchmarkach open-source, takich jak SOC Bench. Na przykład inżynierowie stojący za SOC Bench odkryli, że najlepsze LLM mają wskaźnik fałszywie dodatnich wyników w zakresie 20% i kosztowałyby setki milionów dolarów dziennie w skali typowego dużego środowiska bezpieczeństwa.W wyniku wszystkich tych czynników wzrost AI obecnie znacznie faworyzuje atakujących.

Niestety, organizacje muszą założyć, że niektóre nieznane podatności zostaną odkryte przez przeciwników przed ich ujawnieniem publicznie. Co więcej, dzięki ulepszonemu phishingowi i powszechnemu przechwytywaniu tożsamości, atakujący mogą po prostu zalogować się.Krótko mówiąc, przynajmniej w średnim okresie, bardziej niż kiedykolwiek strategia bezpieczeństwa nie może opierać się wyłącznie na zapobieganiu. Zapobieganie pozostaje kluczowe, ale musi być połączone z szybszym wykrywaniem, silniejszą analizą behawioralną i ściślejszym ograniczaniem.

Jak sugerowały różne organizacje, w tym NIST, Five Eyes i National Academy of Sciences, biorąc pod uwagę wzrost atakujących wspomaganych przez AI, zespoły bezpieczeństwa powinny ponownie rozważyć podejścia do zrozumienia, co wygląda normalnie wśród użytkowników, maszyn, tożsamości, aplikacji i przepływów danych. Ataki zero-day często udają się, ponieważ omijają znane sygnatury, ale pozostawiają ślady, które najpotężniejsze modele klasyfikacji mogą zobaczyć i rozróżnić. Na przykład ataki mogą wykazywać niezwykłe wzorce dostępu, niezwykłe korzystanie z uprawnień, nieoczekiwaną aktywność procesów, dziwne przepływy uwierzytelniania lub ruch danych, które w połączeniu nie odpowiadają bazowemu środowisku. AI może pomóc obrońcom znaleźć te sygnały wcześniej, zwłaszcza gdy atak jest nowy.

Ponadto firmy powinny zmniejszyć promień skażenia. Segregacja, najmniejsze uprawnienia, silne kontrolki tożsamości, ciągłe monitorowanie i szybka izolacja mają większe znaczenie, gdy wykorzystywane są nieznane podatności. Jeśli atakujący wykorzystuje zero-day, aby dostać się do systemu, następne pytanie brzmi, jak daleko mogą się poruszać, zanim zostaną wykryci. Im mniejsze okno, tym mniej wartościowy staje się exploit.

Nie ma czystego przycisku pauzy dla tego momentu. Agenci AI będą nadal się poprawiać. Eksperymenty ofensywne będą nadal przyspieszać. Liczba systemów wartych sprawdzenia będzie nadal rosła. Zadaniem społeczności bezpieczeństwa jest upewnienie się, że obronna AI dojrzewa równie szybko.

Zero-day zawsze nagradzały szybkość, kreatywność i asymetrię. Agenci AI zwiększają wszystkie trzy. Organizacje, które się adaptują, traktują AI jako coś więcej niż warstwę produktywności dla zespołów bezpieczeństwa. Będą również wykorzystywać AI zaprojektowane specjalnie do wykrywania nieznanych zagrożeń, priorytetowego słabych sygnałów, które w połączeniu z tysiącami innych sugerują kompromis, i reagowania, zanim wykorzystana podatność stanie się kryzysem na skalę przedsiębiorstwa.