Gdy ewoluujące ataki wyprzedzają stare obrony: Dlaczego jest czas na proaktywną ochronę AI

Jeśli pracujesz gdzieś w pobliżu bezpieczeństwa, prawdopodobnie czujesz, że zawsze doganiają cię nowe wyzwania. W wiadomościach pojawia się nowy incydent, nowa historia o ransomware, a także kolejny sprytny trick, którego obrońcy nie widzieli nadchodzącego. W tym samym czasie wiele ochrony nadal opiera się na pomysłach z dawnego internetu, gdzie sieci miały wyraźne granice, a atakujący poruszali się wolniej.

Liczby mówią ci, że to nie tylko poczucie. Najnowszy IBM Cost of a Data Breach Report szacuje, że globalny średni koszt naruszenia danych wynosi 4,88 mln dolarów w 2024 roku, w porównaniu z 4,45 mln dolarów w poprzednim roku. Ten wzrost o 10% jest największym skokiem od czasu pandemii, a występuje pomimo tego, że zespoły bezpieczeństwa inwestują więcej w narzędzia i personel.

Verizon Data Breach Investigations Report z 2024 roku analizuje ponad 30 000 incydentów i ponad 10 000 potwierdzonych naruszeń. Wskazuje, że atakujący polegają na skradzionych poświadczeniach, eksploatacji aplikacji webowych i działań społecznych, takich jak pretexting, oraz zauważa, że organizacje potrzebują średnio 55 dni, aby naprawić tylko połowę krytycznych luk w zabezpieczeniach po wydaniu poprawek. Te 55 dni to bardzo wygodne okno dla atakującego, który skanuje nieprzerwanie.

W Europie ENISA Threat Landscape z 2023 roku również wskazuje na silną mieszankę ransomware, ataków odmowy usługi, ataków na łańcuchy dostaw i inżynierii społecznej. Inne badanie ENISA dotyczące incydentów w łańcuchu dostaw oszacowało, że w 2021 roku było prawdopodobnie cztery razy więcej takich ataków niż w 2020 roku, a ten trend utrzymuje się.

Więc obraz jest prosty, ale niepokojący. Naruszenia stają się coraz częstsze, droższe i bardziej złożone, nawet pomimo poprawy narzędzi. Coś strukturalnego jest nie tak w sposobie, w jaki wiele organizacji nadal broni się.

Dlaczego klasyczny model bezpieczeństwa jest coraz mniej skuteczny

Przez długi czas mentalny obraz cyberobrony był prosty. Miałeś wyraźne wnętrze i zewnętrze. Budowałeś silne obramowanie z firewallami i filtrami. Wdrażałeś oprogramowanie antywirusowe na punktach końcowych i szukałeś znanych złych sygnatur. Dostosowywałeś reguły, obserwowałeś alerty i reagowałeś, gdy coś oczywistego się wydarzało.

Ten model ma trzy duże problemy w obecnym świecie.

Po pierwsze, obramowanie jest prawie nieistniejące. Ludzie pracują z każdego miejsca na mieszance zarządzanych i niezarządzanych urządzeń. Dane znajdują się w publicznych chmurach platformowych i narzędziach jako usługa. Partnerzy i dostawcy łączą się bezpośrednio z wewnętrznymi systemami. Raporty, takie jak badanie łańcucha dostaw ENISA, pokazują, jak często włamania zaczynają się od zaufanego partnera lub aktualizacji oprogramowania, a nie bezpośredniego frontalnego ataku na centralny serwer.

Po drugie, koncentrowanie się na znanych sygnaturach pozostawia ogromną lukę. Współczesni atakujący łączą niestandardowe oprogramowanie szkodliwe z tym, co obrońcy nazywają życiem na terenie wroga. Opierają się na wbudowanych narzędziach skryptowych, agentach zdalnego zarządzania i codziennych działaniach administracyjnych. Każdy krok, widziany oddzielnie, może wyglądać niewinnie. Prosta podejście oparta na sygnaturach nie widzi większego wzorca, zwłaszcza gdy atakujący zmieniają małe szczegóły w każdej kampanii.

Po trzecie, ludzie są przeciążeni. Raport Verizon pokazuje, że eksploatacja luk w zabezpieczeniach jest teraz głównym sposobem wejścia do sieci, a wiele organizacji ma trudności z aplikowaniem poprawek wystarczająco szybko. Badania IBM dodają, że długi czas wykrywania i ograniczania jest główną przyczyną wzrostu kosztów naruszeń. Analitycy siedzą pod górą alertów, logów i ręcznej triady, podczas gdy atakujący automatyzują wszystko, co mogą.

Więc masz atakujących, którzy są szybsi i bardziej zautomatyzowani, oraz obrońców, którzy nadal opierają się na manualnym śledztwie i starych wzorcach. W tę lukę wkracza sztuczna inteligencja.

Atakujący już traktują AI jako współpracownika

Gdy ludzie mówią o AI w bezpieczeństwie, często wyobrażają sobie defensywne narzędzia, które pomagają złapać złych aktorów. Rzeczywistość jest taka, że atakujący są równie zainteresowani wykorzystaniem AI, aby ułatwić im pracę.

Microsoft Digital Defense Report z 2025 roku opisuje, jak grupy wspierane przez państwo wykorzystują AI do tworzenia syntetycznych mediów, automatyzacji części kampanii inwazyjnych i skalowania operacji wpływu. Oddzielny podsumowanie wywiadu Microsoft mówi, że od połowy 2024 do połowy 2025 roku incydenty z udziałem AI wygenerowanego fałszywego contenu wzrosły do ponad 200, co jest ponad dwukrotnie więcej niż w poprzednim roku i około 10 razy więcej niż w 2023 roku.

W praktyce wygląda to jak wiadomości phishingowe, które brzmią jakby je napisał rodzimy użytkownik, w dowolnym języku. Wygląda to jak deepfake audio i wideo, które pomagają atakującym udawać się za seniorów lub zaufanych partnerów. Wygląda to jak systemy AI przeszukują ogromne ilości skradzionych danych, aby znaleźć najcenniejsze szczegóły Twojego środowiska, personelu i podwykonawców.

Niedawny artykuł w Financial Times o agencji AI w cyberatakach opisuje nawet w dużej mierze autonomiczną operację szpiegowską, w której agent kodowania AI obsługiwał większość kroków od rozpoznania do eksfiltracji danych z ograniczonym wprowadzeniem ludzkim. Niezależnie od tego, jak się czujesz wobec tego konkretnego przypadku, kierunek podróży jest jasny. Atakujący są bardzo zadowoleni, gdy AI zajmuje się nudnymi częściami pracy.

Jeśli atakujący wykorzystują AI, aby poruszać się szybciej, lepiej się maskować i atakować więcej celów, to obrońcy nie mogą oczekiwać, że tradycyjne narzędzia obramowania i ręczna triada alertów będą wystarczające. Albo wprowadzisz podobną inteligencję do swojej obrony, albo luka się powiększa.

Od reaktywnej obrony do proaktywnego myślenia o bezpieczeństwie

Pierwsza prawdziwa zmiana nie jest techniczna; jest mentalna.

Reaktywna postawa opiera się na idei, że możesz czekać na wyraźne znaki kłopotów, a potem zareagować. Nowy plik binarny zostaje wykryty. Alert wyzwala, ponieważ ruch odpowiada znanemu wzorcowi. Konto pokazuje oczywiste znaki kompromitacji. Zespół wskakuje, prowadzi śledztwo, oczyszcza i może aktualizuje regułę, aby zapobiec temu samemu wzorcowi w przyszłości.

W świecie z wolnymi i rzadkimi atakami może to być w porządku. W świecie z ciągłymi sondami, szybko poruszającą się eksploatacją i kampaniami wspieranymi przez AI jest to za późno. Do czasu, gdy prosta reguła wyzwala alarm, atakujący często już zbadał Twoją sieć, dotknął wrażliwych danych i przygotował ścieżki awaryjne.

Proaktywna postawa zaczyna się z innego miejsca. Zakłada, że zawsze jesteś dotykany przez wrogie ruchy. Zakłada, że niektóre kontrolki mogą zawieść. Troszczy się o to, jak szybko możesz zauważyć niezwykłe zachowania, jak szybko możesz je ograniczyć i jak konsekwentnie możesz się od nich uczyć. W tym kontekście podstawowe pytania stają się bardzo praktyczne.

• Czy masz ciągłą widoczność w swoich kluczowych systemach, tożsamościach i magazynach danych?

• Czy możesz zauważyć małe odchylenia od normalnego zachowania, a nie tylko znane złe sygnatury?

• Czy możesz połączyć tę wiedzę z szybkimi, powtarzalnymi działaniami bez wypalenia swojego zespołu?

AI nie jest samym rozwiązaniem, ale jest potężnym sposobem odpowiedzi na te pytania w skali, jaką wymagają nowoczesne środowiska.

Co to jest postawa bezpieczeństwa oparta na AI

AI pomaga ci przenieść się od prostego tak lub nie widzenia zagrożeń w kierunku bogatszego, opartego na zachowaniu obrazu. Po stronie wykrywania modele mogą obserwować aktywność tożsamości, telemetrię punktów końcowych i przepływy sieciowe, aby nauczyć się, co wygląda normalnie w Twoim środowisku. Zamiast tylko blokować znane złośliwe pliki, mogą podnieść flagę, gdy konto loguje się z niezwykłej lokalizacji o niezwykłej porze, przechodzi do systemu, z którym nie miało wcześniej kontaktu, a następnie zaczyna przenosić duże ilości danych. Każde pojedyncze zdarzenie może być łatwe do zignorowania. Połączony wzorzec jest interesujący.

Po stronie narażenia narzędzia wspierane przez AI mogą mapować Twoją rzeczywistą powierzchnię ataku. Mogą skanować konta chmury publicznej, usługi zorientowane na internet i sieci wewnętrzne, aby znaleźć zapomniane systemy testowe, niepoprawnie skonfigurowane magazyny i eksponowane panele administracyjne. Mogą grupować te wyniki w praktyczne historie ryzyka zamiast surowych list. Jest to szczególnie ważne, gdy rośnie AI w cieniu w organizacjach, z zespołami uruchamiającymi własne modele i narzędzia bez centralnego nadzoru, co IBM wskazuje w swojej najnowszej Cost of a Data Breach jako poważne obszary ryzyka. 

Po stronie odpowiedzi AI może pomóc ci działać szybciej i bardziej konsekwentnie. Niektóre centra operacji bezpieczeństwa już teraz wykorzystują systemy wspierane przez AI, aby rekomendować kroki ograniczające w czasie rzeczywistym i aby podsumować długie śledztwa dla analityków ludzkich. Amerykańska Agencja Bezpieczeństwa Cybernetycznego i Infrastruktury opisuje kilka takich zastosowań w swoich zasobach AI, pokazując, jak AI może pomóc wykryć niezwykłą aktywność sieciową i analizować duże strumienie danych o zagrożeniach w systemach federalnych.

Żadne z tego nie usuwa potrzeby ludzkiej oceny. Zamiast tego AI staje się mnożnikiem siły. Przejmuje ciągłe obserwowanie, rozpoznawanie wzorców i część wstępnej triady, aby ludzcy obrońcy mogli spędzać więcej czasu na głębokim śledztwie i trudnych pytaniach projektowych, takich jak strategia tożsamości i segmentacja.

Jak zacząć poruszać się w tym kierunku

Jeśli jesteś odpowiedzialny za bezpieczeństwo, wszystko to może brzmieć jak coś wielkiego i abstrakcyjnego. Dobra wiadomość jest taka, że przesunięcie od reaktywnej do proaktywnej postawy zwykle zaczyna się od kilku ugruntowanych kroków, a nie od wielkiej transformacji.

Pierwszym krokiem jest uporządkowanie strumieni danych. AI jest tylko tak użyteczna, jak sygnały, które może zobaczyć. Jeśli Twój dostawca tożsamości, narzędzia punktów końcowych, kontrolki sieciowe i platformy chmury wysyłają logi do oddzielnych silosów, każdy model będzie miał punkty ślepe i atakujący będą mieli miejsca ukrycia. Inwestowanie w centralny widok Twojej najważniejszej telemetrii jest rzadko glamour, ale jest to podstawa, która umożliwia znaczące wsparcie AI.

Drugim krokiem jest wybranie konkretnych przypadków użycia, a nie próba posypania AI wszędzie. Wiele zespołów zaczyna od analizy zachowania dla kont użytkowników, wykrywania anomalii w środowiskach chmury lub inteligentniejszego wykrywania e-maili i phishingu. Celem jest wybranie obszarów, w których już wiesz, że masz ryzyko i w których rozpoznawanie wzorców w dużych zbiorach danych może naprawdę pomóc.

Trzecim krokiem jest połączenie każdego nowego narzędzia wspieranego przez AI z wyraźnym zestawem barier ochronnych. Obejmuje to określenie, co model jest uprawniony do zrobienia samodzielnie, co zawsze musi obejmować człowieka, i jak będziesz mierzyć, czy system jest uczciwy i użyteczny w czasie. Tutaj myślenie w ramach AI NIST i wskazówki z agencji takich jak CISA mogą cię uratować przed wymyślaniem wszystkiego samemu.

Dlaczego proaktywna ochrona AI nie może czekać

Ataki cybernetyczne stają się czymś bliższym ciągłemu stanowi tła niż rzadkiemu wyjątkowi, a atakujący są bardzo zadowoleni, gdy AI wykonuje dużą część ciężkiej pracy dla nich. Koszt rośnie, punkty wejścia się mnożą, a narzędzia po stronie atakującego stają się coraz bardziej zaawansowane każdego roku. Reaktywny model, który czeka na głośne alerty i potem się spieszy, po prostu nie jest zbudowany dla tego świata.

Proaktywna postawa oparta na AI jest mniej o gonieniu za modną tendencją i bardziej o wykonaniu cichej, nieglamurnej pracy polegającej na uporządkowaniu danych, dodaniu wglądu opartego na zachowaniu i umieszczeniu wyraźnych barier ochronnych wokół nowych systemów AI, aby pomogły one Twoim obrońcom, zamiast ich zaskakiwać. Przerwa między atakującymi a obrońcami jest realna, ale nie jest ustalona, a wybory, które podejmujesz teraz, dotyczące tego, jak używasz AI w swoim stosie bezpieczeństwa, zdecydują, która strona porusza się szybciej w ciągu najbliższych kilku lat i umieszcza wyraźne bariery ochronne wokół nowych systemów AI, aby pomogły one Twoim obrońcom, zamiast ich zaskakiwać.