AI kontra AI: Nowa Rzeczywistość Cyberbezpieczeństwa

Ataki cybernetyczne wykorzystujące sztuczną inteligencję (AI) już się zmaterializowały, potwierdzając to, co wcześniej było tylko teoretycznym, lecz oczekiwanym ryzykiem, i zwiastują nową erę w krajobrazie zagrożeń. Z AI agentami, które mogą już uruchamiać złożone, kompleksowe kampanie w ciągu kilku minut, cyberprzestępcy mogą wskazywać i wykorzystywać słabości przedsiębiorstw z prędkością maszynową. Zasady angażowania się w walkę zmieniły się: wczorajsza obrona cybernetyczna nie jest już w stanie nadążyć za dzisiejszymi atakami napędzanymi przez AI.

W miarę jak AI zwiększa zagrożenia cybernetyczne, przedsiębiorstwa muszą wdrożyć własne zdolności obronne napędzane przez AI, aby utrzymać tempo pod względem prędkości, skali i precyzji. Na razie wrogowie cybernetyczni nadal stosują znane taktyki, techniki i procedury (TTP), ale AI przyspiesza i ulepsza ich podręcznik. Ponadto same modele AI przedsiębiorstw są teraz nowym celem za pośrednictwem trucia modeli i inżynierii społecznej opartej na języku, wymagając od zespołów cybernetycznych odpowiedniego zabezpieczenia ich możliwości AI. Dlatego bezpieczeństwo powinno być integralną częścią większej strategii AI organizacji.

Czym różnią się ataki cybernetyczne napędzane przez AI?

W świecie cyfrowym, który już jest nasycany niemal nieprzerwanymi próbami wtargnięcia, bariera wejścia dla złego aktora została obniżona, zwiększając nie tylko ilość, ale także złożoność ataków. Ataki napędzane przez AI mogą teraz wykorzystywać AI lub uczenie maszynowe (ML), aby zautomatyzować, przyspieszyć lub udoskonalić każdy etap cyklu życia ataku, od rozpoznania i gromadzenia informacji po wykorzystanie i wydobycie wrażliwych danych.

Opieranie się wyłącznie na istniejących procesach i technologiach bezkorzystnych z wdrożeniem tej samej zaawansowanej technologii, której używają przeciwnicy, daje przeciwnikom przewagę, której nie da się osiągnąć bez obrony AI. Organizacje są już przytłoczone monitorowaniem swoich przedsiębiorstw ze strony tradycyjnych aktorów zagrożeń. Ataki napędzane przez AI jeszcze bardziej nasilią zmęczenie alarmowe. To wymaga ewolucji od procesów zarządzanych przez ludzi do hybrydowej siły roboczej cybernetycznej i cyfrowej.

Mapuj każdy cyfrowy zasób

W dzisiejszym świecie zrozumienie potencjalnych punktów wejścia w środowisku przedsiębiorstwa jest podstawą, a jednak nadal pozostaje poza zasięgiem wielu dużych przedsiębiorstw. Poza systemami i zasobami cyfrowymi istnieje potrzeba kompleksowego mapowania wszystkich tożsamości i dostępu w organizacji. Tożsamość cyfrowa, która łączy cechy fizyczne i behawioralne z osobą, jest dobrze zrozumiana z istniejącymi kontrolami niezbędnymi do zarządzania dostępem cyfrowym.

Jednak zrozumienie krajobrazu przedsiębiorstwa tożsamości nie-ludzkich (NHIs) jest niezbędne do zabezpieczenia zasobów cyfrowych. Uświadomienie sobie potencjalnej wartości AI w organizacji oznacza udzielenie agentom AI dostępu i pozwolenia na autonomiczne wykonanie procesu biznesowego. Podobnie jak środowiska chmurowe poprzedniej ery bezpieczeństwa, dzisiejsze przepływy pracy napędzane przez agenci tworzą i likwidują NHIs w skali, wymagając zaawansowanej możliwości zarządzania i śledzenia, gdzie w środowisku działają i jak wykonują zamierzone misje lub role.

Przedsiębiorstwa powinny rozszerzyć zarządzanie tożsamością na cały cykl życia tożsamości agenta i monitorować działania agenta, tak jak monitorują dostęp użytkowników ludzkich dzisiaj w przypadku zachowań ryzyka wewnętrznego lub naruszenia konta przez aktorów zagrożeń. W miarę jak możliwości agencji zyskują na autonomii i wykonywaniu krytycznych zadań biznesowych, zrozumienie, jaki wygląda ich ślad tożsamości i wzorzec dostępu, jest kluczowe do wdrożenia wymaganych kontroli dostępu i monitorowania w celu ochrony ich i przedsiębiorstwa przed nadużyciem.

Zabezpiecz modele AI

Możliwości AI mają obietnicę odblokowania wydajności i produktywności, ale także potencjał, aby być skierowanym przeciwko organizacjom. Wprowadzanie AI we wszystkie aspekty operacji biznesowych nie jest już „miłym mieć” – jest to wymóg sukcesu w dzisiejszym konkurencyjnym krajobrazie. Dlatego bezpieczne wdrożenie AI jest niezbędnym składnikiem do bezpiecznego zrealizowania pełnego potencjału biznesowego i wyników.

Przełom do obrony cybernetycznej napędzanej przez AI jest w toku, podczas gdy same modele AI stały się celami. Przeciwnicy mogą próbować zatruć dane, które karmią te modele, i manipulować nimi, aby podejmowały niezamierzone działania lub nawet ujawniały wrażliwe informacje.

Ataki przeciwników na AI mogą przyjść w różnych formach, takich jak ataki trujące, ataki wstrzyknięcia podpowiedzi i inne. Aby odpowiednio chronić AI przed potencjalną manipulacją, organizacje powinny wykorzystywać filozofię Agencji Infrastruktury i Bezpieczeństwa Cybernetycznego (CISA) Bezpieczne przez projekt. To zaczyna się od danych, które są wprowadzane do szkolenia modelu. Zamykanie wejść na wczesnym etapie procesu rozwojowego tworzy podstawę dla niezawodnych danych wyjściowych wdrożeniowych.

Zrozumienie danych wejściowych, które są wprowadzane do tworzenia modeli i możliwości, jest możliwe dzięki intencjonalnemu zarządzaniu danymi oraz kontroli dostępu do samych modeli. Krytyczne kontrolki, które pozwalają na walidację pożądanych danych wyjściowych, przychodzą w postaci zapobiegania utracie danych (DLP); egzekwowania polityki i bezpieczeństwa; ugruntowania za pomocą weryfikowalnych źródeł; oraz ścisłych kontroli zatwierdzeń dla działań o wysokim wpływie, audytowalności i ciągłego testowania, w tym testowania penetracyjnego modeli w celu ich wzmocnienia.

Wbuduj AI w operacje bezpieczeństwa

Do tej pory stosowanie AI w obronie cybernetycznej było taktyczne, z wieloma organizacjami, które montują AI na legacy, ludzkie procesy, zamiast strategicznego przemyślenia, jak zbudować procesy z AI w centrum. To jest jak próba umieszczenia silnika V8 na rowerze. Następna ewolucja umożliwienia AI będzie polegać na projektowaniu procesów od podstaw, z AI i automatyką wbudowaną w projekt. Sprawdzone i prawdziwe metody operacji bezpieczeństwa i procesy, takie jak wykrywanie zagrożeń, polowanie na zagrożenia i inżynieria wykrywania, nadal są kluczowymi elementami, które są niezbędne do bezpieczeństwa organizacji w erze AI. Przekształcenie bieżących procesów bezpieczeństwa w celu umożliwienia uzupełnienia AI może położyć silną podstawę dla przyszłego centrum operacji bezpieczeństwa (SOC) napędzanego przez AI.

Ponadto automatyka nie jest nowym pojęciem unikalnym dla pojawienia się AI; przepływy pracy i procesy bezpieczeństwa były automatyzowane od lat, z dojrzałymi organizacjami mającymi bardzo zaawansowane możliwości orchestracji i automatyki. Jednak AI ulepsza istniejącą automatykę opartą na regułach i rozwija ją dalej, umożliwiając dynamiczne, adaptacyjne, bogate w kontekst przepływy pracy automatyczne, które mogą pomóc w rozwiązaniu problemu prędkości i zwinności wymaganych dla tych nowych ryzyk AI.

Co dalej?

Bezpieczeństwo musi nadal być na górze umysłu biznesu i IT, aby utrzymać ich krytyczne aktywa i użytkowników w bezpieczeństwie przed złym wykorzystaniem. Bezpieczne AI jest koniecznością, biorąc pod uwagę prędkość, z jaką modele AI mogą być wdrożone i poproszone o wykonanie bardziej krytycznych działań. Zespoły cybernetyczne powinny myśleć strategicznie o przekształceniu procesów od podstaw, aby odpowiednio wdrożyć nowe możliwości AI i utrzymać tempo w grze kot i mysz cybernetycznej.

Liderzy bezpieczeństwa mogą podjąć kilka konkretnych kroków w najbliższej perspektywie: przeprowadzić kompleksowy przegląd bieżących procesów bezpieczeństwa, aby wskazać luki, możliwości modernizacji i obszary dojrzałe do transformacji. Pozostań na szczycie nowych zagrożeń AI, trendów i technologii. Przede wszystkim pozostań zakotwiczony w podstawowej zasadzie bezpieczeństwa, jaką jest głęboka obrona, która udowodniła swoją skuteczność w czasie – warstwowa ochrona i walidacja od tożsamości, przez punkt końcowy, sieć, dane, z solidnymi możliwościami monitorowania i reagowania, które są nieustannie testowane.

Transformacyjny potencjał AI obiecuje zbyt wielką korzyść, aby odrzucić jego przyjęcie, a dżinn jest już poza butelką dla aktorów zagrożeń. Dlatego rola liderów bezpieczeństwa w tej nowej erze jest taka sama, jak zawsze: wspieranie organizacji w osiąganiu ich celów biznesowych z przemyślaną mitigacją ryzyka – tylko teraz z prędkością maszynową dzięki użyciu AI.