Liderzy opinii

AI kontra AI: nowa rzeczywistość cyberbezpieczeństwa

Kevin Urbanowicz Mark Nicholson
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyAtaki wspierane przez sztuczną inteligencję automatyzują całe cykle życia ataków z…
Zobacz więcej
  • Ataki wspierane przez sztuczną inteligencję automatyzują całe cykle życia ataków z prędkością maszynową, przytłaczając tradycyjne, zarządzane przez ludzi systemy obronne.
  • Przedsiębiorstwa muszą mapować i zabezpieczać tożsamości nieludzkich agentów AI, ponieważ te autonomiczne systemy uzyskują kluczowy dostęp biznesowy.
  • Organizacje muszą zabezpieczać modele AI zgodnie z zasadami Secure by Design, aby zapobiec zatruwaniu danych i wrogim manipulacjom.

Ataki cybernetyczne wykorzystujące sztuczną inteligencję (AI) już się zmaterializowały, potwierdzając to, co wcześniej było tylko teoretycznym, lecz oczekiwanym ryzykiem, i zwiastują nową erę w krajobrazie zagrożeń. Dzięki agentom AI, którzy mogą już uruchamiać złożone, kompleksowe kampanie w ciągu kilku minut, cyberprzestępcy mogą wskazywać i wykorzystywać słabości przedsiębiorstw z prędkością maszynową. Zasady angażowania się w walkę zmieniły się: wczorajsza obrona cybernetyczna nie jest już w stanie nadążyć za dzisiejszymi atakami napędzanymi przez AI.

W miarę jak AI zwiększa zagrożenia cybernetyczne, przedsiębiorstwa muszą wdrożyć własne zdolności obronne napędzane przez AI, aby utrzymać tempo pod względem prędkości, skali i precyzji. Na razie wrogowie cybernetyczni nadal stosują znane taktyki, techniki i procedury (TTP), ale AI przyspiesza i ulepsza ich podręcznik. Ponadto same modele AI przedsiębiorstw są teraz nowym celem za pośrednictwem zatruwania modeli i inżynierii społecznej opartej na języku, wymagając od zespołów cybernetycznych odpowiedniego zabezpieczenia ich możliwości AI. Dlatego bezpieczeństwo powinno być integralną częścią większej strategii AI organizacji.

Czym różnią się ataki cybernetyczne napędzane przez AI?

W świecie cyfrowym, który już jest nasycany niemal nieprzerwanymi próbami wtargnięcia, bariera wejścia dla złego aktora została obniżona, zwiększając nie tylko ilość, ale także złożoność ataków. Ataki napędzane przez AI mogą teraz wykorzystywać AI lub uczenie maszynowe (ML), aby zautomatyzować, przyspieszyć lub udoskonalić każdy etap cyklu życia ataku, od rozpoznania i gromadzenia informacji po wykorzystanie i wydobycie wrażliwych danych.

Opieranie się wyłącznie na istniejących procesach i technologiach bez wdrażania tej samej zaawansowanej technologii, której używają przeciwnicy, daje przeciwnikom przewagę, której niemal nie da się zrównoważyć w odpowiedniej skali bez defensywnej AI. Organizacje są już przytłoczone monitorowaniem przedsiębiorstw pod kątem tradycyjnych źródeł zagrożeń. Ataki napędzane przez AI jeszcze bardziej nasilią zmęczenie alarmowe. To wymaga ewolucji od procesów zarządzanych przez ludzi do hybrydowego zespołu cyberbezpieczeństwa złożonego z ludzi i pracowników cyfrowych.

Mapuj każdy cyfrowy zasób

W dzisiejszym świecie zrozumienie potencjalnych punktów wejścia w środowisku przedsiębiorstwa jest podstawą, a jednak nadal pozostaje poza zasięgiem wielu dużych przedsiębiorstw. Poza systemami i zasobami cyfrowymi istnieje potrzeba kompleksowego mapowania wszystkich tożsamości i dostępu w organizacji. Tożsamość cyfrowa, która łączy cechy fizyczne i behawioralne z osobą, jest dobrze zrozumiana z istniejącymi kontrolami niezbędnymi do zarządzania dostępem cyfrowym.

Jednak zrozumienie krajobrazu przedsiębiorstwa tożsamości nie-ludzkich (NHIs) jest niezbędne do zabezpieczenia zasobów cyfrowych. Urzeczywistnienie potencjalnej wartości AI w organizacji oznacza udzielenie agentom AI dostępu i pozwolenia na autonomiczne wykonanie procesu biznesowego. Podobnie jak środowiska chmurowe poprzedniej ery bezpieczeństwa, dzisiejsze przepływy pracy napędzane przez agentów tworzą i likwidują NHIs w skali, wymagając zaawansowanej możliwości zarządzania i śledzenia, gdzie w środowisku działają i jak wykonują zamierzone misje lub role.

Przedsiębiorstwa powinny rozszerzyć zarządzanie tożsamością na cały cykl życia tożsamości agenta i monitorować działania agenta, tak jak monitorują dostęp użytkowników ludzkich dzisiaj w przypadku zachowań ryzyka wewnętrznego lub naruszenia konta przez aktorów zagrożeń. W miarę jak możliwości agentów zyskują na autonomii i wykonywaniu krytycznych zadań biznesowych, zrozumienie, jak wygląda ich ślad tożsamości i wzorzec dostępu, jest kluczowe do wdrożenia wymaganych kontroli dostępu i monitorowania w celu ochrony ich i przedsiębiorstwa przed nadużyciem.

Zabezpiecz modele AI

Możliwości AI mają obietnicę odblokowania wydajności i produktywności, ale także potencjał, aby być skierowanym przeciwko organizacjom. Wprowadzanie AI we wszystkie aspekty operacji biznesowych nie jest już jedynie „mile widzianym dodatkiem” – jest to wymóg sukcesu w dzisiejszym konkurencyjnym krajobrazie. Dlatego bezpieczne wdrożenie AI jest niezbędnym składnikiem do bezpiecznego zrealizowania pełnego potencjału biznesowego i wyników.

Przejście do obrony cybernetycznej napędzanej przez AI jest w toku, podczas gdy same modele AI stały się celami. Przeciwnicy mogą próbować zatruć dane, które karmią te modele, i manipulować nimi, aby podejmowały niezamierzone działania lub nawet ujawniały wrażliwe informacje.

Ataki przeciwników na AI mogą przyjść w różnych formach, takich jak ataki polegające na zatruwaniu, ataki wstrzyknięcia podpowiedzi i inne. Aby odpowiednio chronić AI przed potencjalną manipulacją, organizacje powinny wykorzystywać filozofię Agencji Infrastruktury i Bezpieczeństwa Cybernetycznego (CISA) Bezpieczne przez projekt. To zaczyna się od danych, które są wprowadzane do szkolenia modelu. Zamykanie wejść na wczesnym etapie procesu rozwojowego tworzy podstawę dla niezawodnych danych wyjściowych wdrożeniowych.

Zrozumienie danych wejściowych, które są wprowadzane do tworzenia modeli i możliwości, jest możliwe dzięki intencjonalnemu zarządzaniu danymi oraz kontroli dostępu do samych modeli. Kluczowe mechanizmy kontroli, które pozwalają na walidację pożądanych danych wyjściowych, przychodzą w postaci zapobiegania utracie danych (DLP); egzekwowania polityki i bezpieczeństwa; ugruntowania za pomocą weryfikowalnych źródeł; oraz ścisłych kontroli zatwierdzeń dla działań o wysokim wpływie, audytowalności i ciągłego testowania, w tym testowania penetracyjnego modeli w celu ich wzmocnienia.

Wbuduj AI w operacje bezpieczeństwa

Do tej pory stosowanie AI w obronie cybernetycznej było taktyczne, z wieloma organizacjami, które dodają AI do tradycyjnych procesów skoncentrowanych na ludziach, zamiast strategicznego przemyślenia, jak zbudować procesy z AI w centrum. To jest jak próba umieszczenia silnika V8 na rowerze. Następna ewolucja umożliwienia AI będzie polegać na projektowaniu procesów od podstaw, z agentową AI i automatyzacją uwzględnionymi w projekcie od początku. Sprawdzone i prawdziwe metody operacji bezpieczeństwa i procesy, takie jak wykrywanie zagrożeń, polowanie na zagrożenia i inżynieria wykrywania, nadal są kluczowymi elementami, które są niezbędne do bezpieczeństwa organizacji w erze AI. Przekształcenie bieżących procesów bezpieczeństwa w celu wsparcia tych procesów przez AI może położyć silną podstawę dla przyszłego centrum operacji bezpieczeństwa (SOC) napędzanego przez AI.

Ponadto automatyka nie jest nowym pojęciem unikalnym dla pojawienia się AI; przepływy pracy i procesy bezpieczeństwa były automatyzowane od lat, z dojrzałymi organizacjami mającymi bardzo zaawansowane możliwości orkiestracji i automatyki. Jednak AI ulepsza istniejącą automatykę opartą na regułach i rozwija ją dalej, umożliwiając dynamiczne, adaptacyjne, bogate w kontekst przepływy pracy automatyczne, które mogą pomóc w rozwiązaniu problemu prędkości i zwinności wymaganych dla tych nowych ryzyk AI.

Co dalej?

Bezpieczeństwo musi nadal być priorytetem dla biznesu i IT, aby utrzymać ich krytyczne aktywa i użytkowników w bezpieczeństwie przed złym wykorzystaniem. AI bezpieczna już na etapie projektowania jest koniecznością, biorąc pod uwagę prędkość, z jaką modele AI mogą być wdrożone i poproszone o wykonanie bardziej krytycznych działań. Zespoły cybernetyczne powinny myśleć strategicznie o przekształceniu procesów od podstaw, aby odpowiednio wdrożyć nowe możliwości AI i utrzymać tempo w cybernetycznej grze w kotka i myszkę.

Liderzy bezpieczeństwa mogą podjąć kilka konkretnych kroków w najbliższej perspektywie: przeprowadzić kompleksowy przegląd bieżących procesów bezpieczeństwa, aby wskazać luki, możliwości modernizacji i obszary dojrzałe do transformacji. Bądź na bieżąco z nowymi zagrożeniami AI, trendów i technologii. Przede wszystkim pozostań zakotwiczony w podstawowej zasadzie bezpieczeństwa, jaką jest głęboka obrona, która udowodniła swoją skuteczność w czasie – warstwowa ochrona i walidacja od tożsamości, przez punkt końcowy, sieć, dane, z solidnymi możliwościami monitorowania i reagowania, które są nieustannie testowane.

Transformacyjny potencjał AI obiecuje zbyt wielką korzyść, aby odrzucić jego przyjęcie, a dżinn jest już poza butelką dla aktorów zagrożeń. Dlatego rola liderów bezpieczeństwa w tej nowej erze jest taka sama, jak zawsze: wspieranie organizacji w osiąganiu ich celów biznesowych z przemyślaną redukcją ryzyka – tylko teraz z prędkością maszynową dzięki użyciu AI.

Kevin Urbanowicz jest osobą na stanowisku Principal w Deloitte & Touche LLP i pełni funkcję lidera operacji cyberbezpieczeństwa Deloitte w Stanach Zjednoczonych.

Mark Nicholson zajmuje stanowisko Principal w Deloitte & Touche LLP i pełni funkcję lidera ds. cyberbezpieczeństwa i sztucznej inteligencji w Deloitte w Stanach Zjednoczonych.