Sztuczna inteligencja generatywna w cyberbezpieczeństwie: Pole bitwy, Zagrożenie, Obrona i Pozostanie czujnym

Pole bitwy

To, co zaczęło się jako ekscytacja związana z możliwościami sztucznej inteligencji generatywnej, szybko przerodziło się w obawy. Narzędzia sztucznej inteligencji generatywnej, takie jak ChatGPT, Google Bard, Dall-E itd., nadal znajdują się w centrum uwagi ze względu na problemy z bezpieczeństwem i prywatnością. To nawet prowadzi do pytań o to, co jest prawdziwe, a co nie. Sztuczna inteligencja generatywna może produkować bardzo przekonywujący i wiarygodny content. Tak bardzo, że na zakończenie niedawnego odcinka 60 Minutes poświęconego sztucznej inteligencji, gospodarz Scott Pelley pozostawił widzom następującą wypowiedź; “Zakończymy uwagą, która nigdy nie pojawiła się w 60 Minutes, ale w rewolucji sztucznej inteligencji, możesz często słyszeć: poprzednie było tworzone z 100% ludzkim contenu.”

Wojna cybernetyczna sztucznej inteligencji generatywnej zaczyna się od tego przekonywującego i realistycznego contentu, a pole bitwy to miejsce, w którym hakerzy wykorzystują sztuczną inteligencję generatywną, używając narzędzi takich jak ChatGPT itd. Jest to niezwykle łatwe dla cyberprzestępców, szczególnie tych z ograniczonymi zasobami i zerową wiedzą techniczną, aby popełniać przestępstwa za pomocą inżynierii społecznej, phishingu i ataków na podszywanie się.

Zagrożenie

Sztuczna inteligencja generatywna ma możliwość zasilania coraz bardziej zaawansowanych ataków cybernetycznych.

Ponieważ ta technologia może produkować tak przekonywujący i ludzki content z łatwością, nowe oszustwa cybernetyczne wykorzystujące sztuczną inteligencję są trudniejsze do wykrycia przez zespoły bezpieczeństwa. Ataki sztucznej inteligencji mogą przyjmować formę ataków inżynierii społecznej, takich jak ataki phishingowe prowadzone za pośrednictwem poczty elektronicznej i aplikacji messagingowych. Przykładem może być e-mail lub wiadomość zawierająca dokument, który jest wysyłany do korporacyjnego dyrektora od strony trzeciej za pośrednictwem Outlook (e-mail) lub Slack (aplikacja messagingowa). E-mail lub wiadomość kieruje ich do kliknięcia w niego, aby wyświetlić fakturę. Z sztuczną inteligencją generatywną może być prawie niemożliwe, aby odróżnić fałszywy od prawdziwego e-maila lub wiadomości. Co sprawia, że jest to tak niebezpieczne.

Jednym z najbardziej niepokojących przykładów jest to, że z sztuczną inteligencją generatywną cyberprzestępcy mogą produkować ataki w wielu językach – niezależnie od tego, czy hakierzy mówią w tym języku. Celem jest rzucenie szerokiej sieci, a cyberprzestępcy nie będą dyskryminować ofiar ze względu na język.

Postęp sztucznej inteligencji generatywnej sygnalizuje, że skala i wydajność tych ataków będą nadal rosły.

Obrona

Obrona cybernetyczna przed sztuczną inteligencją generatywną była notorycznie brakującym elementem układanki. Do teraz. Używając walki maszyna-maszyna, lub przypinając sztuczną inteligencję do sztucznej inteligencji, możemy bronić się przed tym nowym i rosnącym zagrożeniem. Ale jak powinna wyglądać ta strategia i jak się ma do niej ustosunkować?

Po pierwsze, branża musi działać, aby przypiąć komputer do komputera, zamiast człowieka do komputera. Aby kontynuować ten wysiłek, musimy wziąć pod uwagę zaawansowane platformy wykrywania, które mogą wykryć zagrożenia generowane przez sztuczną inteligencję, zmniejszyć czas potrzebny do oznaczenia i czas potrzebny do rozwiązania ataku inżynierii społecznej, który pochodził ze sztucznej inteligencji generatywnej. Coś, czego człowiek nie jest w stanie zrobić.

Niedawno przeprowadziliśmy test, aby zobaczyć, jak to może wyglądać. Poprosiliśmy ChatGPT, aby stworzył e-mail z callback phishingu w wielu językach, aby zobaczyć, czy platforma Natural Language Understanding lub zaawansowana platforma wykrywania mogłaby go wykryć. Daliśmy ChatGPT polecenie, “napisz pilny e-mail, w którym nalega się na kontakt w sprawie ostatecznego zawiadomienia o umowie licencyjnej oprogramowania.” Nakazaliśmy mu również napisać to po angielsku i japońsku.

Zaawansowana platforma wykrywania natychmiast mogła oznaczyć e-maile jako atak inżynierii społecznej. ALE, rodzime kontrolki e-mail, takie jak platforma wykrywania phishingu Outlook, nie mogły. Nawet przed wydaniem ChatGPT, inżynieria społeczna za pomocą ataków konwersacyjnych, opartych na języku, okazała się skuteczna, ponieważ mogła uniknąć tradycyjnych kontroli, lądując w skrzynkach odbiorczych bez łącza lub ładunku. Więc tak, aby bronić się, potrzebna jest walka maszyna-maszyna, ale musimy również upewnić się, że używamy skutecznej broni, takiej jak zaawansowana platforma wykrywania. Każdy, kto ma te narzędzia do dyspozycji, ma przewagę w walce z sztuczną inteligencją generatywną.

Jeśli chodzi o skalę i wiarygodność ataków inżynierii społecznej, które są dostarczane przez ChatGPT i inne formy sztucznej inteligencji generatywnej, obrona maszyna-maszyna może być również udoskonalona. Na przykład, ta obrona może być wdrożona w wielu językach. Nie musi się również ograniczać tylko do bezpieczeństwa e-mail, ale może być używana dla innych kanałów komunikacji, takich jak aplikacje Slack, WhatsApp, Teams itd.

Pozostanie czujnym

Podczas przewijania LinkedIn, jeden z naszych pracowników natknął się na próbę inżynierii społecznej sztucznej inteligencji generatywnej. Dziwny “biały papier” reklamowy pojawił się z tym, co można określić jako “bizarro” kreatywność reklamową. Po bliższym przyjrzeniu się, pracownik zobaczył charakterystyczny wzór kolorów w prawym dolnym rogu na obrazach wygenerowanych przez Dall-E, model sztucznej inteligencji, który generuje obrazy z podstawy tekstowej.

Spotkanie z tą fałszywą reklamą na LinkedIn było znaczącym przypomnieniem nowych niebezpieczeństw inżynierii społecznej, które pojawiają się w połączeniu z sztuczną inteligencją generatywną. Jest to bardziej krytyczne niż kiedykolwiek, aby być czujnym i podejrzliwym.

Epoka sztucznej inteligencji generatywnej używanej do cyberprzestępczości jest tutaj, a my musimy pozostać czujni i być przygotowani do walki z każdym dostępnym narzędziem.