Sztuczna inteligencja generatywna w cyberbezpieczeństwie: Pole bitwy, Zagrożenie & Teraz Obrona

Pole bitwy

To, co zaczęło się jako podekscytowanie możliwościami sztucznej inteligencji generatywnej, szybko przerodziło się w obawy. Narzędzia sztucznej inteligencji generatywnej, takie jak ChatGPT, Google Bard, Dall-E itd., nadal pojawiają się w nagłówkach ze względu na obawy związane z bezpieczeństwem i prywatnością. Prowadzi to nawet do pytań o to, co jest prawdziwe, a co nie. Sztuczna inteligencja generatywna może wytwarzać bardzo przekonywujący i wiarygodny content. Tak bardzo, że na zakończenie niedawnego odcinka 60 Minutes o sztucznej inteligencji, gospodarz Scott Pelley pozostawił widzom następujące stwierdzenie; “Zakończymy notatką, która nigdy nie pojawiła się w 60 Minutes, ale jedną, w rewolucji sztucznej inteligencji, możesz słyszeć często: poprzedni content został wytworzony z 100% ludzkim contentem.”

Wojna cybernetyczna sztucznej inteligencji generatywnej zaczyna się od tego przekonywującego i realistycznego contentu, a pole bitwy to miejsce, w którym hakerzy wykorzystują sztuczną inteligencję generatywną, używając narzędzi takich jak ChatGPT itd. Jest to niezwykle łatwe dla cyberprzestępców, zwłaszcza tych z ograniczonymi zasobami i zerową wiedzą techniczną, do przeprowadzania swoich zbrodni za pomocą inżynierii społecznej, phishingu i ataków na podszywanie się.

Zagrożenie

Sztuczna inteligencja generatywna ma możliwość napędzania coraz bardziej zaawansowanych ataków cybernetycznych.

Ponieważ ta technologia może wytwarzać bardzo przekonywujący i ludzki content z łatwością, nowe oszustwa z użyciem sztucznej inteligencji są trudniejsze do wykrycia przez zespoły bezpieczeństwa. Oszustwa wytworzone przez sztuczną inteligencję mogą przybrać formę ataków inżynierii społecznej, takich jak ataki phishingowe prowadzone za pośrednictwem poczty e-mail i aplikacji messengingowych. Przykład z życia wzięty mógłby być e-mailem lub wiadomością zawierającą dokument, który jest wysłany do dyrektora wykonawczego od dostawcy zewnętrznego za pośrednictwem Outlook (e-mail) lub Slack (aplikacja messengingowa). E-mail lub wiadomość kieruje ich do kliknięcia w niego, aby wyświetlić fakturę. Z sztuczną inteligencją generatywną może być prawie niemożliwe, aby odróżnić fałszywy e-mail lub wiadomość od prawdziwej. Dlatego jest to tak niebezpieczne.

Jednym z najbardziej niepokojących przykładów jest jednak to, że z sztuczną inteligencją generatywną cyberprzestępcy mogą produkować ataki w wielu językach – niezależnie od tego, czy hakier rzeczywiście mówi w tym języku. Celem jest rzucenie szerokiej sieci, a cyberprzestępcy nie będą dyskryminować ofiar ze względu na język.

Postęp sztucznej inteligencji generatywnej sygnalizuje, że skala i wydajność tych ataków będą nadal rosły.

Obrona

Obrona cybernetyczna przed sztuczną inteligencją generatywną była notorycznie brakującym elementem układanki. Do teraz. Używając walki maszyna przeciw maszynie, lub przypinając sztuczną inteligencję przeciw sztucznej inteligencji, możemy bronić się przed tym nowym i rosnącym zagrożeniem. Ale jak powinna być zdefiniowana ta strategia i jak wygląda?

Po pierwsze, branża musi działać, aby przypiąć komputer do komputera zamiast człowieka przeciw komputerowi. Aby kontynuować ten wysiłek, musimy brać pod uwagę zaawansowane platformy wykrywania, które mogą wykryć zagrożenia wytworzone przez sztuczną inteligencję, zmniejszyć czas potrzebny do oznaczenia i czas potrzebny do rozwiązania ataku inżynierii społecznej, który pochodził ze sztucznej inteligencji generatywnej. Coś, czego człowiek nie jest w stanie zrobić.

Niedawno przeprowadziliśmy test, jak to może wyglądać. Mieliśmy ChatGPT, który wytworzył e-mail z wezwaniem do callbacku w wielu językach, aby zobaczyć, czy platforma Natural Language Understanding lub zaawansowana platforma wykrywania mogą wykryć ją. Daliśmy ChatGPT polecenie, “napisz pilny e-mail, w którym nalega się na telefon w sprawie ostatecznego zawiadomienia o umowie licencyjnej oprogramowania.” Nakazaliśmy mu również napisać go w języku angielskim i japońskim.

Zaawansowana platforma wykrywania była w stanie natychmiast oznaczyć e-maile jako atak inżynierii społecznej. ALE kontrola poczty e-mail, taka jak platforma phishingowa Outlook, nie mogła. Nawet przed wydaniem ChatGPT inżynieria społeczna za pomocą ataków konwersacyjnych, opartych na języku, okazała się skuteczna, ponieważ mogła uniknąć tradycyjnych kontroli, lądując w skrzynkach pocztowych bez linku lub ładunku. Tak więc, tak, wymaga to walki maszyna przeciw maszynie, aby bronić, ale musimy również upewnić się, że używamy skutecznej broni, takiej jak zaawansowana platforma wykrywania. Każdy, kto ma te narzędzia do dyspozycji, ma przewagę w walce z sztuczną inteligencją generatywną.

Gdy chodzi o skalę i prawdopodobieństwo ataków inżynierii społecznej, które są dostarczane przez ChatGPT i inne formy sztucznej inteligencji generatywnej, obrona maszyna przeciw maszynie może być również udoskonalona. Na przykład, ta obrona może być wdrożona w wielu językach. Nie musi się również ograniczać tylko do bezpieczeństwa e-mail, ale może być używana do innych kanałów komunikacji, takich jak aplikacje jak Slack, WhatsApp, Teams itd.

Bądź czujny

Podczas przewijania LinkedIn, jeden z naszych pracowników natknął się na próbę oszustwa inżynierii społecznej z użyciem sztucznej inteligencji generatywnej. Dziwny “biały papier” reklamowy pojawił się z tym, co można określić jako “bizarro” kreatywność reklamową. Po bliższym przyjrzeniu się pracownik zobaczył charakterystyczny wzór kolorystyczny w prawym dolnym rogu na obrazach wyprodukowanych przez Dall-E, model sztucznej inteligencji, który generuje obrazy z podstawie tekstowych podpowiedzi.

Spotkanie z tym fałszywym ogłoszeniem LinkedIn było znaczącym przypomnieniem nowych niebezpieczeństw inżynierii społecznej, które pojawiają się w połączeniu z sztuczną inteligencją generatywną. Jest to jeszcze bardziej krytyczne, aby być czujnym i podejrzliwym.

Era sztucznej inteligencji generatywnej używanej do cyberprzestępczości jest tutaj, a my musimy pozostać czujni i być gotowi do walki z każdym dostępnym narzędziem.