Czy sztuczna inteligencja może napisać bardziej przekonujący e-mail phishingowy niż ludzie?

Przetwarzanie języka naturalnego i zaawansowane możliwości tłumaczenia sprawiają, że generatywna sztuczna inteligencja jest nieocenionym narzędziem dla hakerów. Jednak e-maile phishingowe generowane przez sztuczną inteligencję nie mogą być bardziej niebezpieczne niż oszukańcze treści generowane przez ludzi. Co użytkownicy i specjaliści ds. bezpieczeństwa powinni wiedzieć o roli sztucznej inteligencji w phishingu i cyberatakach?

Jak sztuczna inteligencja pisze e-maile phishingowe

Zgłoszona treść phishingowa wzrósł o 61% w stosunku do 2021 r do 2022 r. Od złośliwych adresów URL po oszustwa e-mailowe – phishing staje się z każdym rokiem coraz bardziej powszechny. Sztuczna inteligencja to najnowsze narzędzie, które hakerzy wykorzystują do usprawniania kampanii phishingowych. Chociaż przetwarzanie języka naturalnego przez sztuczną inteligencję jest korzystne, hakerzy mogą go wykorzystać do tworzenia skuteczniejszych treści phishingowych.

Dostępność platform AI jako usługi, takich jak ChatGPT, sprawia, że ​​generowanie treści jest łatwiejsze niż kiedykolwiek. Haker może pokazać rozbudowanemu modelowi językowemu sztucznej inteligencji tysiące przykładów legalnych e-maili, a następnie poprosić go o utworzenie na ich podstawie oryginalnych e-maili. Przetwarzanie języka naturalnego (NLP) umożliwia sztucznej inteligencji zrozumienie i odtworzenie realistycznej treści pisanej — jest to doskonałe narzędzie w atakach phishingowych.

W idealnym przypadku sztuczna inteligencja generuje oryginalną wiadomość e-mail imitującą wiadomość napisaną przez człowieka. Haker może poprosić go o dostosowanie wiadomości tak, aby zawierała szczegółowe informacje na temat konkretnej firmy, osoby lub miejsca. Sztuczna inteligencja może nawet przetłumaczyć wiadomość na inny język. Hakerzy mogą skutecznie w ciągu kilku chwil stworzyć całkowicie oryginalne, spersonalizowane wiadomości e-mail phishingowe, co pozwala im uniknąć recyklingu jednej złośliwej wiadomości e-mail wśród wielu celów.

Czy e-maile phishingowe generowane przez sztuczną inteligencję są skuteczne? 

Możliwości phishingu wykorzystującego sztuczną inteligencję mogą wydawać się zastraszające, ale czy są one bardziej niebezpieczne niż treści phishingowe tworzone przez ludzi? Zalety e-maili phishingowych generowanych przez sztuczną inteligencję sprowadzają się głównie do wydajniejszego przepływu pracy dla hakerów.

Wczesne badania wykazały, że e-maile phishingowe generowane przez sztuczną inteligencję są generowane przez sztuczną inteligencję są równie przekonujące jako e-maile phishingowe generowane przez ludzi. Hakerzy mają również ograniczony dostęp do platform AI jako usługi. Większość dużych programistów – w tym OpenAI – posiada zabezpieczenia zapobiegające nielegalnym aplikacjom modeli AI. 

Głównymi zaletami sztucznej inteligencji dla hakerów phishingowych są wydajność i język. Używanie sztucznej inteligencji do generowania oszukańczych wiadomości e-mail jest szybsze niż ręczne ich zapisywanie, co pozwala hakerom tworzyć większą różnorodność wiadomości phishingowych. Ponadto mogą atakować ofiary w dowolnym miejscu na świecie dzięki łatwo dostępnym narzędziom do tłumaczenia sztucznej inteligencji z możliwościami NLP.

Zatem e-maile phishingowe generowane przez sztuczną inteligencję zwiększają ryzyko ataków phishingowych, ale niekoniecznie są bardziej przekonujące niż treści generowane przez ludzi.

Jak bronić się przed phishingiem generowanym przez sztuczną inteligencję

Sztuczna inteligencja jest pomocnym narzędziem dla hakerów, ale nie jest niezawodna. Technologia zabezpieczeń i użytkownicy mogą również udoskonalać swoje strategie obrony, gdy ataki phishingowe stają się coraz mądrzejsze. Użytkownicy powinni zacząć od bycia na bieżąco sygnały ostrzegawcze dotyczące treści phishingowych, ponieważ pozostaną one aktualne nawet w przypadku e-maili generowanych przez sztuczną inteligencję.

Chociaż wykrycie e-maili phishingowych na pierwszy rzut oka może być trudniejsze, pewne kroki bezpieczeństwa mogą zminimalizować lub wyeliminować ryzyko wyrządzenia szkód przez phishing. Ponadto nowe technologie wykrywania mogą wyłapywać złośliwe e-maile pisane zarówno przez sztuczną inteligencję, jak i przez ludzi.

Przełącz na przechowywanie w chmurze

Przejście na przechowywanie w chmurze to świetny sposób na zminimalizowanie zagrożenia e-mailami phishingowymi i cyberatakami. Izolowany charakter konwencjonalnego przechowywania danych sprawia, że ​​jest on bardzo podatny na wykorzystanie przez hakerów. Wystarczy, że haker przejmie kontrolę nad jednym dyskiem twardym lub serwerem, a wszystkie czyjeś dane będą zakładnikami.

Przechowywanie w chmurze pozwala uniknąć tego zagrożenia. Ponieważ dane nie są powiązane z żadnym konkretnym urządzeniem, hakerom znacznie trudniej jest usunąć lub uszkodzić jakiekolwiek informacje. Cyberbezpieczeństwo oparte na chmurze może również zwiększyć odporność na próby włamań.

Na przykład użytkownicy mogą wdrożyć automatyczne skanowanie pod kątem luk w zabezpieczeniach znaleźć słabe punkty w swojej chmurze bezpieczeństwo. Jest to doskonałe rozwiązanie, aby uniemożliwić hakerom wykorzystanie tylnych drzwi lub skradzionych danych uwierzytelniających w celu uzyskania dostępu do danych w chmurze. Nawet jeśli tak się stanie, będzie im trudno w pełni kontrolować jakiekolwiek dane, ponieważ przechowywanie w chmurze jest tak rozproszone.

Stwórz własny system weryfikacji

Jednym z samodzielnych rozwiązań pomagających odstraszać wszelkiego rodzaju wiadomości phishingowe jest utworzenie systemu kodów wśród zaufanych korespondentów. Może to obejmować osoby takie jak rodzina, przyjaciele i współpracownicy. Za każdym razem, gdy członkowie grupy wysyłają do siebie e-maile, mogą napisać określoną frazę kodową, aby sprawdzić, czy wiadomość faktycznie pochodzi od nich.

Ten system kodowania nie musi być przesadnie skomplikowany. Chodzi po prostu o dodanie czynnika do wiadomości e-mail, których haker lub sztuczna inteligencja nie mogliby wcześniej wiarygodnie poznać. Należy użyć nietypowej frazy kodowej, aby była mało prawdopodobna w wiadomościach e-mail trenujących sztuczną inteligencję.

Kodem może być na przykład nazwa widmowej osady, np. „Agloe, Nowy Jork”. Jest mało prawdopodobne, aby widmowe osady pojawiały się często w e-mailach, ponieważ są to fikcyjne miejsca po prostu dodane do map ze względu na prawa autorskie.

Użyj funkcji wykrywania phishingu za pomocą sztucznej inteligencji

Hakerzy nie są jedynymi, którzy wykorzystują sztuczną inteligencję do wprowadzania innowacji w swoich metodologii. Użytkownicy i specjaliści ds. bezpieczeństwa mogą wykorzystywać modele sztucznej inteligencji do wykrywania treści phishingowych, niezależnie od tego, czy pisze je człowiek, czy sztuczna inteligencja.

Na przykład programiści mogą używać uczenia maszynowego do monitorować i śledzić naturalną komunikację wzorce legalnych korespondentów e-mailowych. Gdyby sztuczna inteligencja szybko nauczyła się unikalnego stylu komunikacji danej osoby, mogłaby rozpoznać fałszywe e-maile, które do siebie nie pasują. Dotyczy to niezależnie od tego, czy wiadomość e-mail napisał człowiek, czy sztuczna inteligencja.

Jedna z największych zalet phishingu wykorzystującego sztuczną inteligencję jest również poważną wadą. Hakerzy mogą skutecznie tworzyć wiarygodne fałszywe e-maile za pomocą sztucznej inteligencji, ale stylu komunikacji tych e-maili nie da się skutecznie spersonalizować. Haker zazwyczaj nie ma wiedzy technicznej ani zasobów, aby wyszkolić sztuczną inteligencję w zakresie dokładnego odtwarzania stylu pisania konkretnej osoby. Modele sztucznej inteligencji do wykrywania phishingu mogą wykorzystać tę słabość do ochrony użytkowników.

Zrozumienie ryzyka phishingu opartego na sztucznej inteligencji

Sztuczna inteligencja może być cennym narzędziem dla hakerów podczas tworzenia wiadomości phishingowych. Jednak e-maile generowane przez sztuczną inteligencję niekoniecznie są bardziej przekonujące niż treści phishingowe generowane przez ludzi. Główne sygnały ostrzegawcze phishingu — takie jak pilne wezwania do działania — pozostają aktualne niezależnie od tego, kto lub co tworzy wiadomość e-mail phishingową. Użytkownicy i specjaliści ds. bezpieczeństwa mogą stosować innowacyjne techniki i technologie, aby chronić swoje dane przed kampaniami phishingowymi opartymi na sztucznej inteligencji.