Sztuczna inteligencja w phishingu: kto korzysta więcej – atakujący czy obrońcy?

Wraz ze wzrostem cyberprzestępczości, branża cyberbezpieczeństwa musiała zaadaptować się do najnowszych technologii, aby nadążyć. Sztuczna inteligencja (AI) stała się jednym z najbardziej przydatnych narzędzi w zapobieganiu atakom cybernetycznym, ale atakujący także mogą z niej korzystać. Najnowsze trendy w phishingu są doskonałym przykładem obu stron tego problemu.

Phishing jest najczęstszym rodzajem cyberprzestępczości dzisiaj, zdecydowanie. Wraz ze wzrostem świadomości firm na temat tego rosnącego zagrożenia, więcej firm wdrożyło narzędzia AI, aby go powstrzymać. Jednak cyberprzestępcy również zwiększają swoje wykorzystanie AI w phishingu. Oto bliższe spojrzenie na to, jak obie strony wykorzystują tę technologię i kto korzysta z niej więcej.

Jak AI pomaga w walce z phishingiem

Ataki phishingowe wykorzystują naturalną ludzką skłonność do ciekawości i strachu. Ponieważ ten inżynieria społeczna jest tak skuteczna, jednym z najlepszych sposobów ochrony przed nią jest upewnienie się, że w ogóle jej nie zobaczysz. To właśnie tutaj pojawia się AI.

Narzędzia AI przeciwko phishingowi zwykle występują w postaci zaawansowanych filtrów pocztowych. Te programy skanują nadchodzące wiadomości w poszukiwaniu oznak ataków phishingowych i automatycznie wysyłają podejrzane wiadomości do folderu spamu. Niektóre nowsze rozwiązania mogą wykryć wiadomości phishingowe z dokładnością 99,9%, generując różne wersje fałszywych wiadomości na podstawie prawdziwych przykładów, aby nauczyć się wykrywać ich warianty.

Im więcej ataków phishingowych wykrywają badacze bezpieczeństwa, tym więcej danych mogą dostarczyć tym modelom, czyniąc je jeszcze bardziej dokładnymi. Ciągłe możliwości uczenia się AI również pomagają doskonalić modele, aby zmniejszyć fałszywe pozytywy.

AI może również pomóc powstrzymać ataki phishingowe, gdy klikniesz na złośliwy link. Oprogramowanie monitorujące może ustalić bazowy poziom normalnego zachowania, aby wykryć anomalie, które prawdopodobnie pojawią się, gdy ktoś inny używa Twojego konta. Mogą następnie zablokować profil i zaalarmować zespoły bezpieczeństwa, zanim intruz wyrządzi zbyt dużo szkody.

Jak atakujący wykorzystują AI w phishingu

Potencjał AI w powstrzymywaniu ataków phishingowych jest imponujący, ale jest to również potężne narzędzie do generowania wiadomości phishingowych. Wraz ze wzrostem dostępności generatywnej AI, takiej jak ChatGPT, ataki phishingowe stają się coraz skuteczniejsze.

Spearphishing – który wykorzystuje dane personalne, aby stworzyć wiadomości dostosowane do użytkownika – jest jednym z najskuteczniejszych rodzajów phishingu. Wiadomość, która poprawnie podaje Twoje dane personalne, będzie naturalnie bardziej przekonywująca. Jednak te wiadomości tradycyjnie były trudne i czasochłonne do stworzenia, szczególnie na dużą skalę. To już nie jest problemem z generatywną AI.

AI może generować ogromne ilości dostosowanych wiadomości phishingowych w ułamku czasu, jaki potrzebowałby człowiek. Jest również lepsze niż ludzie w tworzeniu przekonywujących fałszywek. W badaniu z 2021 roku wiadomości phishingowe wygenerowane przez AI miały znacznie wyższe wskaźniki kliknięć niż te napisane przez ludzi – i to przed wydaniem ChatGPT.

Tak jak marketerzy wykorzystują AI do personalizacji kampanii reklamowych, cyberprzestępcy mogą ją wykorzystać do tworzenia skutecznych, dostosowanych do użytkownika wiadomości phishingowych. Wraz ze wzrostem generatywnej AI, te fałszywki staną się jeszcze bardziej przekonywujące.

Atakujący pozostają na czele dzięki słabościom ludzkim

Z atakującymi i obrońcami korzystającymi z AI, która strona odniosła największe korzyści? Jeśli spojrzymy na ostatnie trendy w cyberprzestępczości, zobaczymy, że cyberprzestępcy prosperują pomimo bardziej zaawansowanych zabezpieczeń.

Ataki na firmy za pomocą poczty elektronicznej wzrosły o 81% w drugiej połowie 2022 roku, a pracownicy otworzyli 28% tych wiadomości. To część dłuższego trendu, który wzrósł o 175% w ciągu ostatnich dwóch lat, co sugeruje, że phishing rośnie szybciej niż kiedykolwiek. Te ataki są skuteczne, kradnąc 17 700 dolarów na minutę, co jest prawdopodobnie powodem, dla którego stają się przyczyną 91% ataków cybernetycznych.

Dlaczego phishing wzrósł tak bardzo, pomimo że AI poprawia zabezpieczenia przeciwko phishingowi? Prawdopodobnie wynika to z ludzkiego czynnika. Pracownicy muszą rzeczywiście korzystać z tych narzędzi, aby były one skuteczne. Poza tym, pracownicy mogą angażować się w inne niebezpieczne działania, które sprawiają, że są oni podatni na ataki phishingowe, takie jak logowanie się do swoich kont firmowych na nieautoryzowanych, niezabezpieczonych urządzeniach osobistych.

Wspomniana wcześniej ankieta wykazała również, że pracownicy zgłaszają tylko 2,1% ataków. Ten brak komunikacji może utrudnić zidentyfikowanie miejsc i sposobów, w jakich środki bezpieczeństwa muszą się poprawić.

Jak chronić się przed rosnącymi atakami phishingowymi

Biorąc pod uwagę ten niepokojący trend, firmy i użytkownicy indywidualni powinni podjąć kroki, aby zachować bezpieczeństwo. Wdrożenie narzędzi AI przeciwko phishingowi jest dobrym punktem wyjścia, ale nie może to być jedyna środek. Tylko 7% zespołów bezpieczeństwa nie korzysta z AI ani nie planuje jej wykorzystania, a dominacja phishingu trwa, więc firmy muszą również rozwiązać problem ludzki.

Ponieważ ludzie są najsłabszym ogniwem w atakach phishingowych, powinni być celem środków łagodzących. Organizacje powinny uczynić najlepsze praktyki bezpieczeństwa bardziej widoczną częścią szkolenia pracowników i ciągłego rozwoju. Te programy powinny obejmować, jak rozpoznać ataki phishingowe, dlaczego jest to problem i symulacje, aby przetestować ich zapamiętanie po szkoleniu.

Używanie silniejszych narzędzi zarządzania tożsamością i dostępem jest również ważne, ponieważ pomagają one powstrzymać udane ataki po tym, jak dostaną się do konta. Nawet doświadczeni pracownicy mogą popełniać błędy, więc powinniście być w stanie wykryć i powstrzymać zhakowane konta, zanim spowodują znaczne szkody.

AI jest potężnym narzędziem dla dobra i zła

AI jest jedną z najbardziej przełomowych technologii w niedawnej historii. Czy jest to dobre, czy złe, zależy od jej wykorzystania.

Jest ważne, aby uznać, że AI może pomóc cyberprzestępcům tak samo – jeśli nie bardziej – jak specjalistom od cyberbezpieczeństwa. Kiedy organizacje uznają te ryzyka, mogą podjąć bardziej skuteczne kroki, aby rozwiązać problem rosnących ataków phishingowych.