Rosnący wpływ sztucznej inteligencji na oszustwa wyborcze w tym sezonie

W 2022 roku, złośliwe e-maile skierowane do pracowników wyborczych w Pensylwanii gwałtownie wzrosły wokół wyborów primarnych 17 maja, zwiększając się o ponad 546% w ciągu sześciu miesięcy. W połączeniu z możliwością niecnych dużych modeli językowych (LLM) na szczycie tych tradycyjnych ataków phishingowych, istnieje duże prawdopodobieństwo, że zwykły Amerykanin będzie celem jeszcze bardziej realistycznego oszustwa w tym sezonie wyborczym.

Rządy zaczynają zwracać na to uwagę, zwłaszcza gdy sztuczna inteligencja staje się integralną częścią naszego codziennego życia. Na przykład, amerykańska Agencja Bezpieczeństwa Cybernetycznego i Infrastruktury uruchomiła program, który ma na celu zwiększenie bezpieczeństwa wyborów – co pokazuje rosnące zapotrzebowanie ze strony rządu i społeczeństwa na ochronę siebie i swoich danych przed potencjalnymi złymi aktorami w tym sezonie wyborczym.

I jeszcze niedawno, na Konferencji Bezpieczeństwa w Monachium w 2024 roku, 20 firm technologicznych i sztucznej inteligencji podpisało “Porozumienie technologiczne w celu walki z oszukańczym użyciem sztucznej inteligencji w wyborach 2024”, które podkreśla zasady przewodnie dla ochrony wyborów i procesu wyborczego, w tym zapobieganie, pochodzenie, wykrywanie, ochronę i świadomość publiczną. Składające się z głównych graczy technologicznych, w tym Microsoftu, Amazon (AMZN ) i Google, oznacza to ważną zmianę w branży, która nawet poza afiliacjami politycznymi, bezpieczeństwo danych jest tematem, który będzie niepokoił obywateli i ekspertów cybernetycznych przez cały ten sezon wyborczy. Co więcej, generatywna sztuczna inteligencja w znacznym stopniu wpłynie na to, jak złe aktorzy mogą prowadzić swoje ataki, czyniąc je bardziej realistycznymi oszustwami.

Typy oszustw wyborczych

Podczas gdy sezon wyborczy nie jest jedynym czasem, kiedy widzimy wzrost oszustw, kiedy przychodzi czas głosowania, albo w primarnych, albo w wyborach powszechnych, tendencja jest taka, że widzimy wzrost kilku metod i technik. Każda z nich jest używana z typowym celem uzyskania dostępu do konta lub zysku finansowego osoby, a konsekwencje poddania się im mogą być poważne. W rzeczywistości, oszustwa z użyciem deepfake kosztowały Stany Zjednoczone więcej niż 3,4 miliarda dolarów strat.

Przykłady oszustw, których doświadczamy w sezonie wyborczym, obejmują:

• Phishing: Phishing obejmuje użycie fałszywych linków, e-maili i stron internetowych w celu uzyskania dostępu do wrażliwych informacji konsumenckich – zwykle poprzez instalację złośliwego oprogramowania na systemie docelowym. Dane te są następnie używane do kradzieży tożsamości, uzyskania dostępu do cennych aktywów i zalewania skrzynek pocztowych spamem. W sezonie wyborczym e-maile phishingowe mogą być kamuflowane jako e-maile z prośbą o darowiznę, zachęcając obywatela do kliknięcia linku, myśląc, że darowują na rzecz kandydata, ale tak naprawdę wpadając w sidła złego aktora.
• Robocalls, Impersonacje, i AI-generowane głosy lub czatboty: Jak widzieliśmy w New Hampshire, kiedy robocall udawał Prezydenta Bidena, nakłaniając obywateli do niegłosowania, sezon wyborczy przyniesie wzrost impersonacji sondażystów lub kandydatów politycznych w celu fałszywego zdobycia zaufania i uzyskania wrażliwych informacji.
• Deepfakes: Z rozwojem sztucznej inteligencji, deepfakes stały się niezwykle realistyczne i mogą być używane do udawania szefa lub nawet ulubionej celebrytki. Deepfakes to filmy lub obrazy, które wykorzystują sztuczną inteligencję do zastąpienia twarzy lub manipulowania wyrazami twarzy lub mową. Wiele deepfake, których spotykamy na co dzień, będzie w postaci filmu, z fałszywym klipem przedstawiającym osobę mówiącą lub robiącą coś, czego nie zrobiła. Spodziewa się, że będzie to szczególnie powszechne w tym sezonie wyborczym, z ryzykiem stworzenia deepfake w celu udawania kandydatów. Nawet poza Stanami Zjednoczonymi, na przykład w Wielkiej Brytanii, istnieją obawy, że deepfakes mogą być używane do fałszowania wyborów.

Wpływ sztucznej inteligencji na wybory

Ponadto, algorytmy sztucznej inteligencji są używane do generowania bardziej przekonywujących i angażujących fałszywych wiadomości, e-maili i postów na mediach społecznościowych, aby oszukać użytkowników i zmusić ich do udostępnienia wrażliwych informacji.

Microsoft (MSFT ) i OpenAI opublikowały briefing dotyczący zagrożeń, „Navigating Cyberthreats And Strengthening Defenses In The Era Of AI”, który zauważył, że pięciu aktorów zagrożeń z Rosji, Korei Północnej, Iranu i Chin już używało GenAI do nowych i innowacyjnych sposobów zwiększania swoich operacji przeciwko miękkim celom.

Oszustwa, takie jak czatboty, klonowanie głosu i inne, są jeszcze bardziej zaawansowane dzięki sztucznej inteligencji jako narzędziu do rozpowszechniania fałszywych informacji, tworzenia złośliwego oprogramowania i udawania osób. Narzędzia do klonowania głosu mogą tworzyć niemal idealne repliki głosu lub twarzy postaci wyborczej, na przykład. Sztuczna inteligencja mogłaby również być używana do zalewania centrów kontaktowych fałszywymi połączeniami wyborczymi, przytłaczając je fałszywymi informacjami.

Na najwyższym poziomie alertu będą media społecznościowe, ponieważ są one głównym środkiem transportu dla kampanii w tym sezonie wyborczym. Wyborcy będą udostępniać, czy głosowali, i może nawet pokazywać swoje poparcie dla ulubionego kandydata na swoich stronach. Jednak ten rok stanowi nowe zagrożenie, ponieważ widzimy nowy wzrost oszustw phishingowych (w tym smishingu i vishingu).

Rozważmy sytuację, w której ktoś opublikował na swoim koncie w mediach społecznościowych poparcie dla konkretnego kandydata. Kilka minut później otrzymuje e-mail, który wydaje się pochodzić od menedżera kampanii, dziękując mu za poparcie. Potencjalna ofiara mogłaby zainterakcjonować z tym e-mailem, klikając link, narażając się na zbieranie poświadczeń, straty finansowe lub instalację złośliwego oprogramowania. Dzięki zdolności sztucznej inteligencji do monitorowania, tworzenia i dostarczania ukierunkowanych kampanii phishingowych w czasie rzeczywistym, wydawałoby się niewinne posty na mediach społecznościowych otwierają użytkowników na nowy poziom realistycznych oszustw phishingowych.

Pozostanie czujnym w tym sezonie wyborczym

Ataki, takie jak phishing, będą nadal powszechnym sposobem, w jaki złe aktorzy tworzą realistyczne oszustwa, które mogą ominąć nawet najbardziej wiedzących, a w erze generatywnej sztucznej inteligencji potencjalny wpływ tych oszustw został przyspieszony, umożliwiając złym aktorom szybszy dostęp do wrażliwych informacji.

Podczas gdy firmy wdrożenia technologii w celu ochrony swoich danych i pracowników, konsumenci również muszą być świadomi technik, aby rozpoznać i uniknąć oszustw. Niektóre z nich obejmują:

• Uwagę na losowe lub błędnie napisane linki lub tematy e-maili
• Nie klikanie linku od nieznanego nadawcy
• Używanie uwierzytelniania dwuskładnikowego lub biometrycznego, gdzie tylko to możliwe
• Ustawienie kont w mediach społecznościowych na prywatne
• Zgłaszanie nieuczciwej działalności
• Edukowanie innych współpracowników lub członków rodziny
• Wyszukiwanie domeny .gov, aby zweryfikować autentyczność kandydata wyborczego
• Jeśli masz IT w swoim miejscu pracy, możesz również poprosić o:
• Sieci Zero Trust
• Uwierzytelnianie dwuskładnikowe odporne na phishing
• Narzędzia bezpieczeństwa e-mail (DMARC, DKIM, SPF)
• Metody cyfrowego podpisywania treści (lub inny sposób kryptograficznego weryfikowania komunikacji)

Chociaż sezony wyborcze są czasem, aby być w stanach gotowości, ataki mogą wystąpić w każdej chwili, dlatego ważne jest, aby upewnić się, że twoje podstawy cyberbezpieczeństwa są silne i niezawodne przez cały rok. Narzędzia bezpieczeństwa (DMARC, DKIM, SPF) Metody cyfrowego podpisywania treści (lub inny sposób kryptograficznego weryfikowania komunikacji) Chociaż sezony wyborcze są czasem, aby być w stanach gotowości, ataki mogą wystąpić w każdej chwili, dlatego ważne jest, aby upewnić się, że twoje podstawy cyberbezpieczeństwa są silne i niezawodne przez cały rok.