Jak AI-wygenerowane deepfakes zagrażają integralności wyborów — i co można z tym zrobić

Kampanie reklamowe już teraz mogą być dość nieładne i kontrowersyjne.

Teraz wyobraź sobie, że jesteś celem kampanii reklamowej, w której kandydat wyraża silne poglądy, które wpływają na twoją decyzję wyborczą — i reklama nie jest nawet prawdziwa. To jest deepfake.

To nie jest jakiś hipotetyczny scenariusz z przyszłości; deepfakes są prawdziwym, powszechnym problemem. Już widzieliśmy AI-wygenerowane “poparcia”, które trafiają do nagłówków, i to, co słyszymy, to tylko wierzchołek góry lodowej.

Gdy zbliżamy się do wyborów prezydenckich w Stanach Zjednoczonych w 2024 roku, wkraczamy w niezbadane terytorium w dziedzinie cyberbezpieczeństwa i integralności informacji. Pracowałem na styku cyberbezpieczeństwa i sztucznej inteligencji od czasu, gdy obie te koncepcje były jeszcze w powijakach, i nigdy nie widziałem czegoś takiego, co się teraz dzieje.

Szybka ewolucja sztucznej inteligencji — szczególnie generative AI i oczywiście wynikająca z tego łatwość tworzenia realistycznych deepfakes — przekształciła krajobraz zagrożeń wyborczych. Nowa rzeczywistość wymaga zmiany w podstawowych założeniach dotyczących bezpieczeństwa wyborów i edukacji wyborców.

Uzbrojona AI

Nie musisz brać mojego osobistego doświadczenia jako dowodu; jest wiele dowodów na to, że wyzwania cyberbezpieczeństwa, z którymi mamy do czynienia dzisiaj, ewoluują w niespotykanym tempie. W ciągu zaledwie kilku lat byliśmy świadkami dramatycznej transformacji możliwości i metod potencjalnych sprawców zagrożeń. Ewolucja ta odzwierciedla przyspieszony rozwój, jaki obserwujemy w technologiach AI, ale z niepokojącym zwrotem.

Przykład:

• Szybka uzbrojenie podatności. Dzisiejsi atakujący mogą szybko wykorzystywać nowo odkryte podatności, często szybciej niż mogą być opracowane i wdrożone łaty. Narzędzia AI jeszcze bardziej przyspieszają ten proces, zmniejszając okno między odkryciem podatności a ich wykorzystaniem.
• Poszerzona powierzchnia ataku. Powszechne przyjęcie technologii chmurowych znacznie rozszerzyło potencjalną powierzchnię ataku. Rozproszona infrastruktura i model współodpowiedzialności między dostawcami chmury a użytkownikami tworzą nowe wektory eksploatacji, jeśli nie są właściwie zarządzane.
• Przestarzałe tradycyjne środki bezpieczeństwa. Dzisiejsze narzędzia bezpieczeństwa, takie jak firewalle i oprogramowanie antywirusowe, mają trudności z nadążaniem za tymi ewoluującymi zagrożeniami, szczególnie w przypadku wykrywania i łagodzenia treści generowanej przez AI.

Popatrz, kto mówi

W tym nowym pejzażu zagrożeń deepfakes stanowią szczególnie podstępne wyzwanie dla integralności wyborów. Najnowsze badania przeprowadzone przez Ivanti podają pewne liczby dotyczące zagrożenia: ponad połowa pracowników biurowych (54%) nie jest świadoma, że zaawansowana AI może naśladować głos każdego. Brak świadomości wśród potencjalnych wyborców jest bardzo niepokojący, gdy zbliżamy się do krytycznego cyklu wyborczego.

Jest tak wiele na szali.

Sofistykacja dzisiejszych technologii deepfake pozwala sprawcom zagrożeń, zarówno zagranicznym, jak i krajowym, tworzyć przekonywujące fałszywe treści audio, wideo i tekstowe z minimalnym wysiłkiem. Prosta wskazówka tekstowa może już wygenerować deepfake, który staje się coraz trudniejszy do odróżnienia od autentycznej treści. Ta możliwość ma poważne implikacje dla rozpowszechniania dezinformacji i manipulowania opinią publiczną.

Wyzwania w atrybucji i łagodzeniu

Atrybucja jest jednym z największych wyzwań, z którymi mamy do czynienia w przypadku AI-wygenerowanych zakłóceń wyborów. Chociaż historycznie kojarzyliśmy ingerencję w wybory z aktorami państwowymi, demokratyzacja narzędzi AI oznacza, że grupy krajowe, zmotywowane różnymi ideologicznymi motywacjami, mogą teraz wykorzystywać te technologie do wpływania na wybory.

Ta dyfuzja potencjalnych sprawców zagrożeń utrudnia nam identyfikację i łagodzenie źródeł dezinformacji. Podkreśla to również potrzebę wieloaspektowego podejścia do bezpieczeństwa wyborów, które wykracza poza tradycyjne środki bezpieczeństwa.

Współdziałanie w celu utrzymania integralności wyborów

Rozwiązanie wyzwania AI-wygenerowanych deepfakes w wyborach będzie wymagało współdziałania różnych sektorów. Oto kluczowe obszary, na których musimy się skoncentrować:

• Bezpieczeństwo AI od lewej strony. Musimy zastosować zasady “shift-left” bezpieczeństwa do samej rozwoju systemów AI. Oznacza to uwzględnienie kwestii bezpieczeństwa od samego początku rozwoju modeli AI, w tym kwestii potencjalnego wykorzystania w ingerencji w wybory.
• Wymuszanie bezpiecznych konfiguracji. Systemy AI i platformy, które mogą potencjalnie być wykorzystane do generowania deepfakes, powinny mieć domyślnie bezpieczne konfiguracje. Obejmuje to silne środki uwierzytelniania i ograniczenia rodzajów treści, które mogą być generowane.
• Zabezpieczenie łańcucha dostaw AI. Tak jak koncentrujemy się na zabezpieczeniu łańcucha dostaw oprogramowania, musimy rozszerzyć tę czujność na łańcuch dostaw AI. Obejmuje to wnikliwe sprawdzanie zbiorów danych wykorzystywanych do szkolenia modeli AI i algorytmów stosowanych w systemach AI generatywnych.
• Wzmocnione możliwości wykrywania. Musimy zainwestować w rozwój zaawansowanych narzędzi wykrywania, które mogą identyfikować treści wygenerowane przez AI, szczególnie w kontekście informacji związanych z wyborami. Prawdopodobnie będzie to wymagało wykorzystania samej AI do walki z dezinformacją wygenerowaną przez AI.
• Edukacja wyborców i świadomość. Kluczowym elementem naszej obrony przed deepfakes jest świadomy elektorat. Musimy mieć kompleksowe programy edukacyjne, które pomogą wyborcom zrozumieć istnienie i potencjalny wpływ treści wygenerowanych przez AI oraz zapewnią im narzędzia do krytycznej oceny informacji, z którymi się zetkną.
• Współpraca międzysektorowa. Sektor technologiczny, w szczególności firmy IT i cyberbezpieczeństwa, muszą ściśle współpracować z agencjami rządowymi, urzędnikami wyborczymi i organizacjami medialnymi, aby stworzyć zjednoczoną frontę przeciwko AI-wygenerowanym zakłóceniom wyborczym.

Co teraz, a co dalej

Podczas wdrażania tych strategii jest niezwykle ważne, abyśmy ciągle mierzyli ich skuteczność. Będzie to wymagało nowych wskaźników i narzędzi monitorowania, specjalnie zaprojektowanych do śledzenia wpływu treści wygenerowanych przez AI na dyskurs wyborczy i zachowanie wyborcze.

Powinniśmy również być przygotowani do szybkiej adaptacji naszych strategii. Dziedzina AI rozwija się w zawrotnym tempie, a nasze środki obronne muszą ewoluować równie szybko. Może to wymagać wykorzystania samej AI do stworzenia bardziej solidnych i adaptacyjnych środków bezpieczeństwa.

Wyzwanie AI-wygenerowanych deepfakes w wyborach reprezentuje nowy rozdział w cyberbezpieczeństwie i integralności informacji. Aby rozwiązać ten problem, musimy myśleć poza tradycyjnymi paradygmatami bezpieczeństwa i wspierać współpracę między sektorami i dyscyplinami. Celem jest wykorzystanie mocy AI dla dobra procesów demokratycznych, jednocześnie ograniczając jej potencjał szkodzenia. To nie jest tylko wyzwanie techniczne, ale również sprawa społeczną, która będzie wymagała stałej czujności, adaptacji i współpracy.

Integralność naszych wyborów — a co za tym idzie, zdrowie naszej demokracji — zależy od naszej zdolności do podjęcia tego wyzwania frontalnie. To odpowiedzialność, która spada na nas wszystkich: technologów, decydentów i obywateli.