Jak AI poháněné deepfakes ohrožují integritu voleb — a co s tím dělat

Volby mohou být již nyní dost složité a kontroverzní.

Představte si, že jste cílem volební reklamy, ve které kandidát vyjadřuje silné názory, které ovlivňují váš hlas — a reklama není ani skutečná. Je to deepfake.

Toto není žádná futuristická hypotéza; deepfaky jsou skutečný a rozšířený problém. Už jsme viděli AI generované “podporující” zprávy, které dělají titulky, a co jsme slyšeli, je pouze povrch toho, co se děje.

Jak se blížíme k prezidentským volbám v USA v roce 2024, vstupujeme do neznámého území v oblasti kybernetické bezpečnosti a integrity informací. Pracoval jsem na rozhraní kybernetické bezpečnosti a AI od doby, kdy tyto koncepty byly ještě v plenkách, a nikdy jsem neviděl nic podobného tomu, co se děje právě teď.

Rychlá evoluce umělé inteligence — zejména generativní AI a samozřejmě i výsledná snadnost vytváření realistických deepfaků — transformovala krajinu hrozeb pro volby. Tato nová realita vyžaduje změnu základních předpokladů týkajících se bezpečnosti voleb a vzdělávání voličů.

Zbraněné AI

Nemusíte brát mé osobní zkušenosti jako důkaz; existuje spousta důkazů, že kybernetické bezpečnostní výzvy, kterým čelíme dnes, se vyvíjejí nezvykle rychle. Za pouhých několik let jsme byli svědky dramatické transformace schopností a metod potenciálních útočníků. Tato evoluce odráží urychlený vývoj, který jsme viděli v AI technologiích, ale s znepokojivým zvratem.

Příklad:

• Rychlá zbraněnost zranitelností. Dnešní útočníci mohou rychle využít nově objevené zranitelnosti, často rychleji, než lze vyvinout a nasadit opravy. AI nástroje tento proces dále urychlují, zkracují dobu mezi objevením zranitelnosti a jejím využitím.
• Rozšířená útočná plocha. Široké přijetí cloudových technologií výrazně rozšířilo potenciální útočnou plochu. Distribuovaná infrastruktura a model sdílené odpovědnosti mezi cloudovými poskytovateli a uživateli vytvářejí nové vektory pro využitelnost, pokud nejsou řádně spravovány.
• Zastaralá tradiční bezpečnostní opatření. Legacy bezpečnostní nástroje, jako jsou firewally a antivirové programy, bojují o to, aby držely krok s těmito se vyvíjejícími hrozbami, zejména při detekci a zmírnění AI generovaného obsahu.

Podívejte se, kdo mluví

V této nové hrozbě představují deepfaky zvláště zákeřnou výzvu pro integritu voleb. Recentní výzkum od Ivanti uvádí některé čísla týkající se této hrozby: více než polovina kancelářských pracovníků (54%) si není vědoma toho, že pokročilá AI může napodobit hlas každého. Tato absence povědomí mezi potenciálními voliči je hluboce znepokojivá, když se blížíme k kritickému volebnímu cyklu.

Je tolik na hře.

Složitost dnešních deepfake technologií umožňuje útočníkům, zahraničním i domácím, vytvářet přesvědčivé falešné audio, video a textový obsah s minimálním úsilím. Jednoduchý textový prompt může nyní generovat deepfake, který je stále obtížnější rozlišit od skutečného obsahu. Tato schopnost má vážné důsledky pro šíření dezinformací a manipulaci veřejného mínění.

Výzvy v atribuci a zmírnění

Atribuce je jednou z největších výzev, kterým čelíme v případě AI generovaných volebních zásahů. Zatímco jsme historicky spojili volební zásahy s národními státy, demokratizace AI nástrojů znamená, že domácí skupiny,Drivené různými ideologickými motivacemi, mohou nyní využívat tyto technologie k ovlivňování voleb.

Tato difuze potenciálních útočníků komplikuje naši schopnost identifikovat a zmírnit zdroje dezinformací. To také zdůrazňuje potřebu multifacetového přístupu k bezpečnosti voleb, který jde za hranice tradičních bezpečnostních opatření.

Koordinovaný úsilí pro udržení integrity voleb

Zmírnění výzvy AI poháněných deepfaků ve volbách bude vyžadovat koordinované úsilí napříč několika sektory. Zde jsou klíčové oblasti, na které se musíme zaměřit:

• Přenesení bezpečnosti doleva pro AI systémy. Musíme aplikovat principy “přenesení bezpečnosti doleva” na vývoj AI systémů samých. To znamená zahrnutí bezpečnostních úvah od nejranějších fází vývoje AI modelů, včetně úvah o potenciálním zneužití ve volebních zásazích.
• Vynucení zabezpečených konfigurací. AI systémy a platformy, které by mohly potenciálně být použity k vytváření deepfaků, by měly mít robustní, zabezpečené konfigurace ve výchozím stavu. To zahrnuje silná ověřovací opatření a omezení typů obsahu, který lze generovat.
• Zabezpečení AI dodavatelského řetězce. Stejně jako se zaměřujeme na zabezpečení softwarového dodavatelského řetězce, musíme tuto bdělost rozšířit na AI dodavatelský řetězec. To zahrnuje prozkoumání datových sad, které se používají k výcviku AI modelů, a algoritmů, které se používají v generativních AI systémech.
• Zlepšené detekční schopnosti. Musíme investovat a vyvinout pokročilé detekční nástroje, které mohou identifikovat AI generovaný obsah, zejména v kontextu volebních informací. To bude pravděpodobně vyžadovat využití AI samo o sobě k boji proti AI generovaným dezinformacím.
• Vzdělávání voličů a povědomí. Zásadní součástí naší obrany proti deepfakům je informovaná voličská základna. Musíme mít komplexní vzdělávací programy, které pomohou voličům pochopit existenci a potenciální dopad AI generovaného obsahu a poskytnou jim nástroje pro kritické hodnocení informací, se kterými se setkávají.
• Mezioborová spolupráce. Technologický sektor, zejména IT a kybernetická bezpečnostní společnosti, musí úzce spolupracovat s vládními agenturami, volebními úřady a médii, aby vytvořily jednotnou frontu proti AI poháněným volebním zásahům.

Co je nyní a co je dál

Jak budeme implementovat tyto strategie, je důležité, abychom neustále měřili jejich účinnost. To bude vyžadovat nové metriky a monitorovací nástroje, které jsou speciálně navrženy pro sledování dopadu AI generovaného obsahu na volební diskurs a chování voličů.

Měli bychom být také připraveni přizpůsobit naše strategie rychle. Oblast AI se vyvíjí rychlým tempem, a naše obranná opatření musí evolovat stejně rychle. To může zahrnovat využití AI samo o sobě k vytvoření více robustních a přizpůsobivých bezpečnostních opatření.

Výzva AI poháněných deepfaků ve volbách představuje novou kapitolu v kybernetické bezpečnosti a integritě informací. Abychom tuto výzvu řešili, musíme myslet za hranice tradičních bezpečnostních paradigmat a podporovat spolupráci napříč sektory a disciplínami. Cílem je využít sílu AI pro demokratické procesy, zatímco zmírníme její potenciál pro škodu. Toto není pouze technická výzva, ale i společenská, která bude vyžadovat neustálou bdělost, adaptaci a spolupráci.

Integrita našich voleb — a tím i zdraví naší demokracie — závisí na naší schopnosti tuto výzvu řešit přímo. Je to odpovědnost, která padá na všechny nás: technologie, politiky a občany.