Cum amenință deepfake-urile alimentate de IA integritatea alegerilor — și ce putem face în acest sens

Reclamele electorale pot fi deja destul de problematice și controversate.

Acum imaginați-vă că sunteți țintiți cu o reclamă electorală în care un candidat exprimă opinii puternice care vă influențează votul — și reclama nu este chiar reală. Este un deepfake.

Acesta nu este un scenariu futurist ipotetic; deepfake-urile sunt o problemă reală și răspândită. Am văzut deja “susțineri” generate de IA care au făcut titluri, și ceea ce am auzit abia atinge suprafața.

Pe măsură ce ne apropiem de alegerile prezidențiale din SUA din 2024, intrăm în teritoriu necunoscut în ceea ce privește securitatea cibernetică și integritatea informației. Am lucrat la intersecția dintre securitatea cibernetică și IA de când aceste concepte erau încă în stadiu incipient, și nu am văzut niciodată ceva similar cu ceea ce se întâmplă în acest moment.

Evoluția rapidă a inteligenței artificiale — în special IA generativă și, desigur, facilitarea creației de deepfake-uri realiste — a transformat peisajul amenințărilor electorale. Această nouă realitate necesită o schimbare a ipotezelor de bază privind securitatea electorală și educația alegătorilor.

IA armată

Nu trebuie să luați experiența mea personală ca dovadă; există suficiente dovezi că provocările de securitate cibernetică pe care le confruntăm astăzi evoluează la un ritm fără precedent. În decurs de doar câțiva ani, am asistat la o transformare dramatică a capacităților și metodologiilor potențialilor actori amenințători. Această evoluție reflectă dezvoltarea accelerată pe care am văzut-o în tehnologiile IA, dar cu o întorsătură îngrijorătoare.

Un exemplu în acest sens:

• Armarea rapidă a vulnerabilităților. Atacatorii de astăzi pot exploata rapid vulnerabilitățile descoperite recent, adesea mai repede decât pot fi dezvoltate și implementate patch-urile. Uneltele IA accelerează și mai mult acest proces, reducând perioada dintre descoperirea vulnerabilității și exploatarea ei.
• Suprafață de atac extinsă. Adoptarea pe scară largă a tehnologiilor cloud a lărgit considerabil suprafața potențială de atac. Infrastructura distribuită și modelul de responsabilitate partajată între furnizorii de cloud și utilizatori creează noi vectori de exploatare, dacă nu sunt gestionate corespunzător.
• Măsuri de securitate tradiționale învechite. Uneltele de securitate legacy, cum ar fi firewalls și software antivirus, luptă să țină pasul cu aceste amenințări în evoluție, mai ales atunci când vine vorba de detectarea și mitigarea conținutului generat de IA.

Cine vorbește

În acest nou peisaj al amenințărilor, deepfake-urile reprezintă o provocare deosebit de insidioasă pentru integritatea electorală. Cercetările recente de la Ivanti oferă câteva numere care ilustrează amploarea acestei amenințări: mai mult de jumătate dintre angajații de birou (54%) nu sunt conștienți că IA avansată poate impersona vocea oricui. Lipsa de conștientizare printre alegători este profund îngrijorătoare, pe măsură ce ne apropiem de un ciclu electoral critic.

Există atât de multe în joc.

Sofisticarea tehnologiei de deepfake de astăzi permite actorilor amenințători, atât străini, cât și domestici, să creeze conținut fake audio, video și text convingător cu efort minim. O simplă comandă de text poate genera un deepfake care este din ce în ce mai greu de deosebit de conținutul real. Această capacitate are implicații serioase pentru răspândirea dezinformării și manipularea opiniei publice.

Provocări în atribuire și mitigare

Atribuirea este una dintre cele mai semnificative provocări pe care le confruntăm cu interferența electorală generată de IA. În timp ce am asociat istoric interferența electorală cu actori statali, democratizarea uneltelor IA înseamnă că grupurile domestice, motivate de diverse ideologii, pot utiliza aceste tehnologii pentru a influența alegerile.

Această difuzie a potențialilor actori amenințători complică capacitatea noastră de a identifica și mitiga sursele de dezinformare. Acest lucru subliniază și nevoia unei abordări multifacetate a securității electorale care depășește măsurile de securitate cibernetică tradiționale.

Eforturi coordonate pentru menținerea integrității electorale

Abordarea provocării deepfake-urilor alimentate de IA în alegeri va necesita eforturi coordonate din multiple sectoare. Iată câteva domenii cheie în care trebuie să ne concentrăm eforturile:

• Securitate “shift-left” pentru sistemele IA. Trebuie să aplicăm principiile de securitate “shift-left” în dezvoltarea sistemelor IA înseși. Acest lucru înseamnă integrarea considerentelor de securitate din stadiile incipiente ale dezvoltării modelului IA, inclusiv considerente pentru utilizarea potențială în interferența electorală.
• Implementarea configurațiilor securizate. Sistemele și platformele IA care pot fi utilizate pentru a genera deepfake-uri ar trebui să aibă configurații securizate și robuste, implicit. Acest lucru include măsuri de autentificare puternice și restricții privind tipurile de conținut care pot fi generate.
• Securizarea lanțului de aprovizionare al IA. La fel cum ne concentrăm pe securizarea lanțului de aprovizionare software, trebuie să extindem această vigiliență și asupra lanțului de aprovizionare al IA. Acest lucru include examinarea atentă a seturilor de date utilizate pentru antrenarea modelelor IA și a algoritmilor utilizați în sistemele IA generative.
• Capacități de detectare îmbunătățite. Trebuie să investim în și să dezvoltăm unelte de detectare avansate care să poată identifica conținutul generat de IA, în special în contextul informațiilor electorale. Acest lucru va implica probabil utilizarea IA însăși pentru a combate dezinformarea generată de IA.
• Educația și conștientizarea alegătorilor. Un component crucial al apărării noastre împotriva deepfake-urilor este un electorat informat. Trebuie să avem programe de educație cuprinzătoare pentru a ajuta alegătorii să înțeleagă existența și impactul potențial al conținutului generat de IA și să le oferim unelte pentru a evalua critic informațiile pe care le întâlnesc.
• Colaborare intersectorială. Sectorul tehnologic, în special companiile IT și de securitate cibernetică, trebuie să lucreze îndeaproape cu agențiile guvernamentale, oficialii electorali și organizațiile media pentru a crea un front unit împotriva interferenței electorale conduse de IA.

Ce urmează

Pe măsură ce implementăm aceste strategii, este crucial să măsurăm în mod continuu eficacitatea lor. Acest lucru va necesita noi metrici și unelte de monitorizare special concepute pentru a urmări impactul conținutului generat de IA asupra discursului electoral și comportamentului alegătorilor.

Trebuie să fim pregătiți să ne adaptăm rapid strategiile. Domeniul IA evoluează la un ritm fără precedent, și măsurile noastre defensive trebuie să evolueze la fel de rapid. Acest lucru poate implica utilizarea IA însăși pentru a crea măsuri de securitate mai robuste și adaptabile.

Provocarea deepfake-urilor alimentate de IA în alegeri reprezintă un nou capitol în securitatea cibernetică și integritatea informației. Pentru a aborda această provocare, trebuie să gândim dincolo de paradigmele de securitate tradiționale și să promovăm colaborarea între sectoare și discipline. Obiectivul: să canalizăm puterea IA în beneficiul proceselor democratice, în timp ce mitigăm potențialul său de a face rău. Acesta nu este doar un provocare tehnică, ci una societală care va necesita vigilență, adaptare și cooperare pe termen lung.

Integritatea alegerilor noastre — și, prin extensie, sănătatea democrației noastre — depinde de capacitatea noastră de a aborda această provocare direct. Este o responsabilitate care revine tuturor: tehnologilor, factorilor de decizie politică și cetățenilor deopotrivă.