Cum amenință deepfake-urile bazate pe IA integritatea alegerilor — și ce putem face în acest sens

Reclamele de campanie pot deveni deja destul de murdare și controversate.

Imaginați-vă că sunteți ținta unei reclame de campanie în care un candidat exprimă poziții puternice care vă influențează votul — și reclama nu este nici măcar reală. Este un deepfake.

Acest lucru nu este o ipoteză futuristă; deepfake-urile sunt o problemă reală și pervasivă. Am văzut deja “susțineri” generate de IA care au făcut titluri, și ceea ce am auzit abia atinge suprafața.

Pe măsură ce ne apropiem de alegerile prezidențiale din SUA din 2024, intrăm în teritoriu necartografiat în ceea ce privește securitatea cibernetică și integritatea informației. Am lucrat la intersecția dintre securitatea cibernetică și IA de când ambele aceste concepte erau în stadiu incipient, și nu am văzut niciodată ceva asemănător cu ceea ce se întâmplă în acest moment.

Evoluția rapidă a inteligenței artificiale — în special generative AI și, desigur, facilitarea creației de deepfake-uri realiste deepfakes — a transformat peisajul amenințărilor la adresa alegerilor. Această nouă realitate cere o schimbare a ipotezelor de bază cu privire la securitatea alegerilor și educația alegătorilor.

IA armată

Nu trebuie să luați experiența mea personală ca dovadă; există suficiente dovezi că provocările de securitate cibernetică pe care le facem față astăzi evoluează cu o viteză fără precedent. În decurs de doar câțiva ani, am asistat la o transformare dramatică a capacităților și metodologiilor potențialilor actori amenințători. Această evoluție reflectă dezvoltarea accelerată pe care am văzut-o în tehnologiile IA, dar cu o întorsătură îngrijorătoare.

Ca exemplu:

• Armarea rapidă a vulnerabilităților. Atacatorii de astăzi pot exploata rapid vulnerabilitățile descoperite recent, adesea mai repede decât pot fi dezvoltate și implementate patch-urile. Uneltele IA accelerează și mai mult acest proces, reducând fereastra dintre descoperirea vulnerabilității și exploatarea acesteia.
• Suprafață de atac extinsă. Adoptarea pe scară largă a tehnologiilor cloud a extins semnificativ suprafața potențială de atac. Infrastructura distribuită și modelul de responsabilitate partajată între furnizorii de cloud și utilizatori creează noi vectori de exploatare, dacă nu sunt gestionate corespunzător.
• Măsuri de securitate tradiționale învechite. Uneltele de securitate legacy, cum ar fi firewalls și software antivirus, luptă să țină pasul cu aceste amenințări în evoluție, mai ales atunci când vine vorba de detectarea și atenuarea conținutului generat de IA.

Cine vorbește

În acest nou peisaj al amenințărilor, deepfake-urile reprezintă o provocare deosebit de insidioasă pentru integritatea alegerilor. Cercetarea recentă de la Ivanti pune niște numere la această amenințare: mai mult de jumătate dintre angajații de birou (54%) nu sunt conștienți că IA avansată poate impersona vocea oricui. Lipsa de conștientizare a acestor potențiali alegători este profund îngrijorătoare, pe măsură ce ne apropiem de un ciclu electoral critic.

Există atât de mult în joc.

Sofisticarea tehnologiei de deepfake de astăzi permite actorilor amenințători, atât străini, cât și domestici, să creeze conținut fake audio, video și text convingător cu efort minim. O simplă promptă de text poate genera un deepfake care este din ce în ce mai greu de deosebit de conținutul real. Această capacitate are implicații serioase pentru răspândirea dezinformării și manipularea opiniei publice.

Provocări în atribuire și atenuare

Atribuirea este una dintre cele mai semnificative provocări cu care ne confruntăm în ceea ce privește interferența electorală generată de IA. În timp ce am asociat istoric interferența electorală cu actori statali, democratizarea uneltelor IA înseamnă că grupurile domestice, conduse de diverse motivații ideologice, pot acum utiliza aceste tehnologii pentru a influența alegerile.

Această difuzie a potențialilor actori amenințători complică capacitatea noastră de a identifica și a atenua sursele de dezinformare. Acest lucru subliniază și mai mult nevoia unei abordări multifacetate a securității electorale care depășește măsurile tradiționale de securitate cibernetică.

Efort coordonat pentru menținerea integrității electorale

Abordarea provocării deepfake-urilor bazate pe IA în alegeri va necesita un efort coordonat în multiple sectoare. Iată domeniile cheie în care trebuie să ne concentrăm eforturile:

• Securitate shift-left pentru sistemele IA. Trebuie să aplicăm principiile securității “shift-left” dezvoltării sistemelor IA însele. Acest lucru înseamnă integrarea considerentelor de securitate din stadiile incipiente ale dezvoltării modelului IA, inclusiv considerente pentru utilizarea potențială în interferența electorală.
• Implementarea configurațiilor securizate. Sistemele IA și platformele care pot fi utilizate pentru a genera deepfake-uri trebuie să aibă configurații securizate robuste, setate implicit. Acest lucru include măsuri de autentificare puternice și restricții privind tipurile de conținut care pot fi generate.
• Securizarea lanțului de aprovizionare IA. Așa cum ne concentrăm pe securizarea lanțului de aprovizionare software, trebuie să extindem această vigilență și asupra lanțului de aprovizionare IA. Acest lucru include examinarea atentă a seturilor de date utilizate pentru antrenarea modelului IA și a algoritmilor utilizați în sistemele IA generative.
• Capacități de detectare îmbunătățite. Trebuie să investim în și să dezvoltăm unelte avansate de detectare care pot identifica conținutul generat de IA, în special în contextul informațiilor legate de alegeri. Acest lucru va implica probabil utilizarea IA însăși pentru a combate dezinformarea generată de IA.
• Educația și conștientizarea alegătorilor. Un component crucial al apărării noastre împotriva deepfake-urilor este un electorat informat. Trebuie să avem programe cuprinzătoare de educație pentru a ajuta alegătorii să înțeleagă existența și impactul potențial al conținutului generat de IA și să le furnizăm unelte pentru a evalua critic informațiile pe care le întâlnesc.
• Colaborare intersectorială. Sectorul tehnologic, în special companiile IT și de securitate cibernetică, trebuie să colaboreze îndeaproape cu agențiile guvernamentale, oficialii electorali și organizațiile media pentru a crea un front unit împotriva interferenței electorale conduse de IA.

Ce este acum și ce urmează

Pe măsură ce implementăm aceste strategii, este crucial să măsurăm continuu eficacitatea lor. Acest lucru va necesita noi metrici și unelte de monitorizare special concepute pentru a urmări impactul conținutului generat de IA asupra discursului electoral și comportamentului alegătorilor.

Trebuie să fim pregătiți să adaptăm rapid strategiile noastre. Domeniul IA evoluează cu o viteză fără precedent, și măsurile noastre defensive trebuie să evolueze la fel de rapid. Acest lucru poate implica utilizarea IA însăși pentru a crea măsuri de securitate mai robuste și mai adaptabile.

Provocarea deepfake-urilor bazate pe IA în alegeri reprezintă un nou capitol în securitatea cibernetică și integritatea informației. Pentru a aborda această provocare, trebuie să gândim dincolo de paradigmele de securitate tradiționale și să promovăm colaborarea între sectoare și discipline. Obiectivul: să canalizăm puterea IA în beneficiul proceselor democratice, atenuând în același timp potențialul său de a face rău. Acesta nu este doar un challenge tehnic, ci și unul societal, care va necesita vigilență, adaptare și cooperare continuă.

Integritatea alegerilor noastre — și, prin extensie, sănătatea democrației noastre — depinde de capacitatea noastră de a aborda această provocare direct. Aceasta este o responsabilitate care revine tuturor: tehnologilor, factorilor de decizie și cetățenilor deopotrivă.