Noua eră a impersonării executive nu va implica deloc executive

Pentru ultimii ani, cea mai mare amenințare digitală cu care s-au confruntat brandurile a fost impersonarea executive, adesea realizată prin adrese de e-mail falsificate sau conturi de social media false. Astăzi, ne confruntăm cu un dușman mult mai complex și convingător: agenții inteligenți artificiali.

Apariția agenților autonomi alimentați de modele de limbaj mare (LLM), proiectați să funcționeze cu puțină sau deloc intervenție umană, a deblocat noi posibilități care se aseamănă mult cu entuziasmul observat în epoca web2 și a aplicațiilor mobile.

Deși agenții cu adevărat autonomi nu au făcut încă saltul de la viziune la realitate, experții avertizează că ar putea străbate rețelele corporative already anul viitor. Entuziasmul și adoptarea care urmează vor cădea inevitabil pe radarul criminalilor cibernetici, care văd agenții autonomi ca o nouă frontieră pentru frauda digitală. Ce se întâmplă atunci când acești agenți sunt impersonați? Sau mai rău, când ei sunt cei care impersonează?

La fel cum aplicațiile mobile au fost confruntate cu o avalanșă de versiuni contrafăcute create pentru a extrage credențiale de autentificare sau a instala programe malware, agenții inteligenți artificiali sunt pe cale să facă față unei valuri similare de copii. De data aceasta, însă, riscul va fi mai greu de detectat, iar daunele potențiale vor fi mai ample.

De la impersonarea executive la spoofing de agenți

Inteligența artificială a deschis deja noi căi de fraudă și înșelăciune, caracterizate prin înșelăciuni de clonare a vocii care pot recrea modelele de vorbire ale unui executive folosind doar câteva secunde de audio, de exemplu, și recent, s-a raportat dovada de deepfake video și înșelăciuni de voce în timp real. Acum, imaginați-vă un agent autonom, care presupune că reprezintă compania dvs., care interacționează cu clienți, investitori sau parteneri. Acest agent ar putea fi încorporat pe un site web, integrat într-un chatbot sau chiar interacționând prin e-mail, oferind interacțiuni plauzibile, profesionale și complet false.

Predecesorul agenților copie poate fi găsit în modelele „jailbreak”, prin care actorii amenințători manipulează LLM, adesea prin injecții de prompt sau tehnici cu multiple tururi, pentru a produce ieșiri dăunătoare sau false. Dar acesta este doar începutul.

Conform datelor de la PitchBook, companiile de inteligență artificială au strâns 131,5 miliarde de dolari în 2024, reprezentând mai mult de o treime din totalul tranzacțiilor de capital de risc la nivel global. Cursa armelor de inteligență artificială, alimentată de fondatori ambițioși, investitori flămânzi și guverne nerăbdătoare, va accelera rapid capacitățile acestei tehnologii emergente, ale cărei cazuri de utilizare legitimă vor continua să fie exploatate pentru scopuri nefaste.

Inteligența artificială generativă a democratizat și va continua să democratizeze crearea unor astfel de agenți. Pe măsură ce platformele se grăbesc să îi integreze, puține garduri există pentru a verifica autenticitatea lor. Acest lucru deschide ușa unei noi clase de impersonare: nu doar a oamenilor, ci și a software-ului.

Un apel de trezire pentru brandurile entuziaste și consumatorii curioși

Consumatorii și brandurile deopotrivă abia încep să înțeleagă ce înseamnă să ai încredere într-un agent. Dar încrederea este piunea oricărei interacțiuni digitale, iar atunci când este ruptă, consecințele pot fi devastatoare.

Așa cum s-a observat cu videoclipurile deepfake și clonarea vocii, agenții falși pot fi utilizați pentru a:

• Solicita plăți sau date sensibile sub masca unei mărci stabilite sau a unei mărci de încredere
• Redirecționa utilizatorii către site-uri infectate cu programe malware prin intermediul mesajelor directe de pe rețelele de socializare sau a anunțurilor plătite
• Eroda încrederea clienților și declanșa daune reputaționale la scară largă

Conform unui raport recent al Comisiei Federale pentru Comerț raport, înșelăciunile de impersonare au fost responsabile pentru aproape 3 miliarde de dolari în pierderi raportate în Statele Unite – o sumă care se așteaptă să crească brusc pe măsură ce impersonarea inteligenței artificiale devine mai fără cusur și mai scalabilă.

Proliferarea agenților falși: reclame, căutare și social

Ceea ce este deosebit de periculos este modul în care agenții copie vor fi distribuiți. Ei nu au nevoie de site-uri web proprii sau de domenii pentru a câștiga teren. Actorii răi pot, și o fac, utilizați rezultatele căutării plătite și platformele de socializare pentru a promova clone malefice ale mărcilor de încredere, executive sau produse. Un link sponsorizat pe Google sau o postare promovată pe Instagram, de exemplu, este suficient pentru a direcționa utilizatorii neștiutori către un agent fals sau un portal de asistență.

Acest risc la nivel de ecosistem, în care actorii răi preiau spațiul digital legitim pentru a facilita înșelăciunile, necesită o nouă abordare a securității cibernetice. Nu mai este suficient să protejați rețeaua dvs., cloud-ul sau să securizați credențialele angajaților dvs. Perimetrul de amenințare al mărcii dvs. include acum fiecare rețea de anunțuri, platformă de căutare și instrument terță parte cu care interacționează clienții dvs.

Luarea de măsuri înainte de a fi prea târziu

Intrăm într-o lume în care linia dintre oameni și agenți este din ce în ce mai estompată. Amenințarea nu mai este doar impersonarea oamenilor, care se află în prezent într-o creștere exponențială datorită instrumentelor de inteligență artificială disponibile, ci și impersonarea persoanelor digitale.

Cum pot pregăti afacerile?

1. Hartați prezența digitală a mărcii dvs.: Știți unde interacționează clienții dvs. cu compania dvs. și cu agenții dvs. – fie pe site-ul dvs., prin API sau prin terți – și monitorizați activ aceste puncte de intrare pentru încercări de spoofing.
2. Monitorizați ecosistemele de agenți emergente: Pe măsură ce piețele deschise de agenți și platformele (cum ar fi Hugging Face Spaces) câștigă popularitate, fiți vigilenți cu privire la copii sau ramuri ale instrumentelor dvs. care apar în altă parte.
3. Scădeți timpul de detectare (TTD) și timpul de remediere (TTR): Utilizați soluții care permit identificarea rapidă și îndepărtarea impersonatorilor, în special a celor care abuzează de anunțuri plătite sau platforme de socializare, este critic pentru limitarea daunelor.
4. Educați-vă utilizatorii: Construiți transparență în experiențele dvs. de agent. Utilizatorii dvs. ar trebui să înțeleagă unde și cum ar trebui să interacționeze cu instrumentele dvs., și cum să identifice steaguri roșii.
5. Stabiliți protocoale de autenticitate a agenților: Lucrați pentru a obține verificarea criptografică sau pe baza de metadate care poate confirma originea și legitimitatea unui agent.

Soluția constă în securizarea ecosistemului de agenți inteligenți artificiali, nu în evitarea lui. La fel cum am învățat să verificăm domeniile, să autentificăm e-mailurile și să verificăm aplicațiile mobile în deceniile trecute, acum trebuie să extindem același grad de vigiliență asupra lumii agenților inteligenți artificiali. Dacă nu ne pregătim pentru impersonarea agenților acum, s-ar putea să ne trezim vorbind cu un asistent care pare familiar, dar care lucrează pentru partea cealaltă.