Imaginați-vă această situație: sunteți la serviciu, concentrat pe o termen limită strânsă, când primiți un apel de la ceea ce pare a fi numărul de telefon al mamei dvs. Vocea de la celălalt capăt este inconfundabil a ei, calmă și iubitoare, dar cu o urmă neobișnuită de urgență. Ea vă spune că a avut probleme grave în timp ce era în vacanță la Paris și are nevoie de ajutorul dvs. financiar imediat pentru a rezolva situația. Știți că ea este la Paris, iar detaliile pe care le furnizează, până la numele hotelului, fac apelul și mai convingător. Fără a sta pe gânduri, transferați banii, pentru a descoperi mai târziu că mama dvs. nu a făcut acel apel; a fost un sistem avansat de IA care a imitat perfect vocea ei și a fabricat un scenariu detaliat. Vă cuprinde fiori pe șira spinării când vă dați seama ce s-a întâmplat.

Acest scenariu, care a fost odată pură ficțiune științifică, este acum o realitate emergentă. Apusul tehnologiilor IA, cum ar fi modelele de limbaj mari (LLM), a adus progrese incredibile. Cu toate acestea, o amenințare semnificativă se profilează: escrocheriile împuternicite de IA. Potențialul pentru escrocherii sofisticate împuternicite de inteligență artificială este o amenințare nouă pe orizontul progresului tehnologic. În timp ce escrocheriile telefonice au fost o preocupare de la inventarea telefonului, integrarea largă a modelelor de limbaj mari (LLM) în toate aspectele comunicării digitale a ridicat mizele în mod dramatic. Pe măsură ce îmbrățișăm potențialul IA, este esențial să consolidăm și apărarea noastră împotriva acestor amenințări din ce în ce mai sofisticate.

Peisajul Actual al Escrocheriilor Telefonice

Criminalii au încercat să înșele indivizi neștiutori pentru a transfera bani sau a dezvălui informații sensibile de-a lungul anilor, dar, în ciuda prevalenței escrocheriilor telefonice, multe dintre aceste escrocherii sunt relativ nesofisticate, bazându-se pe operatori umani care citesc scenarii. Cu toate acestea, chiar și cu această limitare, escrocheriile telefonice continuă să fie o întreprindere criminală profitabilă.

Conform Comisiei Federale pentru Comerț a Statelor Unite, în 2022, americanii au pierdut peste 8,8 miliarde de dolari din cauza escrocheriilor, o parte semnificativă fiind atribuită escrocheriilor telefonice, ceea ce înseamnă că, chiar și în forma lor actuală, mai puțin avansată, multe dintre aceste tactici încă funcționează asupra indivizilor vulnerabili. Ce se întâmplă când ele evoluează?

Viitorul Împuternicit de IA al Escrocheriilor

Peisajul escrocheriilor telefonice este pe cale să sufere o schimbare dramatică odată cu apariția mai multor tehnologii cheie:

Modele de Limbaj Mari (LLM)

Aceste sisteme IA pot genera text uman și pot participa la conversații naturale. Atunci când sunt aplicate la escrocherii, LLM pot crea scenarii foarte convingătoare și adaptive, făcându-le mult mai greu de identificat pentru potențialii victime.

Generare Îmbunătățită cu Recuperare (RAG)

Această tehnologie permite sistemelor LLM să acceseze și să utilizeze cantități uriașe de informații în timp real. Escroci pot crea un profil al unei persoane pe baza informațiilor publice disponibile, cum ar fi conturile lor de socializare. Ei pot utiliza, de asemenea, tehnici de inginerie socială asupra prietenilor și familiilor pentru a colecta informații mai profunde. Acest lucru le va oferi acces la informații, cum ar fi identitatea țintei, informații despre muncă sau chiar activități recente. Ei pot utiliza apoi RAG pentru a oferi LLM contextul necesar, făcând abordările lor să pară incredibil de personalizate și legitime.

Generare de Audio Sintetic

Platformele precum Resemble AI și Lyrebird sunt în fruntea creării de voci realiste generate de IA. Aceste tehnologii sunt capabile să producă audio personalizat, umanoid, care poate fi utilizat în diverse aplicații, de la asistenți virtuali la servicii de asistență clienți automate și creare de conținut. Companii precum ElevenLabs împing limitele mai departe, permițând utilizatorilor să creeze voci sintetice care pot replica strâns propriile lor voci, permițând un nivel nou de personalizare și implicare în interacțiunile digitale.

Generare de Video Sintetic

Companii precum Synthesia demonstrează deja potențialul de a crea conținut video realist cu avataruri generate de IA. În anii următori, această tehnologie ar putea permite escrocilor să se deghizeze în prieteni sau rude sau să creeze personaje complet fictive pentru apeluri video, introducând un nivel anterior imposibil de realism fizic în escrocherie.

Sincronizare Buze IA

Start-up-uri precum Sync Labs dezvoltă tehnologie avansată de sincronizare a buzelor care poate asocia audio generat cu filmări video. Acest lucru ar putea fi utilizat pentru a crea videoclipuri deep-fake foarte convingătoare ale unor figuri istorice, politicieni, celebrități și, practic, oricine altcineva, estompând și mai mult linia dintre realitate și decepție.

Combinația acestor tehnologii prezintă o imagine îngrijorătoare. Imaginați-vă un apel de escrocherie în care IA poate adapta conversația în timp real, înarmată cu informații personale despre țintă și poate trece la un apel video cu o persoană care pare reală, ale cărei buze se mișcă în sincron perfect cu vocea generată. Potențialul de decepție este cu adevărat enorm.

Nevoia de Măsuri de Securitate Îmbunătățite

Pe măsură ce aceste escrocherii împuternicite de IA devin mai sofisticate, metodele de verificare a identității și autenticității vor trebui să țină pasul cu progresul IA. Va trebui să fie avansate atât din punct de vedere regulator, cât și tehnologic pentru a menține lumea online în siguranță.

Îmbunătățiri Regulatorii

Legi mai stricte de protecție a datelor: Implementarea unor legi mai riguroase de protecție a datelor ar restricționa cantitatea de informații personale disponibile pentru escroci. Aceste legi ar putea include cerințe mai stricte pentru colectarea datelor, protocoale de consimțământ îmbunătățite și pedepse mai severe pentru încălcarea datelor.

Nor de cloud privat pentru cele mai puternice modele de IA: Reglementările ar putea obliga ca cele mai puternice modele de IA să fie găzduite pe infrastructuri de cloud private și securizate, în loc de a fi disponibile în mod deschis. Acest lucru ar limita accesul la tehnologiile cele mai avansate, făcându-le mai dificil pentru actorii malefici să le utilizeze pentru escrocherii.

Colaborare internațională pe reglementări de IA: Având în vedere natura globală a tehnologiei IA, colaborarea internațională pe standarde de reglementare ar putea fi benefică. Stabilirea unui organism global responsabil cu crearea și aplicarea reglementărilor internaționale de IA ar putea ajuta la combaterea crimelor legate de IA transfrontaliere.

Campanii de conștientizare publică: Guvernele și organismele de reglementare ar trebui să investească în campanii de conștientizare publică pentru a educa cetățenii despre riscurile potențiale ale escrocheriilor de IA și despre modul de a se proteja. Conștientizarea este un pas critic în împuternicirea indivizilor și organizațiilor pentru a implementa măsurile de securitate necesare.

Reglementările actuale de IA sunt insuficiente pentru a preveni escrocheriile, iar provocarea reglementării viitoare este complicată de natura deschisă a multor tehnologii puternice. Această deschidere permite oricui să acceseze și să modifice aceste tehnologii în scopuri proprii. Ca urmare, alături de reglementări mai puternice, avansurile în tehnologia securității sunt necesare.

Detectarea Datelor Sintetice

Detectarea audio sintetic: Pe măsură ce escrocii utilizează IA, și apărarea noastră trebuie să o facă. Companii precum Pindrop dezvoltă sisteme împuternicite de IA care pot detecta audio sintetic în timp real, pe durata apelurilor telefonice. Tehnologia lor analizează peste 1.300 de caracteristici ale unui apel audio pentru a determina dacă provine de la o persoană reală sau de la un sistem IA sofisticat.

Detectarea video sintetic: Detectarea video sintetică: La fel cum audio-ul poate fi manipulat de IA, și video-ul poate fi, reprezentând amenințări semnificative sub forma deep-fake-urilor și altor conținut video sintetic. Companii precum Deepware conduc dezvoltarea tehnologiilor de detectare a video-ului sintetic. Platforma Deepware utilizează algoritmi avansați de învățare automată pentru a analiza incoerențe subtile în datele video, cum ar fi mișcări neobișnuite, iluminare neregulată și anomalii de pixel care sunt adesea prezente în conținutul generat de IA. Prin identificarea acestor discrepanțe, tehnologia Deepware poate determina dacă un video este autentic sau a fost manipulat, ajutând astfel la protejarea indivizilor și organizațiilor de a fi înșelați de escrocherii sofisticate și campanii de dezinformare bazate pe video.

Avansurile în Autentificarea Identității

Există diverse modalități în curs de dezvoltare pentru a confirma identitatea unui utilizator, iar una sau mai multe dintre acestea vor deveni mainstream în anii următori pentru a face internetul mai sigur.

Autentificare în doi pași pentru conversații la distanță: Autentificarea în doi pași (2FA) rămâne un component fundamental al comunicării securizate. În această metodă, fiecare apel telefonic sau e-mail ar declanșa un mesaj text cu un cod de verificare unic, similar cu înregistrarea actuală a e-mailurilor. Deși 2FA este eficientă pentru autentificarea de bază, limitele sale înseamnă că nu poate fi folosită în toate contextele, necesitând dezvoltarea de metode mai avansate pentru a asigura securitatea internetului care poate funcționa în fundal.

Autentificare multi-factorială bazată pe comportament: Dincolo de verificarea identității la începutul unui apel, sistemele de securitate viitoare ar putea analiza în mod continuu comportamentul pe parcursul unei interacțiuni. Companii precum BioCatch utilizează biometria comportamentală pentru a crea profiluri de utilizator pe baza modului în care indivizii interacționează cu dispozitivele lor. Această tehnologie poate detecta anomalii în comportament care ar putea indica un escroc, chiar dacă au trecut verificările inițiale de autentificare.

Autentificare bazată pe biometrie: Companii precum Onfido se află în fruntea tehnologiei de verificare a identității, oferind instrumente de verificare a identității împuternicite de IA care pot detecta deep-fake-uri sofisticate și alte forme de fraudă de identitate. Sistemul lor utilizează o combinație de verificare a documentelor și analiză biometrică pentru a asigura că persoana de la celălalt capăt al apelului sau a chat-ului video este cu adevărat cine pretinde a fi.

Autentificare avansată bazată pe cunoașințe: În viitor, sistemele de autentificare ar putea încorpora întrebări dinamice, generate de IA, bazate pe urma digitală a unui utilizator și pe activitățile recente. De exemplu, Prove, o companie specializată în identitate centrată pe telefon, dezvoltă soluții care utilizează inteligența telefonică și analiza comportamentală pentru a verifica identitățile. Tehnologia lor poate analiza modelele în care o persoană utilizează dispozitivul pentru a crea o “semnătură de identitate” unică, care este mult mai greu de replicat de către escroci.

Autentificare bazată pe blockchain: Tehnologia blockchain oferă o metodă descentralizată și sigură de verificare a identității. Companii precum Civic sunt pioniere în sistemele de verificare a identității bazate pe blockchain, care permit utilizatorilor să controleze informațiile personale, oferind în același timp autentificare securizată. Aceste sisteme creează o înregistrare verificabilă și imutabilă a identității unei persoane, ideală pentru gestionarea tranzacțiilor cu risc ridicat.

Concluzie

Convergența LLM, RAG, generării de audio sintetic, generării de video sintetic și a sincronizării buzelor este, într-un fel, o sabie cu două tăișuri. În timp ce aceste progrese au un potențial imens de aplicații pozitive, ele prezintă și riscuri semnificative atunci când sunt folosite de escroci.

Acesta este un război continuu între experții în securitate și criminali cibernetici, care subliniază nevoia de inovație și vigiliență continuă în domeniul securității digitale. Putem lucra spre a valorifica beneficiile acestor unelte puternice, înlăturând în același timp potențialul lor de a dăuna, doar prin recunoașterea și pregătirea pentru aceste riscuri.

Reglementarea cuprinzătoare, educația cu privire la aceste noi forme de escrocherii, investițiile în măsuri de securitate de ultimă generație și, poate cel mai important, o doză sănătoasă de scepticism din partea fiecăruia dintre noi atunci când interacționăm cu entități necunoscute online sau la telefon vor fi esențiale în navigarea acestui nou peisaj.