Aarti Samani, Fondator și CEO al Shreem Growth Partners – Seria de Interviuri

Aarti Samani, Fondator și CEO al Shreem Growth Partners, este un lider în tehnologie și strateg în domeniul inteligenței artificiale, cu peste două decenii de experiență în conducerea creșterii în domeniul inteligenței artificiale, identității digitale și securității biometrice. A deținut funcții de conducere la iProov și Digital Surgery (achiziționată de Medtronic), conducând strategii globale de produs și marketing și asigurând rundele majore de finanțare. Un comentator frecvent al BBC și vorbitor principal la evenimente globale, inclusiv Money 20/20 și CogX Festival, oferă consultanță consiliilor de administrație și executivilor pe probleme de etică, guvernanță și risc în domeniul inteligenței artificiale, ajutând organizațiile să construiască încredere și reziliență în era inteligenței artificiale.

Shreem Growth Partners ajută organizațiile să se protejeze împotriva fraudelor cu deepfake și a impersonării conduse de inteligență artificială, concentrându-se pe stratul uman de apărare. Prin intermediul unor programe de formare personalizate, briefing-uri executive, evaluări de vulnerabilitate și consultări strategice, firma echipă și lideri pentru a recunoaște, a răspunde și a preveni încercările de manipulare. Prin promovarea conștientizării, pregătirii și rezilienței culturale, Shreem împuternicește organizațiile să-și protejeze identitatea, reputația și forța de muncă împotriva amenințărilor în evoluție ale inteligenței artificiale.

Ați fondat Shreem Growth Partners după funcții de conducere la iProov, Medtronic Digital Surgery și alte firme conduse de inteligență artificială. Ce v-a inspirat să înființați o companie dedicată în special rezilienței la fraudele cu deepfake?

După lansarea ChatGPT la sfârșitul anului 2022, am asistat la o explozie de unelte media conduse de inteligență artificială, capabile să cloneze voci și fețe în minute. Majoritatea organizațiilor le-au văzut ca acceleratori creativi pentru design și marketing. Dar criminalii au văzut o nouă oportunitate pentru inginerie socială mai impactantă.

Deepfake-urile au devenit rapid uneltele de alegere pentru fraude pentru a manipula oamenii. Echipele de securitate au răspuns prin investiții în tehnologie de detectare, dar detectarea singură nu poate rezolva o problemă înrădăcinată în încrederea umană. Psihologia a fost punctul orb al industriei.

Această perspectivă m-a condus să înființez Shreem Growth Partners, o firmă dedicată construirii rezilienței la fraudele cu deepfake prin conștientizare, simulare și reziliență cognitivă. Întărirea capacității oamenilor de a gândi critic și de a rezista manipulării este cheia pentru a diminua acest tip de fraudă.

La iProov, ați lucrat la frontiera biometriei faciale și verificării identității. Cum v-a arătat această experiență creșterea amenințării pe care deepfake-urile o reprezintă pentru sistemele de autentificare?

Ca Șef al Produsului și Marketingului la iProov, am ajutat la aducerea verificării biometrice a feței la organizații sensibile la securitate din sectoarele public și privat. Aceste instituții sunt ținte constante pentru criminalitatea cibernetică organizată. Adversarii lor sunt inteligenți, bine finanțați și echipați cu tehnologie de ultimă generație.

Am început să observăm încercări de a ocoli sistemele biometrice folosind deepfake-uri create din identități furate. Deoarece iProov opera ca un serviciu gestionat în cloud, am putut observa aceste atacuri în timp real și analiza modul în care fiecare iterație evolua. A devenit clar că criminalii învățau mai repede decât piața se adapta.

Această experiență mi-a oferit o perspectivă interioară asupra evoluției fraudei cu deepfake și o apreciere profundă a modului în care creativitatea și psihologia conduc criminalitatea informatică. Aceeași înțelegere a mentalității criminale mă informează acum în munca mea de reziliență la fraudele cu deepfake.

Deepfake-urile sunt din ce în ce mai folosite pentru impersonarea executivilor, clonarea vocii și atacurile de inginerie socială. Care sunt scenariile pe care le întâlniți cel mai des în prezent?

Este întotdeauna mai ușor să obțineți acces prin inginerie socială decât prin spargerea sistemelor de securitate. Pe măsură ce oamenii devin mai conștienți de escrocheriile tradiționale, criminalii se îndreaptă către noi modalități de manipulare a încrederii.

Tehnologia deepfake a devenit cel mai puternic instrument de inginerie socială pe care l-am văzut vreodată. Permite autorilor să genereze semnale de încredere de înaltă fidelitate: fețe, voci și narative realiste care ocolesc judecata umană.

Avantajul criminal nu se limitează la impersonarea executivilor sau la plăți. Țintele sunt din ce în ce mai mult intelectuale, date sensibile și credențiale de acces. Prin antrenarea agenților de inteligență artificială și oferirea lor cu voci clonate, frauda poate fi executată la scară, viteză și precizie pe care niciun atacator uman nu le-ar putea egala. Acesta este orizontul de amenințare în care ne aflăm.

Ce distinge un program de reziliență la fraudele cu deepfake de un program tradițional de securitate cibernetică sau de antifraudă?

Instruirile de securitate cibernetică, așa cum le știm, au fost create la începutul anilor 2000, când internetul și calculatoarele comerciale erau încă în curs de dezvoltare. De atunci, conținutul a evoluat pentru a satisface nevoile de conformitate, cu accent pe platformele LMS și gamificarea pentru implicare. Dar peisajul amenințărilor a evoluat.

Frauda de astăzi este inteligentă, creativă și inginerită psihologic. Criminalii folosesc inteligența artificială cu aceeași sofisticare ca academia sau întreprinderea. Instruirea trebuie, prin urmare, să meargă dincolo de conformitate și în direcția cogniției.

Reziliența la fraudele cu deepfake nu poate fi redusă la a face clic pe un link. Trebuie să învețe oamenii să gândească critic, să pună sub semnul întrebării autenticitatea fețelor și vocilor cu care interacționează și să recunoască cât de ușor poate fi manipulată percepția.

Accentul egal trebuie pus pe reziliența cognitivă. Emoțiile intensificate, mințile distrase și multitaskingul constant slăbesc gândirea critică. Construirea rezilienței cognitive antrenează angajații să mențină un echilibru emoțional și să rămână analitici și atenți. Este exact mentalitatea necesară pentru a rezista manipulării.

Firma dvs. oferă evaluări de vulnerabilitate la deepfake și exerciții de masă. Puteți descrie cum arată una dintre aceste simulări și ce insight-uri obțin clienții în general?

În evaluările noastre de vulnerabilitate și exerciții de masă, replicăm vectorii de atac cu deepfake cei mai recenti, extrase din incidente reale. Scenariile comune includ un solicitant de job care folosește o identitate clonată, un helpdesk IT compromis pentru a reseta credențialele de autentificare cu mai multe factori, sau o apel video cu o persoană generată de inteligență artificială care convinge personalul să descarce software malign.

Aceste simulări expun modul în care oamenii răspund sub presiune și relevă puncte oarbe în comunicare, proces și răspuns la incidente. Executivii descoperă adesea lipsa de expertiză și proprietatea deciziei neclară. Rezultatele duc de obicei la un program de reziliență pe termen lung. Unul care consolidează alfabetizarea la fraudă, schimbarea procesului și a culturii și pregătirea pentru crize în toată organizația.

De multe ori vorbiți despre managementul riscului centrat pe om. Cum pot companiile să-și împuternicească oamenii pentru a detecta și a rezista manipulării cu deepfake, în loc să se bazeze numai pe unelte tehnice?

Deepfake-urile exploatează același circuit neural care ne ajută să evaluăm încrederea și emoția. Creierul nostru este programat să prioritizeze semnalele vizuale și auditive, deoarece acestea sunt primele simțuri pe care le dezvoltăm. Dar nu am evoluat încă pentru a pune sub semnul întrebării instinctiv aceste semnale, așa că trebuie să învățăm și să consolidăm constant această abilitate.

Companiile pot împuternici angajații lor antrenându-i să abordeze interacțiunile digitale cu prudență și curiozitate. Când suntem într-un apel vocal sau video, interacționăm cu un artefact. Acest artefact poate fi o persoană reală proiectată pe ecran sau una artificială. Nu putem determina acest lucru vizual.

Singura apărare este verificarea activă: a pune întrebările potrivite, a verifica detaliile și a observa inconsistențele în narativă. Noua mantră trebuie să fie simplă – încredere zero, verificați mereu.

Deepfake-urile estompează linia dintre dezinformare și fraudă. Cum pot executivii să se pregătească pentru crizele de reputație și operaționale declanșate de incidente cu media sintetică?

Echipele de conducere trebuie să trateze incidentele cu deepfake ca pe un risc de bază pentru afaceri, nu ca pe unul ipotetic. Fiecare executiv de la masa decizională ar trebui să știe rolul său atunci când se declanșează o criză.

La fel cum consiliile de administrație examinează registrele de risc, ar trebui să și examineze planurile de răspuns la incidente, iar acestea nu pot fi statice. Peisajul amenințărilor evoluează prea repede. Planurile necesită a fi testate și actualizate cel puțin de două ori pe an, ideal după un exercițiu de masă care simulează un eveniment real.

Crizele cu deepfake rareori se situează neapărat într-o singură funcție. Ele cer coordonare între comunicări, juridic, securitate și resurse umane. Organizațiile care răspund cel mai bine sunt cele ale căror lideri exersează această colaborare înainte de a apărea o criză reală.

Există și un cost psihologic atunci când angajații sau executivii devin ținte ale unor deepfake convingătoare. Ce suport sau protocoale ar trebui să aibă organizațiile în loc pentru a aborda impactul uman?

“Rușinea escrocheriilor” trebuie evitată cu orice preț. Organizațiile ar trebui să construiască o cultură de siguranță psihologică mult înainte de a apărea un incident. Când angajații sau executivii devin ținte ale deepfake-urilor, experiența poate fi resimțită ca o agresiune. O pierdere a controlului asupra propriei imagini, voci și identități digitale.

Răspunsul trebuie să fie atât procedural, cât și uman. Protocoalele clare de raportare ar trebui să stea alături de suportul pentru sănătatea mintală, dezbateri confidențiale și acces la forensica digitală, astfel încât indivizii să înțeleagă ce s-a întâmplat.

Liderii stabilesc tonul. Când executivii vorbesc deschis despre încercările de manipulare și recuperare, elimină stigmatul și încurajează transparența. Această deschidere este cea care transformă vulnerabilitatea individuală în reziliență colectivă.

Ca fondator al unei consultanțe în acest domeniu, care sunt cele mai mari preocupări ale dvs. cu privire la viteza cu care evoluează inteligența artificială generativă și unde anticipați următoarea undă de capabilități deepfake?

Inteligența artificială generativă evoluează cu o viteză extraordinară. Acest lucru în sine nu este o preocupare. Riscul real se află în adoptarea și răspândirea sa rapidă în operațiunile de afaceri de zi cu zi. Ritmul managementului amenințărilor și al conștientizării nu a ținut pasul. Această diferență între amenințare și reziliență este exact locul în care fraudele prosperă, cu deepfake-urile ca principal instrument de fraudă.

Fiecare inovație devine o nouă suprafață pentru exploatare. În prezent, agenții de inteligență artificială prezintă un risc crescând. Atunci când sunt combinați cu tehnologia deepfake, pot executa fraude la scară, viteză și precizie pe care niciun atacator uman nu le-ar putea egala.

În schimb, care tehnologii sau eforturi de colaborare vă oferă optimismul că putem rămâne înaintea fraudelor și dezinformărilor bazate pe deepfake?

Faptul că această conversație are loc într-o publicație respectată este în sine un semn de progres. Arată că inovatorii, regulatorii, mass-media și întreprinderile sunt toate afectate puternic de dezinformare.

Ceea ce îmi oferă optimism este creșterea dorinței de colaborare. Reziliența la deepfake nu va veni dintr-un singur instrument sau dintr-o singură organizație, ci din inteligență partajată. Învățarea să schimbăm informații și să educăm comunitatea la fel de eficient cum o fac criminalii.

Încă mai avem nevoie să rafinăm cum are loc această colaborare, dar intenția există. Și această intenție colectivă este ceea ce va restabili, în cele din urmă, încrederea.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe, le recomandăm să viziteze Aarti Samani.