Kaarel Kotkas, CEO și fondator Veriff – Seria de interviuri

Kaarel Kotkas este CEO și fondator al Veriff și este gânditorul strategic și vizionarul din spatele companiei. El conduce echipa Veriff în a se menține cu un pas înaintea fraudei și a concurenței în domeniul identificării online, aflat în rapidă schimbare. Cunoscut pentru energia și entuziasmul său, Kotkas încurajează echipa să mențină integritatea în lumea digitală. În 2023, a fost recunoscut în topul Forbes 30 Under 30 al UE, iar în 2020, a fost numit Antreprenorul Anului EY în Estonia. Nordic Business Report l-a inclus, de asemenea, printre cei mai influenți 25 de tineri antreprenori din Europa de Nord.

Veriff este o companie globală de verificare a identității care ajută companiile online să reducă frauda și să respecte reglementările. Folosind AI, Veriff verifică automat identitățile analizând diferiți indicatori tehnologici și comportamentali, inclusiv recunoașterea facială.

Ce v-a inspirat să fondați Veriff și cu ce provocări v-ați confruntat în construirea unei platforme de prevenire a fraudei bazată pe inteligență artificială?

Motivația mea pentru Veriff a venit după ce am fost martor direct cât de ușor a fost pentru oamenii online să pretindă că sunt altcineva. Când am cumpărat șnur biodegradabil de la eBay pentru ferma familiei mele la vârsta de 14 ani, am ocolit fără efort restricțiile PayPal pentru vârsta de peste 18 ani cu o atingere de Photoshop pentru a-mi schimba anul nașterii pe copia actului meu de identitate.

Am continuat să văd problema utilizatorilor online care își denaturau identitatea pentru a trece verificările de vârstă și alte măsuri de securitate. Datorită acestor experiențe mi-a venit ideea pentru Veriff.

Cât despre provocări, la un an de la înființarea companiei, am oferit echipei noastre un weekend liber. Aceasta a fost în aceeași zi în care am remediat o eroare, care a dus la o întrerupere completă a capacităților de monitorizare. Nu am observat că serviciul nostru se închide de la sine până sâmbătă dimineață. Luni dimineață, a trebuit să mă întâlnesc față în față cu cel mai mare client al nostru, care pierduse mii de dolari din venituri. Am fost transparent în acea întâlnire, explicând greșelile din partea noastră. Ne-am strâns mâna și ne-am întors la muncă. Ceea ce am învățat din asta este că, în calitate de fondator și lider de afaceri, trebuie să ne așteptăm și să ne pregătim pentru provocări. În plus, transparența este cheia pentru construirea încrederii. În cele din urmă, demonstrarea unui istoric de depășire a provocărilor se poate dovedi mai valoroasă, deoarece arată că poți aborda cu succes problemele și că ești rezistent.

Odată cu deepfake-urile din ce în ce mai sofisticate, în special în mediile politice, care credeți că sunt cele mai semnificative riscuri pe care le prezintă pentru alegeri și democrație?

În acest sezon electoral, integritatea procesului de vot este în pericol. AI poate analiza cantități mari de date pentru a identifica preferințele și tendințele alegătorilor, permițând campaniilor să adapteze mesajele și să vizeze alegătorii cu mesajele la care țin cel mai mult. Actorii răi sunt bine pregătiți pentru a crea narațiuni false ale candidaților care efectuează acțiuni pe care nu le-au făcut niciodată sau fac declarații pe care nu le-au spus niciodată, dăunându-le astfel reputația și inducând în eroare alegătorii.

Până în prezent, am văzut deepfakes ale celebrităților care susțin candidații la președinție și un fals robocall BidenDeși există tehnologie care să ajute la distingerea între conținutul generat de inteligența artificială și cel real, implementarea sa pe scară largă și la scară largă nu este viabilă. Având în vedere miza mare și credibilitatea alegerilor aflate în joc, trebuie făcut ceva pentru a păstra încrederea publicului. Creșterea viitoare a economiei digitale și lupta sa împotriva fraudei digitale se concentrează pe identități dovedite și conturi online autentice și verificate.

Deepfake-urile pot manipula nu numai imaginile, ci și vocile. Crezi că un mediu este mai periculos decât celălalt atunci când vine vorba de înșelarea alegătorilor?

În general, mai ales în contextul alegerilor din SUA, ambele ar trebui tratate în mod egal ca amenințări la adresa democrației. Cel mai recent raport al nostru Indexul fraudelor Veriff 2024: Partea 2, a constatat că 74% dintre respondenții din SUA sunt îngrijorați de AI și de deepfakes care influențează alegerile.

Evoluția inteligenței artificiale a supraalimentat amenințarea la adresa securității, nu numai în SUA, ci și în întreaga lume, în timpul alegerilor din acest an. Fie că este vorba de imagini deepfake, voci generate de AI în apelurile automate care încearcă să deformeze opiniile alegătorilor sau videoclipuri fabricate ale candidaților, ambele provoacă îngrijorare justificată.

Să privim imaginea de ansamblu. Atunci când există o mulțime de date disponibile, este mai ușor să evaluăm „nivelul de amenințare”. O singură imagine s-ar putea să nu fie suficientă pentru a spune dacă este frauduloasă, dar un videoclip oferă mai multe indicii, mai ales dacă are sunet. Adăugarea de detalii precum dispozitivul utilizat, locația sau cine a înregistrat videoclipul crește încrederea în autenticitatea acestuia. Escrocii încearcă întotdeauna să limiteze domeniul de aplicare al informațiilor, deoarece le face mai ușor de manipulat. Consider apelurile automate ca fiind mai periculoase decât deepfake-urile, deoarece crearea de sunet fals este mai ușoară decât generarea de videoclipuri false de înaltă calitate. În plus, utilizarea LLM-urilor face posibilă ajustarea sunetului fals în timpul apelurilor, făcându-le și mai convingătoare.

Având în vedere alegerile viitoare, de ce ar trebui să fie cel mai preocupate guvernele și comisiile electorale în ceea ce privește dezinformarea determinată de inteligență artificială?

Guvernele și comisiile electorale trebuie să înțeleagă potențialul domeniu de aplicare al capabilităților deepfake, inclusiv cât de sofisticate și mult mai convingătoare au devenit aceste cazuri de fraudă. Deepfake-urile sunt deosebit de eficiente atunci când sunt implementate împotriva întreprinderilor cu procese de gestionare a identității inconsecvente și inconsecvente și cu securitate cibernetică slabă, ceea ce face ca astăzi să fie mai critică implementarea unor măsuri de securitate robuste sau o abordare stratificată a securității.

Cu toate acestea, nu există o soluție universală, așa că o abordare coordonată, cu mai multe fațete este esențială. Aceasta ar putea include verificări solide și cuprinzătoare ale documentelor de identitate afirmate, contra-AI pentru a identifica manipularea imaginilor primite, în special în ceea ce privește votul de la distanță și, cel mai important, identificarea creatorilor de deepfake și conținut fraudulos la sursă. Responsabilitatea verificării voturilor revine guvernelor și comisiilor electorale, precum și furnizorilor de tehnologie și identitate.

Ce rol pot juca AI și tehnologiile de verificare a identității precum Veriff în contracararea impactului deepfake-urilor asupra alegerilor și campaniilor politice?

AI este o amenințare și o oportunitate. Aproape 78% dintre factorii de decizie din SUA au înregistrat o creștere a utilizării AI în atacurile frauduloase în ultimul an. Pe de altă parte, aproape 79% dintre CEO folosesc AI și ML în prevenirea fraudei. Într-o perioadă în care frauda este în creștere, strategiile de prevenire a fraudei trebuie să fie holistice – niciun instrument nu poate combate o amenințare atât de multitudine. Cu toate acestea, AI și verificarea identității pot oferi companiilor și utilizatorilor o stivă pe mai multe straturi, care aduce elemente biometrice, verificarea identității, reticulare și alte soluții pentru a depăși fraudatorii.

La Veriff, folosim propria noastră tehnologie bazată pe inteligență artificială pentru a ne dezvolta capacitățile de detectare a falsurilor profunde. Aceasta înseamnă că instrumentele noastre se îmbunătățesc din învățare atunci când vedem un deepfake. Preluarea unor cantități mari de date și căutarea modelelor care au apărut înainte pentru a determina rezultatele viitoare se bazează atât pe tehnologiile automatizate, cât și pe cunoștințele și inteligența umană. Oamenii au o mai bună înțelegere a contextului, identificând anomalii pentru a crea o buclă de feedback care poate fi folosită pentru a îmbunătăți modelele AI. Combinarea diferitelor perspective și expertiză pentru a crea o abordare cuprinzătoare a verificării identității și a detectării deepfake a permis Veriff și clienților săi să rămână în fruntea curbei.

Cum se pot proteja mai bine întreprinderile și persoanele fizice de a fi influențate de deepfakes și dezinformarea bazată pe inteligență artificială?

Protejarea împotriva influenței de deepfake-uri și de dezinformări bazate pe inteligență artificială începe cu educația și conștientizarea capacităților extinse ale inteligenței artificiale, împreună cu identități dovedite și conturi online autentice și verificate. Pentru a determina dacă poți avea încredere într-o sursă, trebuie să analizezi cauza, nu simptomele. Trebuie să confruntăm problema la sursă, unde și de către cine sunt generate aceste deepfake-uri și resurse frauduloase.

Consumatorii și companiile trebuie să aibă încredere numai în informațiile din surse verificate, cum ar fi utilizatorii verificați ai platformelor de socializare și instituțiile de știri bine creditate. În plus, utilizarea site-urilor web de verificare a faptelor și căutarea anomaliilor vizuale în clipurile audio sau video — mișcări nenaturale, iluminare ciudată, neclaritate sau sincronizare nepotrivită a buzelor — sunt doar câteva dintre modalitățile prin care companiile se pot proteja de a fi induse în eroare de tehnologia deepfake. .

Crezi că există suficientă conștientizare a publicului cu privire la pericolele deepfake-urilor? Dacă nu, ce măsuri ar trebui luate pentru a îmbunătăți înțelegerea?

Suntem încă în faza de creștere a conștientizării cu privire la IA și la educarea oamenilor cu privire la potențialul acesteia.

Potrivit Indexul fraudelor Veriff 2024: Partea 2 peste un sfert (28%) dintre respondenți s-au confruntat cu un fel de fraudă generată de IA sau de deepfake în ultimul an, un rezultat izbitor pentru o tehnologie în curs de dezvoltare și un indiciu al naturii în creștere a acestei amenințări. Ceea ce este mai important este că acest număr ar putea fi de fapt mult mai mare, deoarece 20% spun că nu știu dacă au fost vizați sau nu. Având în vedere natura sofisticată a tentativelor de fraudă generate de IA, este foarte probabil ca mulți respondenți să fi fost vizați fără ca ei să știe acest lucru.

Persoanele ar trebui să fie precaute atunci când se confruntă cu e-mailuri suspecte sau apeluri telefonice neașteptate din surse necunoscute. Solicitările de informații sensibile sau de bani ar trebui întotdeauna întâmpinate cu scepticism și este esențial să ai încredere în instinctele tale și să cauți clarificări dacă ceva nu este în regulă.

Ce rol vedeți că joacă organismele de reglementare în lupta împotriva dezinformării generate de AI și cum pot colabora cu companii precum Veriff?

Având în vedere măsura în care tehnologia deepfake a fost folosită pentru a înșela publicul și pentru a amplifica eforturile de dezinformare, iar alegerile din SUA sunt încă în desfășurare, rămâne încă de văzut cât de mare va avea această tehnologie asupra acelei alegeri, precum și asupra societății în general. Cu toate acestea, organismele de reglementare iau măsuri pentru a atenua amenințările tehnologiei deepfake.

O mare responsabilitate pentru atenuarea impactului dezinformarii revine proprietarilor platformelor pe care le folosim cel mai des. De exemplu, companiile de top din rețelele sociale trebuie să-și asume mai multă responsabilitate, luând măsuri și implementând măsuri solide pentru a detecta și a preveni atacurile frauduloase și pentru a proteja utilizatorii de informații greșite dăunătoare.

Cum vedeți că tehnologia Veriff va evolua în următorii câțiva ani pentru a rămâne în fața fraudătorilor, în special în contextul alegerilor?

În lumea noastră digitalizată rapidă, viitorul internetului depinde de capacitatea utilizatorilor online de a-și demonstra identitatea; în acest fel, atât companiile, cât și utilizatorii pot interacționa cu încredere unii cu alții. La Veriff, încrederea este sinonimă cu verificarea. Ne propunem să ne asigurăm că mediile digitale promovează un sentiment de siguranță și securitate pentru utilizatorul final. Acest obiectiv va necesita evoluția tehnologiei pentru a face față provocărilor de astăzi, iar acest lucru se observă deja prin acceptarea mai largă a recunoașterii faciale și a biometriei. Datele arată că utilizatorii consideră recunoașterea facială și biometria drept cea mai sigură metodă de conectare la un serviciu online.

Privind în perspectivă, ne imaginăm că această tendință va continua și un viitor în care, mai degrabă decât utilizatorii care își introduc și reintroduc în mod constant acreditările pe măsură ce efectuează diferite sarcini online, aceștia au „o singură identitate reutilizabilă” care reprezintă personalitatea lor pe web.

Pentru a ne aduce un pas mai aproape de obiectivul nostru, am actualizat recent soluția noastră de autentificare biometrică pentru a îmbunătăți acuratețea și experiența utilizatorului și pentru a consolida securitatea pentru o asigurare mai puternică a identității. Aceste ultime progrese în tehnologia biometrică au permis tehnologiei noastre să se adapteze la comportamentele individuale ale utilizatorilor, asigurând autentificarea utilizatorului mai degrabă decât doar în timpul unei singure sesiuni. Acest progres, în special, reprezintă un progres în călătoria noastră către o identitate digitală reutilizabilă.

Veriff este recunoscut pentru acoperirea sa globală în prevenirea fraudei. Ce face tehnologia Veriff să iasă în evidență într-un spațiu atât de competitiv?

Soluția Veriff oferă viteză și comoditate, deoarece este de 30 de ori mai precisă și de 6 ori mai rapidă decât ofertele concurente. Avem cea mai mare bază de date de specimene de documente de identitate din industria IDV/Know Your Customer (KYC). Putem verifica persoanele cu 11,500 de documente de identitate emise de guvern din peste 230 de țări și teritorii, în 48 de limbi diferite. În plus, această comoditate și frecare redusă permit organizațiilor să convertească mai mulți utilizatori, să atenueze frauda și să respecte reglementările. Avem, de asemenea, o rată de automatizare de 91%, iar 95% dintre utilizatorii autentici sunt verificați cu succes la prima încercare.

Veriff a fost una dintre primele companii IDV care a obținut certificarea Cyber ​​Essentials. Cyber ​​Essentials este un standard eficient, susținut de guvern, care protejează împotriva celor mai frecvente atacuri cibernetice. Obținerea acestei certificări demonstrează că Veriff ia în serios securitatea cibernetică și a luat măsuri pentru a-și proteja datele și sistemele. Această realizare este o dovadă a angajamentului neclintit al companiei față de securitatea cibernetică și a dedicării noastre de a proteja datele clienților noștri. Cel mai recent, am finalizat evaluarea de conformitate ISO/IEC 30107-3 iBeta Nivel 2 pentru detectarea biometrică pasivă a prezenței, o validare externă independentă care consolidează faptul că soluția Veriff îndeplinește cel mai înalt standard de securitate biometrică.

Mulțumim pentru interviul minunat, cititorii care doresc să afle mai multe ar trebui să viziteze Veriff.