Kaarel Kotkas, CEO și fondator al Veriff – Seria de interviuri

Kaarel Kotkas este CEO și fondator al Veriff și servește ca gânditor strategic și vizionar în spatele companiei. El conduce echipa Veriff în menținerea avansului față de fraudă și concurență în domeniul rapid schimbător al identificării online. Cunoscut pentru energia și entuziasmul său, Kotkas încurajează echipa să mențină integritatea în lumea digitală. În 2023, el a fost recunoscut în lista EU Forbes 30 Under 30, iar în 2020 a fost numit Antreprenorul Anului EY în Estonia. Nordic Business Report l-a inclus, de asemenea, printre cei 25 de tineri antreprenori cei mai influenți din Europa de Nord.

Veriff este o companie globală de verificare a identității care ajută afacerile online să reducă frauda și să se conformeze reglementărilor. Utilizând IA, Veriff verifică automat identitățile prin analizarea diverselor indicatori tehnologici și comportamentali, inclusiv recunoașterea facială.

Ce v-a inspirat să fondati Veriff, și ce provocări ați întâmpinat în construirea unei platforme de prevenire a fraudei bazate pe IA?

Motivația mea pentru Veriff a venit după ce am fost martor la modul în care oamenii online pot pretinde a fi altcineva. Când am cumpărat o sfoară biodegradabilă de pe eBay pentru ferma familiei mele la vârsta de 14 ani, am ocolit cu ușurință restricțiile de vârstă de 18+ ale PayPal cu un atingere de Photoshop pentru a schimba anul meu de naștere pe copia actului de identitate.

Am continuat să văd problema utilizatorilor online care se prezintă ca altcineva pentru a trece testele de vârstă și alte măsuri de securitate. A fost din cauza acestor experiențe că am venit cu ideea pentru Veriff.

În ceea ce privește provocările, un an după fondarea companiei, am dat echipei noastre weekend-ul liber. Acesta a fost același zi în care am făcut o corectură a unei erori, care a rezultat în întreruperea completă a capacităților noastre de monitorizare. Nu am observat că serviciul nostru se închide până sâmbătă dimineața. Luni dimineața, trebuia să mă întâlnesc față în față cu cel mai mare client al nostru, care a pierdut mii de dolari în venituri. Am fost transparent în acea întâlnire, explicând greșelile de partea noastră. Ne-am strâns mâinile și am revenit la muncă. Ce am învățat din aceasta este că, ca fondator și lider de afaceri, trebuie să ne așteptăm și să ne pregătim pentru provocări. În plus, transparența este cheia pentru a construi încredere. În cele din urmă, demonstrarea unei istorii de depășire a provocărilor poate fi mai valoroasă, deoarece arată că puteți depăși cu succes problemele și sunteți rezilienți.

Cu deepfake-urile devenind tot mai sofisticate, în special în contexte politice, ce riscuri majore prezintă ele pentru alegeri și democrație?

În acest sezon electoral, integritatea procesului de votare este în pericol. IA poate analiza cantități mari de date pentru a identifica preferințele și tendințele alegătorilor, permițând campaniilor să adapteze mesaje și să vizeze alegătorii cu mesaje pe care aceștia le apreciază cel mai mult. Actorii răi sunt bine echipați pentru a crea false narative despre candidați care efectuează acțiuni pe care nu le-au făcut niciodată sau fac declarații pe care nu le-au făcut niciodată, astfel dăunând reputației lor și inducând în eroare alegătorii.

Până în prezent, am văzut deepfake-uri ale celebrităților care susțin candidați prezidențiali și un apel telefonic fals al lui Biden. Deși există tehnologie care poate ajuta la distingerea între conținut generat de IA și realitate, nu este viabil să o implementăm pe scară largă. Cu mizele ridicate și credibilitatea alegerilor pe linie, trebuie făcut ceva pentru a păstra încrederea publică. Viitorul creșterii economiei digitale și lupta împotriva fraudei digitale se învârte în jurul identităților dovedite și a conturilor online autentice și verificate.

Deepfake-urile pot manipula nu numai imagini, ci și voci. Credeți că un mediu este mai periculos decât celălalt în ceea ce privește inducerea în eroare a alegătorilor?

În general, în special în contextul american al alegerilor, ambele ar trebui tratate ca amenințări la adresa democrației. Raportul nostru recent Veriff Fraud Index 2024: Part 2 a constatat că 74% dintre respondenți din SUA se tem de impactul IA și al deepfake-urilor asupra alegerilor.

Evolutia IA a turbo-încărcat amenințarea la adresa securității, nu numai în SUA, ci și în întreaga lume, în timpul alegerilor de anul acesta. Indiferent dacă este vorba de imagini deepfake, voci generate de IA în apeluri robotice care încearcă să influențeze opinia alegătorilor sau de videoclipuri false cu candidați, ambele provoacă o preocupare justificată.

Să privim imaginea de ansamblu. Când există multe puncte de date disponibile, este mai ușor să evaluăm “nivelul de amenințare”. O singură imagine poate să nu fie suficientă pentru a determina dacă este frauduloasă, dar un videoclip oferă mai multe indicii, în special dacă are audio. Adăugarea de detalii precum dispozitivul utilizat, locația sau cine a înregistrat videoclipul crește încrederea în autenticitatea sa. Fraudatorii încearcă întotdeauna să limiteze sfera de informații, deoarece este mai ușor să manipuleze. Consider apelurile robotice ca fiind mai periculoase decât deepfake-urile, deoarece crearea de audio fals este mai ușoară decât generarea de videoclipuri false de înaltă calitate. În plus, utilizarea LLM-urilor face posibilă ajustarea audio-ului fals în timpul apelurilor, făcându-le și mai convingătoare.

Având în vedere alegerile iminente, ce ar trebui să fie principalele preocupări ale guvernelor și comisiilor electorale în ceea ce privește dezinformarea condusă de IA?

Guvernele și comisiile electorale trebuie să înțeleagă amploarea posibilă a capacităților de deepfake, inclusiv cât de sofisticate și de convingătoare au devenit aceste instanțe de fraudă. Deepfake-urile sunt deosebit de eficiente atunci când sunt utilizate împotriva întreprinderilor cu procese de gestionare a identității disjuncte și incoerente și cu măsuri de securitate slabe, făcându-le și mai critice astăzi pentru a implementa măsuri de securitate robuste sau pentru a avea o abordare stratificată a securității.

Încă, nu există o soluție care să se potrivească tuturor, așa că o abordare coordonată și multifacetată este cheia. Acest lucru ar putea include verificări robuste și cuprinzătoare ale documentelor de identitate afirmate, contra-IA pentru a identifica manipularea imaginilor care sosesc, în special în ceea ce privește votul la distanță, și, cel mai important, identificarea creatorilor de deepfake-uri și a conținutului fraudulos la sursă. Responsabilitatea verificării voturilor revine guvernelor și comisiilor electorale, precum și furnizorilor de tehnologie și identitate.

Care este rolul pe care îl poate juca Veriff și tehnologiile de verificare a identității, cum ar fi Veriff, în contracararea impactului deepfake-urilor asupra alegerilor și campaniilor politice?

IA este o amenințare și o oportunitate. Aproape 78% dintre decidenții americani au văzut o creștere a utilizării IA în atacurile frauduloase în ultimul an. Pe de altă parte, aproape 79% dintre CEO-uri utilizează IA și ML în prevenirea fraudei. Într-un moment în care frauda este în creștere, strategiile de prevenire a fraudei trebuie să fie holistice – niciun singur instrument nu poate combate o asemenea amenințare multitudinară. Însă, IA și verificarea identității pot împuternici afacerile și utilizatorii cu un stivuit multifacetat care aduce biometrie, verificarea identității, crosslinking și alte soluții pentru a depăși fraudatorii.

La Veriff, utilizăm propria noastră tehnologie bazată pe IA pentru a construi capacitățile noastre de detectare a deepfake-urilor. Acest lucru înseamnă că instrumentele noastre se îmbunătățesc din învățămintele pe care le obținem atunci când vedem un deepfake. Utilizarea unor cantități mari de date și căutarea unor modele care au apărut anterior pentru a determina rezultatele viitoare se bazează atât pe tehnologii automate, cât și pe cunoștințe și inteligență umană. Oamenii au o înțelegere mai bună a contextului, identifică anomaliile pentru a crea un buclă de feedback care poate fi utilizată pentru a îmbunătăți modelele IA. Combinarea diferitelor perspective și expertize pentru a crea o abordare cuprinzătoare a verificării identității și a detectării deepfake-urilor a permis Veriff și clienților săi să rămână înaintea curbei.

Cum pot afacerile și indivizii să se protejeze mai bine de a fi influențați de deepfake-uri și dezinformarea condusă de IA?

Protejarea de a fi influențat de deepfake-uri și dezinformarea condusă de IA începe cu educația și conștientizarea capacităților extinse ale IA, îmbinată cu identități dovedite și conturi online autentice și verificate. Pentru a determina dacă puteți avea încredere într-o sursă, trebuie să vă uitați la cauză și nu la simptome. Trebuie să confruntăm problema la sursă, unde și de către cine sunt generate aceste deepfake-uri și resurse frauduloase.

Consumatorii și afacerile trebuie să aibă încredere doar în informații de la surse verificate, cum ar fi utilizatori de platforme de socializare verificate și surse de știri creditate. În plus, utilizarea site-urilor de verificare a faptelor și căutarea unor anomalii vizuale în clipuri audio sau video – mișcări neobișnuite, iluminare ciudată, neclaritate sau sincronizare buzelor defectuoasă – sunt doar câteva dintre modalitățile în care afacerile pot proteja împotriva inducerii în eroare de către tehnologia deepfake.

Credeți că există suficientă conștientizare publică cu privire la pericolele deepfake-urilor? Dacă nu, ce pași ar trebui să fie luați pentru a îmbunătăți înțelegerea?

Suntem încă în faza de creștere a conștientizării cu privire la IA și educarea oamenilor cu privire la potențialul său.

Conform Veriff Fraud Index 2024: Part 2, peste un sfert (28%) dintre respondenți au experimentat o formă de fraudă generată de IA sau deepfake în ultimul an, un rezultat remarcabil pentru o tehnologie emergentă și o indicație a naturii în creștere a acestei amenințări. Ce este mai important este că acest număr ar putea fi, de fapt, mult mai mare, deoarece 20% spun că nu știu dacă au fost țintiți sau nu. Având în vedere natura sofisticată a încercărilor de fraudă generate de IA, este foarte probabil ca mulți respondenți să fi fost țintiți fără să știe.

Indivizii ar trebui să fie precauți atunci când întâlnesc e-mailuri suspecte sau apeluri telefonice neașteptate de la surse necunoscute. Cererile de informații sensibile sau bani ar trebui să fie întâmpinate întotdeauna cu scepticism, iar este crucial să aveți încredere în instinctele dvs. și să căutați clarificări dacă ceva pare în neregulă.

Care este rolul pe care îl vedeți organismele de reglementare jucând în lupta împotriva dezinformării generate de IA, și cum pot ele colabora cu companii precum Veriff?

Având în vedere amploarea cu care tehnologia deepfake a fost utilizată pentru a înșela publicul și a amplifica eforturile de dezinformare, și cu alegerile din SUA încă în desfășurare, este încă de văzut cât de mare va fi impactul acestei tehnologii asupra alegerilor, precum și asupra societății în ansamblu. Însă, organismele de reglementare iau măsuri pentru a atenua amenințările tehnologiei deepfake.

O mare parte din responsabilitatea de a mitiga impactul dezinformării revine proprietarilor platformelor pe care le utilizăm cel mai mult. De exemplu, principalele companii de socializare trebuie să își asume mai multă responsabilitate, luând măsuri și implementând măsuri robuste pentru a detecta și preveni atacurile frauduloase și pentru a proteja utilizatorii de informații dăunătoare.

Cum vedeți tehnologia Veriff evoluând în următorii ani pentru a rămâne înaintea fraudatorilor, în special în contextul alegerilor?

În lumea noastră digitală în rapidă schimbare, viitorul internetului se bazează pe capacitatea utilizatorilor online de a-și dovedi identitatea; astfel, afacerile și utilizatorii pot interacționa cu încredere unii cu alții. La Veriff, încrederea este sinonimă cu verificarea. Ne propunem să asigurăm că mediile digitale favorizează un sentiment de siguranță și securitate pentru utilizatorul final. Acest obiectiv va necesita ca tehnologia să evolueze pentru a face față provocărilor de astăzi, și deja vedem acest lucru cu o acceptare mai largă a recunoașterii faciale și a biometriei. Datele arată că consumatorii consideră recunoașterea facială și biometria ca fiind metoda cea mai sigură de autentificare online.

Următorul, vedem acest trend continuând și un viitor în care, în loc ca utilizatorii să introducă și reintroducă în mod constant credențialele lor în timp ce efectuează diverse sarcini online, aceștia vor avea o “identitate reutilizabilă” care reprezintă persona lor pe internet.

Pentru a ne apropia de obiectivul nostru, am actualizat recent soluția noastră de autentificare biometrică pentru a îmbunătăți acuratețea și experiența utilizatorului, și pentru a consolida securitatea pentru o asigurare mai puternică a identității. Aceste progrese recente în tehnologia biometrică au permis tehnologiei noastre să se adapteze la comportamentul individual al utilizatorilor, asigurând autentificarea utilizatorului și nu doar în timpul unei sesiuni. Acest progres, în special, reprezintă progresul nostru pe drumul nostru către o identitate digitală reutilizabilă.

Veriff este recunoscut pentru acoperirea sa globală în prevenirea fraudei. Ce face tehnologia Veriff să iasă în evidență într-un spațiu atât de competitiv?

Soluția Veriff oferă viteză și confort, deoarece este de 30 de ori mai precisă și de 6 ori mai rapidă decât ofertele concurente. Avem cea mai mare bază de date de specimene de documente de identitate din industria IDV / Know Your Customer (KYC). Putem verifica oamenii împotriva a 11.500 de documente de identitate emise de guverne din peste 230 de țări și teritorii, în 48 de limbi diferite. În plus, acest confort și reducerea frecării permit organizațiilor să convertească mai mulți utilizatori, să reducă frauda și să se conformeze reglementărilor. De asemenea, avem un nivel de automatizare de 91% și 95% dintre utilizatorii reali sunt verificați cu succes la prima încercare.

Veriff a fost una dintre primele companii IDV care a obținut certificarea Cyber Essentials. Cyber Essentials este un standard guvernamental eficient care protejează împotriva celor mai comune atacuri cibernetice. Obținerea acestui certificat demonstrează că Veriff ia în serios securitatea cibernetică și a luat măsuri pentru a proteja datele și sistemele sale. Acest realizare este o mărturie a angajamentului companiei de a securitatea cibernetică și a dedicării noastre de a proteja datele clienților noștri. Cel mai recent, am finalizat evaluarea conformității ISO / IEC 30107-3 iBeta Level 2 pentru detectarea pasivă a biometriei, o validare externă independentă pentru a consolida faptul că soluția Veriff îndeplinește cel mai înalt standard de securitate biometrică.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe ar trebui să viziteze Veriff.