Kaarel Kotkas, CEO și fondator al Veriff – Seria de interviuri

Kaarel Kotkas este CEO și fondator al Veriff și servește ca gânditor strategic și vizionar în spatele companiei. El conduce echipa Veriff în a rămâne înaintea fraudei și a concurenței în domeniul schimbător al identificării online. Cunoscut pentru energia și entuziasmul său, Kotkas încurajează echipa să mențină integritatea în lumea digitală. În 2023, el a fost recunoscut în lista EU Forbes 30 Under 30, iar în 2020 a fost numit Antreprenorul Anului în Estonia de către EY. Nordic Business Report l-a inclus, de asemenea, printre cei 25 de tineri antreprenori mai influenți din Europa de Nord.

Veriff este o companie globală de verificare a identității care ajută afacerile online să reducă frauda și să se conformeze reglementărilor. Folosind inteligența artificială, Veriff verifică automat identitățile prin analizarea diverselor indicatori tehnologici și comportamentali, inclusiv recunoașterea facială.

Ce v-a inspirat să înființați Veriff și ce provocări ați întâmpinat în construirea unei platforme de prevenire a fraudei bazate pe inteligență artificială?

Motivația mea pentru Veriff a venit după ce am văzut cum este ușor pentru oameni să se pretindă a fi altcineva online. Când cumpăram sfoară biodegradabilă de pe eBay pentru ferma familiei mele la vârsta de 14 ani, am ocolit cu ușurință restricțiile de vârstă ale PayPal (PYPL ) cu un atingere de Photoshop pentru a schimba anul nașterii pe copia actului meu de identitate.

Am continuat să văd problema utilizatorilor online care se prezintă ca altcineva pentru a trece controalele de vârstă și alte măsuri de securitate. A fost din cauza acestor experiențe că am venit cu ideea pentru Veriff.

În ceea ce privește provocările, un an după înființarea companiei, am dat echipei noastre weekendul liber. Acesta a fost același zi în care am făcut o corectură a unei erori, care a rezultat într-o întrerupere completă a capacităților noastre de monitorizare. Nu am observat că serviciul nostru se închide până sâmbătă dimineața. Luni dimineața, trebuia să mă întâlnesc față în față cu cel mai mare client al nostru, care pierduse mii de dolari în venituri. Am fost transparent în acea întâlnire, explicând greșelile de partea noastră. Ne-am strâns mâinile și am revenit la muncă. Ce am învățat de aici este că, ca fondator și lider de afaceri, trebuie să ne așteptăm și să ne pregătim pentru provocări. În plus, transparența este cheia pentru a construi încredere. În cele din urmă, demonstrarea unei istorii de depășire a provocărilor poate fi mai valoroasă, deoarece arată că puteți rezolva cu succes problemele și sunteți rezilienți.

Cum considerați că deepfake-urile, care devin tot mai sofisticate, în special în contexte politice, reprezintă cele mai semnificative riscuri pentru alegeri și democrație?

În acest sezon electoral, integritatea procesului de votare este în pericol. Inteligența artificială poate analiza cantități uriașe de date pentru a identifica preferințele și tendințele electorale, permițând campaniilor să personalizeze mesaje și să țintească alegătorii cu mesaje care le sunt cel mai importante. Actorii răi sunt bine echipați pentru a crea narative false despre candidați care efectuează acțiuni pe care nu le-au făcut niciodată sau fac declarații pe care nu le-au spus niciodată, astfel dăunând reputației lor și inducând în eroare alegătorii.

Până în prezent, am văzut deepfake-uri ale celebrităților care susțin candidați prezidențiali și un apel telefonic fals al lui Biden. Deși există tehnologie care poate ajuta la distingerea între conținut generat de inteligență artificială și realitate, nu este viabil să o implementăm pe scară largă. Având în vedere mizele ridicate și credibilitatea alegerilor pe linie, trebuie făcut ceva pentru a păstra încrederea publică. Viitorul creșterii economiei digitale și lupta împotriva fraudei digitale se învârte în jurul identităților dovedite și a conturilor online autentice și verificate.

Deepfake-urile pot manipula nu numai imagini, ci și voci. Credeți că unul dintre aceste medii este mai periculos decât celălalt în ceea ce privește înșelarea alegătorilor?

În general, mai ales în contextul american al alegerilor, ambele ar trebui tratate ca amenințări la adresa democrației. Raportul nostru recent Veriff Fraud Index 2024: Partea 2 a constatat că 74% dintre respondenți din SUA sunt îngrijorați de impactul inteligenței artificiale și al deepfake-urilor asupra alegerilor.

Evoluția inteligenței artificiale a accelerat amenințarea la adresa securității, nu numai în Statele Unite, ci și la nivel global, în timpul alegerilor de anul acesta. Indiferent dacă este vorba de imagini deepfake, voci generate de inteligență artificială în apeluri automate care încearcă să influențeze opinia alegătorilor sau de videoclipuri false ale candidaților, ambele provoacă o preocupare justificată.

Să privim imaginea de ansamblu aici. Când există multe puncte de date disponibile, este mai ușor să evaluăm “nivelul de amenințare”. O singură imagine poate să nu fie suficientă pentru a determina dacă este frauduloasă, dar un videoclip oferă mai multe indicii, mai ales dacă are sunet. Adăugarea de detalii precum dispozitivul utilizat, locația sau persoana care a înregistrat videoclipul crește încrederea în autenticitatea sa. Fraudele încearcă întotdeauna să limiteze sfera de informații, deoarece acest lucru le face mai ușor să manipuleze. Consider că apelurile automate sunt mai periculoase decât deepfake-urile, deoarece crearea de sunete false este mai ușoară decât generarea de videoclipuri false de înaltă calitate. În plus, utilizarea modelelor de limbaj mare (LLM) face posibilă ajustarea sunetului fals în timpul apelurilor, făcându-le și mai convingătoare.

Având în vedere alegerile care urmează, ce ar trebui să fie principalele preocupări ale guvernelor și comisiilor electorale în legătură cu dezinformarea condusă de inteligență artificială?

Guvernelor și comisiilor electorale trebuie să înțeleagă amploarea posibilă a capacităților deepfake, inclusiv cât de sofisticate și convingătoare au devenit aceste instanțe de fraudă. Deepfake-urile sunt deosebit de eficiente atunci când sunt utilizate împotriva întreprinderilor cu procese de gestionare a identității disjuncte și incoerente și cu măsuri de securitate slabă, făcându-le mai critice astăzi să implementeze măsuri de securitate robuste sau să aibă o abordare stratificată a securității.

Încă, nu există o soluție care să se potrivească tuturor, așa că o abordare coordonată și multifacetată este cheia. Acest lucru ar putea include verificări robuste și cuprinzătoare ale documentelor de identitate afirmate, contra-inteligență artificială pentru a identifica manipularea imaginilor care sosesc, mai ales în ceea ce privește votul la distanță, și, cel mai important, identificarea creatorilor de deepfake-uri și de conținut fraudulos la sursă. Responsabilitatea de a verifica voturile revine guvernelor și comisiilor electorale, precum și furnizorilor de tehnologie și identitate.

Care este rolul pe care inteligența artificială și tehnologiile de verificare a identității, cum ar fi Veriff, îl pot juca în contracararea impactului deepfake-urilor asupra alegerilor și campaniilor politice?

Inteligența artificială este atât o amenințare, cât și o oportunitate. Aproape 78% dintre decidenți din SUA au văzut o creștere a utilizării inteligenței artificiale în atacuri frauduloase în ultimul an. Pe de altă parte, aproape 79% dintre CEO-uri utilizează inteligență artificială și învățare automată în prevenirea fraudei. Într-un moment în care frauda este în creștere, strategiile de prevenire a fraudei trebuie să fie holistice – niciun singur instrument nu poate combate o amenințare atât de multitudinară. Cu toate acestea, inteligența artificială și verificarea identității pot împuternici afacerile și utilizatorii cu un stivuit multistratificat care aduce biometrie, verificare a identității, legături și alte soluții pentru a depăși fraudele.

La Veriff, utilizăm propria noastră tehnologie bazată pe inteligență artificială pentru a construi capacitățile noastre de detectare a deepfake-urilor. Acest lucru înseamnă că instrumentele noastre se îmbunătățesc din învățămintele pe care le obținem atunci când vedem un deepfake. Utilizarea unei cantități mari de date și căutarea de modele care au apărut anterior pentru a determina rezultatele viitoare depinde atât de tehnologii automate, cât și de cunoașterea și inteligența umană. Oamenii au o înțelegere mai bună a contextului, identificând anomalii pentru a crea un buclă de feedback care poate fi utilizată pentru a îmbunătăți modelele de inteligență artificială. Combinarea diferitelor perspective și expertize pentru a crea o abordare cuprinzătoare a verificării identității și detectării deepfake-urilor ne-a permis nouă și clienților noștri să rămânem înaintea curbei.

Cum pot afacerile și indivizii să se protejeze mai bine de a fi influențați de deepfake-uri și dezinformarea condusă de inteligență artificială?

Protejarea de a fi influențat de deepfake-uri și dezinformarea condusă de inteligență artificială începe cu educația și conștientizarea capacităților extinse ale inteligenței artificiale, îmbinată cu identități dovedite și conturi online autentice și verificate. Pentru a determina dacă puteți încredința o sursă, trebuie să priviți cauza, nu simptomele. Trebuie să abordăm problema la sursă, unde și de către cine sunt generate aceste deepfake-uri și resurse frauduloase.

Consumatorii și afacerile trebuie să aibă încredere doar în informații de la surse verificate, cum ar fi utilizatori de platforme de socializare verificate și surse de știri bine creditate. În plus, utilizarea site-urilor de verificare a faptelor și căutarea unor anomalii vizuale în clipuri audio sau video – mișcări neobișnuite, iluminare ciudată, neclaritate sau sincronizare a buzelor incorectă – sunt doar câteva dintre modalitățile prin care afacerile pot proteja împotriva a fi induși în eroare de tehnologia deepfake.

Credeti că există suficientă conștientizare publică cu privire la pericolele deepfake-urilor? Dacă nu, ce măsuri ar trebui luate pentru a îmbunătăți înțelegerea?

Încă suntem în faza de creștere a conștientizării cu privire la inteligența artificială și la educarea oamenilor cu privire la potențialul său.

Conform Veriff Fraud Index 2024: Partea 2, peste un sfert (28%) dintre respondenți au experimentat un anumit tip de fraudă generată de inteligență artificială sau deepfake în ultimul an, un rezultat remarcabil pentru o tehnologie emergentă și o indicație a creșterii acestei amenințări. Ce este mai important este că acest număr ar putea fi, de fapt, mult mai mare, deoarece 20% spun că nu știu dacă au fost ținta sau nu. Având în vedere natura sofisticată a încercărilor de fraudă generate de inteligență artificială, este foarte probabil ca mulți respondenți să fi fost ținta fără să știe.

Indivizii ar trebui să fie precauți atunci când întâlnesc e-mailuri suspecte sau apeluri telefonice neașteptate de la surse necunoscute. Cererile de informații sensibile sau bani ar trebui să fie întâmpinate cu scepticism, iar este esențial să aveți încredere în instinctele dvs. și să căutați clarificări dacă ceva pare în neregulă.

Care este rolul pe care îl vedeți organismele de reglementare jucând în lupta împotriva dezinformării generate de inteligență artificială și cum pot colabora cu companii precum Veriff?

Având în vedere amploarea cu care tehnologia deepfake a fost utilizată pentru a înșela publicul și a amplifica eforturile de dezinformare, și cu alegerile din SUA încă în desfășurare, este încă de văzut cât de mare va fi impactul acestei tehnologii asupra alegerilor, precum și asupra societății în general. Cu toate acestea, organismele de reglementare iau măsuri pentru a mitigă riscurile tehnologiei deepfake.

O mare parte din responsabilitatea de a mitigă impactul dezinformării revine proprietarilor platformelor pe care le utilizăm cel mai frecvent. De exemplu, companiile de socializare lider trebuie să își asume mai multă responsabilitate, implementând măsuri robuste pentru a detecta și preveni atacurile frauduloase și pentru a proteja utilizatorii de informații dăunătoare.

Cum vedeți tehnologia Veriff evoluând în următorii ani pentru a rămâne înaintea fraudei, în special în contextul alegerilor?

În lumea noastră digitală în rapidă schimbare, viitorul internetului se bazează pe capacitatea utilizatorilor online de a dovedi cine sunt; astfel, afacerile și utilizatorii pot interacționa cu încredere unii cu alții. La Veriff, încrederea este sinonimă cu verificarea. Ne propunem să asigurăm că mediile digitale să fie sigure și de încredere pentru utilizatorul final. Acest obiectiv va necesita ca tehnologia să evolueze pentru a face față provocărilor de astăzi, și deja vedem acest lucru cu acceptarea mai largă a recunoașterii faciale și a biometriei. Datele arată că consumatorii consideră recunoașterea facială și biometria ca metoda cea mai sigură de conectare la un serviciu online.

Privind înainte, ne imaginăm că această tendință va continua și un viitor în care, în loc ca utilizatorii să introducă și reintroducă în mod constant parolele, vor avea o “identitate reutilizabilă” care să reprezinte persona lor pe internet.

Pentru a ne apropia de obiectivul nostru, am actualizat recent soluția noastră de autentificare biometrică pentru a îmbunătăți acuratețea și experiența utilizatorului, și pentru a consolida securitatea pentru o asigurare mai puternică a identității. Aceste progrese recente în tehnologia biometrică au permis tehnologiei noastre să se adapteze la comportamentele individuale ale utilizatorilor, asigurând autentificarea utilizatorului, nu doar într-o singură sesiune. Acest progres, în special, reprezintă progresul nostru pe drumul către o identitate digitală reutilizabilă.

Veriff este recunoscut pentru acoperirea sa globală în prevenirea fraudei. Ce face tehnologia Veriff să iasă în evidență într-un spațiu atât de competitiv?

Soluția Veriff oferă viteză și confort, fiind de 30 de ori mai precisă și de 6 ori mai rapidă decât ofertele concurente. Avem cea mai mare bază de date de specimene de documente de identitate din industria IDV / Know Your Customer (KYC). Putem verifica oameni împotriva a 11.500 de documente de identitate emise de guverne din peste 230 de țări și teritorii, în 48 de limbi diferite. În plus, acest confort și reducerea fricțiunii permit organizațiilor să convertească mai mulți utilizatori, să reducă frauda și să se conformeze reglementărilor. De asemenea, avem o rată de automatizare de 91% și 95% dintre utilizatorii reali sunt verificați cu succes la prima încercare.

Veriff a fost una dintre primele companii IDV care a obținut certificarea Cyber Essentials. Cyber Essentials este un standard guvernamental eficient care protejează împotriva celor mai comune atacuri cibernetice. Obținerea acestui certificat demonstrează că Veriff ia în serios securitatea cibernetică și a luat măsuri pentru a proteja datele și sistemele sale. Acest realizare este un testament al angajamentului companiei de a proteja securitatea cibernetică și al dedicării noastre de a proteja datele clienților noștri. Recent, am finalizat evaluarea ISO / IEC 30107-3 iBeta Level 2 Compliance pentru detectarea pasivă a biometriei, o validare externă independentă care solidifică faptul că soluția Veriff îndeplinește cel mai înalt standard de securitate biometrică.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Veriff.