Kaarel Kotkas, CEO e Fondatore di Veriff – Serie di Interviste

Kaarel Kotkas è il CEO e Fondatore di Veriff e svolge il ruolo di pensatore strategico e visionario dell’azienda. Lui guida il team di Veriff nel mantenere la leadership contro le frodi e la concorrenza nel campo in rapida evoluzione dell’identificazione online. Nota per la sua energia e il suo entusiasmo, Kotkas incoraggia il team a mantenere l’integrità nel mondo digitale. Nel 2023, è stato riconosciuto nella classifica EU Forbes 30 Under 30 e, nel 2020, è stato nominato EY Entrepreneur of the Year in Estonia. Il Nordic Business Report lo ha anche incluso tra i 25 giovani imprenditori più influenti del Nord Europa.

Veriff è un’azienda globale di verifica dell’identità che aiuta le aziende online a ridurre le frodi e a rispettare le normative. Utilizzando l’AI, Veriff verifica automaticamente le identità analizzando vari indicatori tecnologici e comportamentali, tra cui il riconoscimento facciale.

Cosa ti ha ispirato a fondare Veriff e quali sfide hai affrontato nella costruzione di una piattaforma di prevenzione delle frodi basata sull’AI?

La mia motivazione per Veriff è nata dopo aver visto di persona quanto fosse facile per le persone online fingere di essere qualcun altro. Quando ho comprato del filo biodegradabile su eBay per la fattoria della mia famiglia all’età di 14 anni, ho facilmente bypassato le restrizioni di età di PayPal (PYPL ) con un tocco di Photoshop per cambiare il mio anno di nascita sulla copia del mio documento di identità.

Ho continuato a vedere il problema degli utenti online che si fingevano qualcun altro per superare i controlli di età e altre misure di sicurezza. È stato a causa di queste esperienze che ho avuto l’idea per Veriff.

Per quanto riguarda le sfide, un anno dopo la fondazione dell’azienda, abbiamo dato al nostro team il weekend libero. Questo è stato lo stesso giorno in cui abbiamo fatto una correzione di bug, che ha portato a un’interruzione completa delle nostre capacità di monitoraggio. Non ci siamo accorti che il nostro servizio si stava spegnendo fino a sabato mattina. Lunedì mattina, ho dovuto incontrare di persona il nostro cliente più grande, che aveva perso migliaia di dollari in entrate. Sono stato trasparente in quel meeting, spiegando gli errori da parte nostra. Ci siamo stretti la mano e siamo tornati al lavoro. Quello che ho imparato da questo è che, come fondatore e leader aziendale, dobbiamo aspettarci e prepararci per le sfide. Inoltre, la trasparenza è fondamentale per costruire la fiducia. Infine, dimostrare una storia di superamento delle sfide può essere più prezioso perché mostra che si può affrontare con successo i problemi e che si è resilienti.

Con i deepfake che diventano sempre più sofisticati, soprattutto in ambito politico, quali sono i rischi più significativi che pongono alle elezioni e alla democrazia?

In questa stagione elettorale, l’integrità del processo di voto è in pericolo. L’AI può analizzare grandi quantità di dati per identificare le preferenze degli elettori e le tendenze, consentendo alle campagne di adattare i messaggi e di targetizzare gli elettori con messaggi di cui si preoccupano di più. Gli attori malintenzionati sono ben equipaggiati per creare false narrazioni di candidati che eseguono azioni che non hanno mai fatto o che fanno dichiarazioni che non hanno mai detto, danneggiando così la loro reputazione e ingannando gli elettori.

Fino ad ora, abbiamo visto deepfake di celebrità che sostengono candidati presidenziali e un falso messaggio vocale di Biden. Sebbene esista la tecnologia per aiutare a distinguere tra contenuti generati dall’AI e quelli reali, non è possibile implementarla su larga scala. Con le poste in gioco elevate e la credibilità delle elezioni in discussione, è necessario fare qualcosa per preservare la fiducia pubblica. La crescita futura dell’economia digitale e la sua lotta contro le frodi digitali si concentrano sull’identità provata e sui conti online autentici e verificati.

I deepfake possono manipolare non solo le immagini, ma anche le voci. Credi che un mezzo sia più pericoloso dell’altro quando si tratta di ingannare gli elettori?

In generale, soprattutto nel contesto statunitense delle elezioni, entrambi dovrebbero essere trattati come minacce alla democrazia. Il nostro rapporto più recente Veriff Fraud Index 2024: Parte 2 ha scoperto che il 74% dei rispondenti negli Stati Uniti è preoccupato per l’impatto dell’AI e dei deepfake sulle elezioni.

L’evoluzione dell’AI ha aumentato la minaccia per la sicurezza, non solo negli Stati Uniti, ma in tutto il mondo, durante le elezioni di quest’anno. Sia che si tratti di immagini deepfake, voci generate dall’AI in messaggi vocali che cercano di influenzare l’opinione degli elettori, o video falsi di candidati, entrambi provocano una giusta preoccupazione.

Guardiamo il quadro più ampio. Quando ci sono molti punti di dati disponibili, è più facile valutare il “livello di minaccia”. Un’immagine singola potrebbe non essere sufficiente per dire se è fraudolenta, ma un video fornisce più indizi, soprattutto se ha un audio. Aggiungere dettagli come il dispositivo utilizzato, la località o chi ha registrato il video aumenta la fiducia nella sua autenticità. I truffatori cercano sempre di limitare l’ambito delle informazioni perché è più facile manipolarle. Considero i messaggi vocali più pericolosi dei deepfake perché creare un audio falso è più facile che generare video falsi di alta qualità. Inoltre, utilizzare i LLM consente di adattare l’audio falso durante le chiamate, rendendolo ancora più convincente.

Considerate le elezioni imminenti, di cosa dovrebbero preoccuparsi maggiormente i governi e le commissioni elettorali riguardo alla disinformazione guidata dall’AI?

I governi e le commissioni elettorali devono capire la portata potenziale delle capacità dei deepfake, compreso quanto sofisticate e convincenti siano diventate queste istanze di frode. I deepfake sono particolarmente efficaci quando vengono utilizzati contro imprese con processi di gestione dell’identità disgiunti e inconsistenti e con una cattiva sicurezza informatica, rendendo ancora più critico implementare misure di sicurezza robuste o avere un approccio stratificato alla sicurezza.

Tuttavia, non esiste una soluzione universale, quindi un approccio coordinato e multifacético è fondamentale. Ciò potrebbe includere controlli robusti e completi sui documenti di identità affermati, contromisure AI per identificare la manipolazione delle immagini in entrata, soprattutto per quanto riguarda il voto a distanza, e, soprattutto, identificare i creatori di deepfake e contenuti fraudolenti alla fonte. La responsabilità di verificare i voti spetta ai governi e alle commissioni elettorali, nonché ai fornitori di tecnologia e identità.

Qual è il ruolo che l’AI e le tecnologie di verifica dell’identità come Veriff possono svolgere nel contrastare l’impatto dei deepfake sulle elezioni e le campagne politiche?

L’AI è una minaccia e un’opportunità. Quasi il 78% dei leader decisionali statunitensi ha visto un aumento nell’uso dell’AI negli attacchi fraudolenti nell’ultimo anno. D’altra parte, quasi il 79% dei CEO utilizza l’AI e il ML nella prevenzione delle frodi. In un momento in cui le frodi sono in aumento, le strategie di prevenzione delle frodi devono essere olistiche: nessuno strumento può combattere una minaccia così multiforme. Tuttavia, l’AI e la verifica dell’identità possono dotare le aziende e gli utenti di uno stack multilivello che include biometria, verifica dell’identità, crosslinking e altre soluzioni per stare un passo avanti rispetto ai truffatori.

In Veriff, utilizziamo la nostra tecnologia basata sull’AI per costruire le nostre capacità di rilevamento dei deepfake. Ciò significa che i nostri strumenti migliorano grazie alle conoscenze quando vediamo un deepfake. Utilizzare grandi quantità di dati e cercare modelli che sono apparsi in precedenza per determinare risultati futuri dipende sia da tecnologie automatizzate che da conoscenza e intelligenza umana. Gli esseri umani hanno una migliore comprensione del contesto, identificano anomalie per creare un ciclo di feedback che può essere utilizzato per migliorare i modelli AI. Combinare diverse conoscenze e competenze per creare un approccio globale alla verifica dell’identità e al rilevamento dei deepfake ha consentito a Veriff e ai suoi clienti di stare un passo avanti.

Come possono le aziende e gli individui proteggersi meglio dall’essere influenzati dai deepfake e dalla disinformazione guidata dall’AI?

Proteggere se stessi dall’essere influenzati dai deepfake e dalla disinformazione guidata dall’AI inizia con l’istruzione e la consapevolezza delle capacità estese dell’AI, associate a identità provate e conti online autentici e verificati. Per determinare se si può fidare di una fonte, è necessario guardare la causa e non i sintomi. Dobbiamo affrontare il problema alla fonte, dove e da chi vengono generati questi deepfake e risorse fraudolente.

I consumatori e le aziende devono fidarsi solo di informazioni da fonti verificate, come utenti di piattaforme social verificate e notizie da fonti accreditate. Inoltre, utilizzare siti di fact-checking e cercare anomalie visive in clip audio o video – movimenti innaturali, illuminazione strana, sfocatura o sincronizzazione labiale non corrispondente – sono solo alcuni dei modi in cui le aziende possono proteggersi dall’essere ingannate dalla tecnologia dei deepfake.

Pensi che ci sia sufficiente consapevolezza pubblica sui pericoli dei deepfake? Se no, quali passi dovrebbero essere intrapresi per migliorare la comprensione?

Siamo ancora nella fase di crescita della consapevolezza su AI e istruzione delle persone sul suo potenziale.

Secondo il Veriff Fraud Index 2024: Parte 2, oltre un quarto (28%) dei rispondenti ha subito qualche tipo di frode generata dall’AI o deepfake nell’ultimo anno, un risultato sorprendente per una tecnologia emergente e un indicatore della natura in crescita di questa minaccia. Quello che è più importante è che questo numero potrebbe essere effettivamente più alto, poiché il 20% afferma di non sapere se sono stati presi di mira o no. Data la natura sofisticata degli attacchi fraudolenti generati dall’AI, è molto probabile che molti rispondenti siano stati presi di mira senza saperlo.

Le persone dovrebbero essere caute quando incontrano email o chiamate telefoniche sospette da fonti sconosciute. Le richieste di informazioni sensibili o denaro dovrebbero essere sempre accolte con scetticismo e è cruciale fidarsi dell’istinto e cercare chiarezza se qualcosa sembra sbagliato.

Qual è il ruolo che gli organismi regolatori possono svolgere nella lotta contro la disinformazione generata dall’AI e come possono collaborare con aziende come Veriff?

Considerata la portata in cui la tecnologia dei deepfake è stata utilizzata per ingannare il pubblico e amplificare gli sforzi di disinformazione, e con le elezioni statunitensi ancora in corso, è ancora da vedere quale sarà l’impatto di questa tecnologia su quell’elezione e sulla società in generale. Tuttavia, gli organismi regolatori stanno prendendo misure per mitigare le minacce della tecnologia dei deepfake.

Una grande responsabilità per mitigare l’impatto della disinformazione ricade sui proprietari delle piattaforme che utilizziamo più frequentemente. Ad esempio, le principali aziende di social media devono assumersi maggiori responsabilità agendo e implementando misure robuste per rilevare e prevenire attacchi fraudolenti e proteggere gli utenti da informazioni dannose.

Come vedi l’evoluzione della tecnologia di Veriff nei prossimi anni per stare un passo avanti rispetto ai truffatori, in particolare nel contesto delle elezioni?

Nel nostro mondo digitalizzato, il futuro di Internet dipende dalla capacità degli utenti online di dimostrare chi sono; in questo modo, le aziende e gli utenti possono interagire con fiducia l’uno con l’altro. In Veriff, la fiducia è sinonimo di verifica. Ci impegniamo a garantire che gli ambienti digitali favoriscano un senso di sicurezza e sicurezza per l’utente finale. Questo obiettivo richiederà che la tecnologia si evolva per affrontare le sfide di oggi e stiamo già vedendo ciò con l’accettazione più ampia del riconoscimento facciale e della biometria. I dati mostrano che i consumatori considerano il riconoscimento facciale e la biometria come il metodo più sicuro per accedere a un servizio online.

Guardando avanti, prevediamo che questo trend continui e un futuro in cui, invece di inserire costantemente e reinserire le credenziali mentre si eseguono diverse attività online, gli utenti abbiano una “identità riutilizzabile” che rappresenti la loro persona in tutta la rete.

Per avvicinarci al nostro obiettivo, abbiamo recentemente aggiornato la nostra soluzione di Autenticazione Biometrica per migliorare l’accuratezza e l’esperienza utente e per rafforzare la sicurezza per una maggiore garanzia dell’identità. Questi ultimi progressi nella tecnologia biometrica hanno consentito alla nostra tecnologia di adattarsi ai comportamenti individuali degli utenti, garantendo l’autenticazione dell’utente e non solo durante una sessione. Questo progresso rappresenta un passo avanti nel nostro viaggio verso un’identità digitale riutilizzabile.

Veriff è riconosciuta per la sua portata globale nella prevenzione delle frodi. Cosa rende la tecnologia di Veriff unica in un settore così competitivo?

La soluzione di Veriff offre velocità e convenienza, essendo 30 volte più precisa e 6 volte più veloce delle offerte concorrenti. Abbiamo il più grande database di esemplari di documenti di identità nel settore IDV/Know Your Customer (KYC). Possiamo verificare le persone contro 11.500 documenti di identità emessi dal governo di più di 230 paesi e territori, in 48 lingue diverse. Inoltre, questa convenienza e la riduzione della frizione consentono alle organizzazioni di convertire più utenti, mitigare le frodi e rispettare le normative. Abbiamo anche un tasso di automazione del 91% e il 95% degli utenti genuini viene verificato con successo al primo tentativo.

Veriff è stata una delle prime aziende IDV a ottenere la certificazione Cyber Essentials. Cyber Essentials è uno standard governativo efficace che protegge contro gli attacchi informatici più comuni. Ottenere questa certificazione dimostra che Veriff prende seriamente la sicurezza informatica e ha adottato misure per proteggere i suoi dati e sistemi. Questo risultato è una testimonianza dell’impegno costante dell’azienda per la sicurezza informatica e della nostra dedizione alla protezione dei dati dei nostri clienti. Recentemente, y, we completed the ISO/IEC 30107-3 iBeta Level 2 Compliance evaluation for biometric passive liveness detection, an independent external validation to solidify that Veriff’s solution meets the highest standard of biometric security. Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Veriff.