Kaarel Kotkas, PDG et fondateur de Veriff – Série d’entretiens

Kaarel Kotkas est le PDG et fondateur de Veriff et sert de penseur stratégique et de visionnaire derrière l’entreprise. Il dirige l’équipe de Veriff pour rester en tête de la fraude et de la concurrence dans le domaine en constante évolution de l’identification en ligne. Connus pour son énergie et son enthousiasme, Kotkas encourage l’équipe à maintenir l’intégrité dans le monde numérique. En 2023, il a été reconnu dans l’EU Forbes 30 Under 30, et en 2020, il a été nommé l’entrepreneur de l’année par EY en Estonie. Le Nordic Business Report l’a également inclus parmi les 25 jeunes entrepreneurs les plus influents d’Europe du Nord.

Veriff est une entreprise de vérification d’identité mondiale qui aide les entreprises en ligne à réduire la fraude et à se conformer aux réglementations. En utilisant l’IA, Veriff vérifie automatiquement les identités en analysant divers indicateurs technologiques et comportementaux, notamment la reconnaissance faciale.

Qu’est-ce qui vous a inspiré à fonder Veriff, et quels défis avez-vous rencontrés en construisant une plateforme de prévention de la fraude alimentée par l’IA ?

Ma motivation pour Veriff est venue après avoir été témoin de la facilité avec laquelle les gens en ligne pouvaient prétendre être quelqu’un d’autre. Lorsque j’ai acheté une corde biodégradable sur eBay pour la ferme de ma famille à l’âge de 14 ans, j’ai facilement contourné les restrictions d’âge de PayPal (PYPL ) en modifiant mon année de naissance sur une copie de mon document d’identité à l’aide de Photoshop.

J’ai continué à voir le problème des utilisateurs en ligne se faisant passer pour quelqu’un d’autre pour passer les contrôles d’âge et d’autres mesures de sécurité. C’est à cause de ces expériences que j’ai eu l’idée de Veriff.

En ce qui concerne les défis, un an après la fondation de l’entreprise, nous avons donné à notre équipe le week-end de congé. C’était le même jour où nous avons effectué une correction de bogue, ce qui a entraîné une interruption totale de nos capacités de surveillance. Nous n’avons pas remarqué que notre service s’éteignait jusqu’au samedi matin. Le lundi matin, j’ai dû rencontrer en personne notre plus grand client, qui avait perdu des milliers de dollars de revenus. J’ai été transparent dans cette réunion, en expliquant les erreurs de notre part. Nous nous sommes serré la main et sommes retournés au travail. Ce que j’ai appris de cela, c’est qu’en tant que fondateur et dirigeant d’entreprise, nous devons nous attendre à des défis et nous y préparer. De plus, la transparence est essentielle pour établir la confiance. Enfin, démontrer une histoire de surmontage de défis peut être plus précieux, car cela montre que vous pouvez résoudre avec succès des problèmes et que vous êtes résilient.

Les deepfakes devenant de plus en plus sophistiqués, en particulier dans les contextes politiques, quels sont les risques les plus importants qu’ils posent aux élections et à la démocratie ?

Cette saison électorale, l’intégrité du processus de vote est menacée. L’IA peut analyser de vastes quantités de données pour identifier les préférences et les tendances des électeurs, permettant ainsi aux campagnes de personnaliser les messages et de cibler les électeurs avec des messages qui leur tiennent le plus à cœur. Les acteurs malveillants sont bien équipés pour créer de fausses narrations sur les candidats qui réalisent des actes qu’ils n’ont jamais faits ou qui font des déclarations qu’ils n’ont jamais prononcées, ce qui endommage leur réputation et trompe les électeurs.

Jusqu’à présent, nous avons vu des deepfakes de célébrités qui soutiennent des candidats à la présidence et un appel automatique faux de Biden. Même si la technologie existe pour aider à distinguer le contenu généré par l’IA du contenu réel, elle n’est pas viable pour une mise en œuvre à grande échelle. Avec les enjeux élevés et la crédibilité des élections en jeu, il faut faire quelque chose pour préserver la confiance du public. La croissance future de l’économie numérique et sa lutte contre la fraude numérique tournent autour d’identités prouvées et de comptes en ligne authentiques et vérifiés.

Les deepfakes peuvent manipuler non seulement les images, mais également les voix. Pensez-vous qu’un medium est plus dangereux que l’autre lorsqu’il s’agit de tromper les électeurs ?

En général, notamment dans le contexte américain des élections, les deux devraient être traités comme des menaces égales pour la démocratie. Notre rapport le plus récent Veriff Fraud Index 2024 : Partie 2 a constaté que 74 % des répondants aux États-Unis s’inquiètent de l’impact de l’IA et des deepfakes sur les élections.

L’évolution de l’IA a accru la menace pour la sécurité, non seulement aux États-Unis, mais dans le monde entier, lors de ces élections. Que ce soit des images de deepfakes, des voix générées par l’IA dans des appels automatiques pour influencer l’opinion des électeurs, ou des vidéos factices de candidats, ils provoquent tous deux des inquiétudes justifiées.

Regardons le tableau plus large. Lorsqu’il y a de nombreux points de données disponibles, il est plus facile d’évaluer le « niveau de menace ». Une seule image ne suffit peut-être pas pour déterminer si elle est frauduleuse, mais une vidéo fournit plus d’indices, en particulier si elle comporte de l’audio. L’ajout de détails tels que le dispositif utilisé, l’emplacement ou qui a enregistré la vidéo augmente la confiance dans son authenticité. Les fraudeurs essaient toujours de limiter la portée des informations, car cela les aide à manipuler. Je considère les appels automatiques comme plus dangereux que les deepfakes, car créer un faux audio est plus facile que générer des vidéos de haute qualité. De plus, l’utilisation des LLM permet d’ajuster le faux audio pendant les appels, ce qui le rend encore plus convaincant.

Étant donné les élections à venir, qu’est-ce que les gouvernements et les commissions électorales devraient être les plus préoccupés en ce qui concerne la désinformation alimentée par l’IA ?

Les gouvernements et les commissions électorales doivent comprendre la portée potentielle des capacités de deepfakes, y compris à quel point ces instances de fraude sont devenues sophistiquées et convaincantes. Les deepfakes sont particulièrement efficaces lorsqu’ils sont déployés contre les entreprises ayant des processus de gestion d’identité disjointes et incohérents et une mauvaise cybersécurité, ce qui rend encore plus critique la mise en œuvre de mesures de sécurité robustes ou d’une approche en couches de sécurité.

Cependant, il n’y a pas de solution universelle, donc une approche coordonnée et multiforme est clé. Cela pourrait inclure des vérifications robustes et complètes des documents d’identité affirmés, un contre-IA pour identifier la manipulation des images entrantes, en particulier en ce qui concerne le vote à distance, et, ce qui est le plus important, identifier les créateurs de deepfakes et de contenu frauduleux à la source. La responsabilité de la vérification des votes incombe aux gouvernements et aux commissions électorales, ainsi qu’aux fournisseurs de technologie et d’identité.

Quel rôle l’IA et les technologies de vérification d’identité comme Veriff peuvent-elles jouer pour contrer l’impact des deepfakes sur les élections et les campagnes politiques ?

L’IA est une menace et une opportunité. Près de 78 % des décideurs américains ont constaté une augmentation de l’utilisation de l’IA dans les attaques frauduleuses au cours de la dernière année. En revanche, près de 79 % des PDG utilisent l’IA et le ML dans la prévention de la fraude. À une époque où la fraude est en augmentation, les stratégies de prévention de la fraude doivent être holistiques – aucun outil unique ne peut combattre une telle menace multiforme. Cependant, l’IA et la vérification d’identité peuvent doter les entreprises et les utilisateurs d’une pile multiforme qui intègre la biométrie, la vérification d’identité, le crosslinking et d’autres solutions pour devancer les fraudeurs.

Chez Veriff, nous utilisons notre propre technologie alimentée par l’IA pour construire nos capacités de détection de deepfakes. Cela signifie que nos outils s’améliorent à partir des apprentissages lorsque nous voyons un deepfake. Prendre de grandes quantités de données et rechercher des modèles qui se sont produits auparavant pour déterminer les résultats futurs repose à la fois sur des technologies automatisées et sur la connaissance et l’intelligence humaines. Les humains ont une meilleure compréhension du contexte, en identifiant les anomalies pour créer une boucle de rétroaction qui peut être utilisée pour améliorer les modèles d’IA. Combiner différentes perspectives et expertises pour créer une approche globale de vérification d’identité et de détection de deepfakes a permis à Veriff et à ses clients de rester en tête de la courbe.

Comment les entreprises et les particuliers peuvent-ils mieux se protéger contre l’influence des deepfakes et de la désinformation alimentée par l’IA ?

Se protéger contre l’influence des deepfakes et de la désinformation alimentée par l’IA commence par l’éducation et la conscience des capacités étendues de l’IA, couplées à des identités prouvées et à des comptes en ligne authentiques et vérifiés. Pour déterminer si vous pouvez faire confiance à une source, vous devez regarder la cause plutôt que les symptômes. Nous devons affronter le problème à sa source, là où et par qui ces deepfakes et ressources frauduleuses sont générés.

Les consommateurs et les entreprises doivent uniquement faire confiance aux informations provenant de sources vérifiées, telles que des utilisateurs de plateformes de réseaux sociaux vérifiés et des diffuseurs d’actualités bien crédités. En outre, l’utilisation de sites de vérification des faits et la recherche d’anomalies visuelles dans les clips audio ou vidéo – mouvements non naturels, éclairage étrange, flou ou synchronisation des lèvres non synchronisée – ne sont que quelques-unes des façons dont les entreprises peuvent se protéger contre les deepfakes.

Pensez-vous qu’il y a suffisamment de sensibilisation du public aux dangers des deepfakes ? Si ce n’est pas le cas, quelles mesures devraient être prises pour améliorer la compréhension ?

Nous sommes encore dans la phase de sensibilisation croissante à l’IA et à l’éducation des gens sur son potentiel.

Selon le Veriff Fraud Index 2024 : Partie 2, plus d’un quart (28 %) des répondants ont subi une certaine forme de fraude générée par l’IA ou de deepfake au cours de la dernière année, un résultat frappant pour une technologie émergente et une indication de la nature croissante de cette menace. Ce qui est plus important, ce chiffre pourrait en réalité être beaucoup plus élevé, car 20 % disent ne pas savoir s’ils ont été ciblés ou non. Compte tenu de la nature sophistiquée des tentatives de fraude générées par l’IA, il est très probable que de nombreux répondants aient été ciblés sans le savoir.

Les individus doivent être prudents lorsqu’ils rencontrent des e-mails ou des appels téléphoniques suspects provenant de sources inconnues. Les demandes d’informations sensibles ou d’argent doivent toujours être accueillies avec scepticisme, et il est crucial de faire confiance à vos instincts et de demander des éclaircissements si quelque chose ne semble pas correct.

Quel rôle les organismes de réglementation peuvent-ils jouer dans la lutte contre la désinformation générée par l’IA, et comment peuvent-ils collaborer avec des entreprises comme Veriff ?

Étant donné l’étendue à laquelle la technologie de deepfake a été utilisée pour tromper le public et amplifier les efforts de désinformation, et avec les élections américaines toujours en cours, il est encore à voir quelle sera l’impact de cette technologie sur ces élections ainsi que sur la société dans son ensemble. Cependant, les organismes de réglementation prennent des mesures pour atténuer les menaces de la technologie de deepfake.

Une grande partie de la responsabilité d’atténuer l’impact de la désinformation repose sur les propriétaires des plateformes que nous utilisons le plus souvent. Par exemple, les principales sociétés de réseaux sociaux doivent prendre plus de responsabilités en prenant des mesures et en mettant en œuvre des mesures robustes pour détecter et prévenir les attaques frauduleuses et protéger les utilisateurs contre les informations trompeuses nocives.

Comment voyez-vous l’évolution de la technologie de Veriff au cours des prochaines années pour rester en tête des fraudeurs, en particulier dans le contexte des élections ?

Dans notre monde numérique en constante évolution, l’avenir de l’Internet repose sur la capacité des utilisateurs en ligne à prouver qui ils sont ; ainsi, les entreprises et les utilisateurs peuvent interagir les uns avec les autres avec confiance. Chez Veriff, la confiance est synonyme de vérification. Nous visons à nous assurer que les environnements numériques favorisent un sentiment de sécurité et de sûreté pour l’utilisateur final. Cela nécessitera que la technologie évolue pour relever les défis d’aujourd’hui, et nous voyons déjà cela avec l’acceptation plus large de la reconnaissance faciale et de la biométrie. Les données montrent que les consommateurs considèrent la reconnaissance faciale et la biométrie comme la méthode la plus sécurisée pour se connecter à un service en ligne.

En regardant vers l’avenir, nous imaginons cette tendance se poursuivant et un avenir où, au lieu que les utilisateurs entrent et réentrent constamment leurs informations d’identification lorsqu’ils effectuent différentes tâches en ligne, ils ont une « identité réutilisable » qui représente leur persona sur le Web.

Pour nous rapprocher de notre objectif, nous avons récemment mis à jour notre solution d’authentification biométrique pour améliorer la précision et l’expérience utilisateur, et pour renforcer la sécurité pour une garantie d’identité plus forte. Ces derniers progrès de la technologie biométrique ont permis à notre technologie de s’adapter au comportement individuel de l’utilisateur, assurant ainsi l’authentification de l’utilisateur et non seulement pendant une session. Ce progrès, en particulier, représente un progrès sur notre parcours vers une identité numérique réutilisable.

Veriff est reconnu pour sa portée mondiale dans la prévention de la fraude. Qu’est-ce qui rend la technologie de Veriff exceptionnelle dans un espace aussi compétitif ?

La solution de Veriff offre rapidité et commodité, car elle est 30 fois plus précise et 6 fois plus rapide que les offres concurrentes. Nous disposons de la plus grande base de données de spécimens de documents d’identité dans l’industrie de la vérification d’identité (IDV) / Connaître votre client (KYC). Nous pouvons vérifier les personnes contre 11 500 documents d’identité délivrés par le gouvernement de plus de 230 pays et territoires, dans 48 langues différentes. De plus, cette commodité et cette réduction de la friction permettent aux organisations de convertir plus d’utilisateurs, d’atténuer la fraude et de se conformer aux réglementations. Nous avons également un taux d’automatisation de 91 % et 95 % des utilisateurs légitimes sont vérifiés avec succès à leur première tentative.

Veriff a été l’une des premières sociétés de vérification d’identité à obtenir la certification Cyber Essentials. Cyber Essentials est une norme gouvernementale efficace qui protège contre les attaques de cybernétique les plus courantes. L’obtention de cette certification démontre que Veriff prend au sérieux la cybersécurité et a pris des mesures pour protéger ses données et ses systèmes. Cette réalisation est un témoignage de l’engagement inébranlable de l’entreprise en faveur de la cybersécurité et de notre détermination à protéger les données de nos clients. Récemment, n, nous avons complété l’évaluation de conformité ISO/IEC 30107-3 iBeta Level 2 pour la détection de vivacité passive biométrique, une validation externe indépendante pour solidifier le fait que la solution de Veriff répond aux normes les plus élevées de sécurité biométrique.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Veriff.