Entretiens

Omer Bachar, co-fondateur et PDG de Vetric – Série d’entretiens

Antoine Tardif
Ajouter Unite.AI à vos sources préférées sur Google
Points clésL'amorçage a contraint Vetric à prioriser la fiabilité de l'infrastructure plutôt…
Voir plus
  • L'amorçage a contraint Vetric à prioriser la fiabilité de l'infrastructure plutôt qu'une expansion à tout prix.
  • Les modèles de détection sont inutiles sans une infrastructure de données publiques évolutive pour leur fournir des menaces en temps réel.
  • Le Deepfake-as-a-Service est déjà banalisé au niveau gratuit avec des outils open source.

Omer Bachar, co-fondateur et PDG de Vetric, est un entrepreneur israélien et un leader technologique axé sur l’intelligence ouverte (OSINT) qui a bâti sa carrière autour de la résolution de défis complexes de données et d’intelligence. Avant de fonder Vetric en 2022, Bachar a développé et monétisé plusieurs entreprises web en tant qu’adolescent, acquérant de l’expérience dans le développement web, le référencement, la monétisation du trafic et les opérations numériques évolutives. Il a ensuite servi dans les forces de défense israéliennes, où il a aidé à moderniser les opérations de la police militaire grâce à l’automatisation, à l’IA, à l’extraction de données et aux méthodes agiles tout en dirigeant des équipes et des initiatives de produits. Après un démarrage précédent ayant échoué et une période de recherche intensive en Thaïlande avec ses co-fondateurs, Bachar a lancé Vetric en se concentrant sur les infrastructures plutôt que sur le financement par capital-risque, faisant grandir l’entreprise de manière autonome tout en servant des organisations qui dépendent d’un accès évolutif aux données du web public. Son travail se concentre sur le WEBINT, l’OSINT, la collecte de données et l’intelligence des menaces numériques, en particulier dans les domaines impliquant l’usurpation d’identité, la fraude et les risques liés aux deepfakes.

Vetric est une entreprise d’infrastructures de données qui aide les organisations à collecter, à traiter et à exploiter les données du web public à grande échelle. L’entreprise se positionne comme une couche d’infrastructure de confiance pour les équipes de confiance, de sécurité, de cybersécurité et d’intelligence qui ont besoin d’un accès fiable et en temps réel aux informations du web ouvert. Plutôt que de créer une plate-forme axée sur le consommateur, Vetric se concentre sur les API gérées et les pipelines de données flexibles conçus pour simplifier la collecte de données publiques à grande échelle dans des environnements en ligne en constante évolution. L’entreprise a mis l’accent sur une approche « données pour le bien » en soutenant les organisations qui travaillent pour identifier les campagnes d’usurpation d’identité, les deepfakes, les arnaques et d’autres menaces numériques. Selon l’entreprise, elle est passée d’une petite équipe de fondateurs à une opération en expansion rapide qui dessert plus de 100 organisations dans le monde entier, tout en restant concentrée sur les infrastructures évolutives et la fiabilité opérationnelle.

Vous avez commencé à construire des entreprises sur Internet alors que vous étiez adolescent, puis vous avez travaillé sur la modernisation de la police militaire israélienne avec des outils d’IA et d’OSINT, et vous avez finalement co-fondé Vetric.io après avoir passé des mois à rechercher des problèmes en Thaïlande. Comment ces expériences ont-elles façonné votre conviction que les infrastructures de données, et non seulement les modèles de détection, deviendraient le véritable champ de bataille dans la lutte contre les deepfakes et l’usurpation d’identité numérique ?

Le fil conducteur de tous ces chapitres est le même : chaque problème que je pensais être un problème de détection s’est avéré être un problème de données un niveau plus bas.

En tant qu’adolescent découvrant des vulnérabilités, la partie difficile n’était jamais l’exploit — c’était la construction de l’infrastructure pour trouver les cibles appropriées à grande échelle. Dans la police militaire, l’OSINT était la faille que personne ne travaillait. Les criminels laissaient des preuves partout sur le web ouvert, en plein sight, et nous avions presque aucun moyen systématique de les atteindre. Puis en Thaïlande, nous avons passé des mois à discuter avec des agences de défense, des équipes de renseignement sur les menaces, des fournisseurs de protection de marque, des équipes de fraude. Même modèle partout. Tout le monde voulait des informations.

C’est alors que cela a cliqué. Les modèles de détection ne sont que aussi bons que les données que vous leur fournissez. Si vous ne pouvez pas voir le deepfake au moment où il apparaît sur le web ouvert, votre détecteur est sans importance. Le champ de bataille n’est pas de savoir si votre modèle peut repérer un visage synthétique dans un benchmark — c’est de savoir si vous avez une visibilité sur la surface où l’attaque vit vraiment. Les infrastructures de données publiques sont la partie que personne ne veut construire parce que c’est difficile et peu glamour, mais sans elles, le reste de la pile est du théâtre.

Vous avez soutenu que le problème des deepfakes a fondamentalement changé au cours des 18 derniers mois. Quels sont les changements technologiques spécifiques qui rendent les fraudes générées par l’IA d’aujourd’hui plus dangereuses que les précédentes vagues d’attaques d’usurpation d’identité et de scams ?

Trois choses ont changé en même temps, et la combinaison est ce qui rend cela différent.

Premièrement, les modèles multimodaux sont devenus suffisamment bons pour générer des vidéos, des voix et des textes convaincants à partir de la même invite en quelques minutes. Ce qui nécessitait autrefois une petite équipe et quelques semaines prend maintenant une personne et un café.

Deuxièmement, le coût a baissé à travers le plancher. Un clone de voix de haute qualité d’une personnalité publique nécessitait autrefois un budget important de GPU. Aujourd’hui, cela fonctionne sur du matériel grand public ou sur un abonnement SaaS de 20 dollars par mois. Le coût n’est plus un obstacle.

Troisièmement — et c’est la partie sous-estimée — la couche de distribution a rattrapé. Les faux ne se trouvent plus sur un forum obscur en attendant d’être découverts. Ils vivent sur le web ouvert, dans les mêmes sources publiques que vos clients et employés consomment des dizaines de fois par jour, souvent avec une amplification payante au-dessus. Une vidéo fabriquée se déplace exactement aussi vite que n’importe quoi d’autre sur l’internet public.

Dans les précédentes vagues, un attaquant devait choisir entre la qualité, la vitesse, l’échelle et la portée. Maintenant, il peut avoir les quatre pour moins de 100 dollars. L’asymétrie entre ce que coûte la fabrication d’une usurpation convaincante et ce que coûte à une entreprise de détecter, d’attribuer et de répondre à cela est plus large qu’elle ne l’a jamais été. C’est le changement.

La plupart des discussions publiques autour des deepfakes se concentrent encore sur les logiciels de détection. Pourquoi pensez-vous que les infrastructures de données publiques fiables et à grande échelle sont maintenant tout aussi importantes que les modèles d’IA eux-mêmes ?

Parce qu’un détecteur qui ne peut pas voir la menace est un projet de recherche, et non une défense.

La plupart de la conversation autour des deepfakes se concentre sur la capacité du modèle à distinguer un visage synthétique d’un visage réel dans un benchmark contrôlé. C’est le minimum requis. Le problème opérationnel est le plus dur : une vidéo d’usurpation de marque est mise en ligne à 3 heures du matin, accumule 200 000 vues avant que quiconque ne s’en aperçoive, et votre pipeline de détection doit réellement recevoir ce contenu en temps réel, l’attribuer et déclencher une réponse. Si vous n’avez pas un moyen stable et évolutif d’ingérer des données publiques du web ouvert — les endroits où l’usurpation et la fraude se déroulent vraiment — vous n’avez rien à exécuter sur votre détecteur.

Il y a un point connexe que nous avons récemment souligné dans un article sur la faille de la chaîne d’approvisionnement d’Anodot. Les entreprises commencent à réaliser que la posture de sécurité de leurs fournisseurs de données est leur propre posture de sécurité. La même prise de conscience est en train d’arriver pour l’IA : la fiabilité de votre pile de détection est la fiabilité de votre pipeline de données. Les modèles font les gros titres. Les infrastructures font le travail. Traiter ces deux comme des lignes budgétaires séparées est une erreur que le marché est sur le point de cesser de faire.

Vetric a grandi à une échelle significative sans financement externe tout en servant des entreprises et des organisations liées à l’intelligence. Comment le fait d’être autofinancé a-t-il influencé la façon dont vous avez construit l’entreprise et donné la priorité à la fiabilité des infrastructures par rapport à l’expansion à tout prix ?

Le autofinancement impose une sorte d’obsession client que les entreprises financées peuvent éviter pendant longtemps. Nous croyons toujours à donner de la valeur avant de grandir rapidement — et pour nous, ce n’est pas un slogan, c’est une réalité financière.

Chaque dollar dans notre compte bancaire est un dollar que le client a choisi de nous donner en échange de quelque chose qui fonctionne. Nous n’avons pas un coussin de 50 millions de dollars pour combler l’écart entre un produit qui fonctionne presque et un produit qui fonctionne.

Cela change chaque décision que prend l’entreprise. Cela a façonné notre architecture autant que notre feuille de route. Nos clients, les agences de renseignement, les équipes de protection des risques numériques, les équipes de sécurité publique, les plateformes de renseignement sur les menaces, ne veulent pas seulement un produit qui fonctionne.

C’est aussi pourquoi nous avons dessiné la limite de confiance de la manière dont nous l’avons fait. Nous poussons les données vers les clients ; nous ne tirons jamais de données à partir d’eux. Nous n’avons pas de informations d’identification à long terme dans le cloud d’un client. Lorsque les clients veulent une livraison dans leur propre AWS, nous utilisons des rôles IAM à écriture uniquement avec des ID externes – le modèle recommandé par AWS spécifiquement conçu pour prévenir le type de faille de fournisseur en tant que vecteur d’attaque qui vient de toucher les clients d’Anodot.

Les plateformes de deepfakes en tant que service réduisent les barrières à l’entrée pour les attaquants. Sommes-nous en train d’approcher un point où les capacités de fraude très sophistiquées deviennent entièrement commercialisées et accessibles à presque tout le monde ?

Nous y sommes déjà pour les capacités de base — et pas seulement au niveau payant, mais également au niveau gratuit. Nous sommes à 12 à 18 mois des plus sophistiquées. Regardez ce qui est actuellement disponible. Des modèles comme Sora génèrent des vidéos convaincantes à partir d’une invite de texte. Les projets de permutation de visage open source sur GitHub prendront n’importe quelle image de référence et placeront ce visage dans une vidéo, et les résultats sont vraiment bons — sans compétence spécialisée requise, sans paiement, sans marché clandestin.

La barrière à la production d’un faux de haute qualité est un téléchargement gratuit et un après-midi d’expérimentation. Il existe également des services payants qui entourent un workflow clé dans les mains des mêmes types de modèles pour les personnes qui ne veulent pas installer quoi que ce soit, mais le niveau open source est l’histoire réelle, car c’est celui que vous ne pouvez pas mettre hors prix. La personne qui l’exploite n’a pas besoin de comprendre la technologie sous-jacente plus que quelqu’un qui exécute un kit de phishing n’a besoin de comprendre SMTP.

Ce qui vient ensuite, c’est le niveau des kits de campagne prêts à l’emploi — des kits d’usurpation prêts à l’emploi pour des marques spécifiques, des dirigeants spécifiques, des cycles électoraux spécifiques, avec les médias synthétiques, les faux comptes, l’horaire de distribution et la cible tous emballés ensemble. Une fois que cela existe à grande échelle, le coût marginal de l’exécution d’une attaque d’usurpation d’identité tombe à peu près au coût de l’exécution d’une publicité payante. L’implication pour les défenseurs est inconfortable. Vous ne pouvez plus supposer que l’attaquant est sophistiqué ou bien financé. L’attaquant est n’importe qui avec un ordinateur portable et un grief. Cela change le volume et la variété des menaces d’un ordre de grandeur, et cela redéfinit ce que signifie « menace crédible » pour n’importe quelle marque, dirigeant ou personnalité publique avec une présence sur Internet.

De nombreuses entreprises dépendent encore de systèmes de surveillance fragmentés et d’une intelligence sur les menaces retardée. Quels sont les plus grands points faibles que vous voyez dans la façon dont les organisations collectent et traitent actuellement les données du web public liées à l’usurpation d’identité et à la fraude ?

Plusieurs points faibles continuent de se manifester à travers les conversations avec les clients. Le premier est la fragmentation. La plupart des entreprises exécutent un outil pour la surveillance de la marque, un autre pour la protection des dirigeants, un autre pour la fraude, un autre pour les opérations de sécurité. Chacun tire de sources différentes avec une couverture, une latence et des angles morts différents.

Lorsqu’une campagne d’usurpation d’identité se brise à travers plusieurs coins du web ouvert en même temps, les coutures entre ces outils sont exactement où l’attaquant se cache. Et sous cette fragmentation, il y a un problème plus profond : la plupart de ces outils optimisent pour la prise. Retirer le faux profil est nécessaire, mais à lui seul, c’est du whac-a-mole — un autre apparaît le lendemain. Les équipes qui obtiennent un véritable avantage sont celles qui doublent l’enquête : relier les points entre les comptes, les infrastructures et les campagnes, afin de démanteler le réseau derrière l’usurpation d’identité plutôt que de frapper un URL à la fois.

Le deuxième est la dépendance à l’égard des intergiciels qui nécessitent un accès profond aux systèmes des clients. C’est le problème structurel que nous avons écrit à propos de la faille d’Anodot — les fournisseurs qui nécessitent OAuth ou des clés API dans le cloud d’un client deviennent des points de défaillance uniques pour tout le monde en aval. Le SOC 2 ne vous sauvera pas de cela. L’architecture a soit la zone d’effet, soit elle ne l’a pas.

Le troisième est la latence. Beaucoup de ce qui est vendu comme « intelligence sur les menaces en temps réel » est en réalité retardé de quatre à vingt-quatre heures parce que la collecte sous-jacente est orientée par lots. Pour l’usurpation d’identité et la fraude, c’est une éternité. Une fois que l’alerte se déclenche, la campagne a déjà eu lieu.

Le quatrième est la mauvaise allocation entre la couverture de détection et les capacités d’analyse. Les entreprises investissent dans des outils qui signalent du contenu synthétique ou suspect, mais elles sous-investissent dans la couverture pour réellement voir ce qui est publié à leur sujet à travers le web ouvert, et dans les capacités d’analyse pour donner un sens à ce qu’ils voient — qui se cache derrière, comment les comptes se connectent, quelle infrastructure partagée. Le signalement est une étape ; la couverture et l’analyse sont ce qui transforme un signal en action. C’est comme acheter une excellente alarme incendie et oublier de la brancher.

Vous avez parlé de la gestion de milliards de points de données publics chaque mois. Quels sont les défis techniques qui émergent lors de la construction d’infrastructures en temps réel capables d’identifier les menaces impulsées par l’IA à l’échelle de l’internet ?

Les problèmes difficiles ne sont pas ceux que les gens attendent. La première chose à dire est que construire ce type d’infrastructure n’est pas la partie difficile — la maintenir est. Vous ne construisez pas une pipeline comme la nôtre une fois et vous vous en allez. Vous avez besoin d’une équipe entière dont le travail est de la garder en vie, et c’est l’équipe que nous avons construite. Les sources publiques que nous collectons changent constamment, et n’importe laquelle d’entre elles peut silencieusement casser un collecteur. La plupart des efforts d’ingénierie au cours de la durée de vie d’un produit comme celui-ci vont dans la maintenance, et non dans le développement à partir de zéro.

Le deuxième est que la mise à l’échelle est un tapis roulant. Vous améliorez le pipeline, vous le poussez plus fort, et à un moment donné, l’échelle devient trop importante pour ce que vous avez construit et les choses commencent à trembler. Alors vous reconstruisez cette couche — parfois à partir de zéro — pour le prochain niveau. Ce cycle ne s’arrête jamais vraiment. Chaque ordre de grandeur en volume est effectivement un système différent, même s’il ressemble au même produit de l’extérieur.

Le troisième est le temps d’activité, ce qui peut sembler ennuyeux jusqu’à ce que vous vous souveniez de qui sont nos clients. Certains d’entre eux utilisent nos données pour aider à prévenir les attaques terroristes. Le temps réel signifie que vous n’avez pas de période de grâce. Les choses vont se casser — elles le font toujours — et ce qui compte, c’est qu’elles soient opérationnelles le reste du temps et corrigées aussi rapidement que possible lorsqu’elles ne le sont pas. Nous avons conçu la posture d’appel, l’alerte et la redondance autour de cette réalité, et non autour d’un nombre générique de disponibilité SaaS.

À mesure que les médias synthétiques deviennent plus convaincants, pensez-vous que la société est en train de s’orienter vers une crise de confiance plus large où les gens commencent à douter des communications audio, vidéo et légitimes par défaut ?

Plus proche que les gens ne veulent l’admettre. Mais je ne pense pas que cela se termine par un effondrement — je pense que cela se termine par un autre équilibre.

La version naïve de la crise de confiance dit : personne ne croira en aucun audio ou vidéo, et la sphère publique s’effondrera. Je ne pense pas que c’est là que cela mène. Les humains sont remarquablement adaptables aux environnements épistémiques. Nous avons appris à lire les journaux avec scepticisme, puis la télévision, puis le web. Nous apprendrons à lire les médias générés par l’IA avec scepticisme également, et ce n’est pas entièrement une mauvaise issue — un niveau de base plus sain de « vérifier avant de faire confiance » est en retard.

Ce que je pense que nous allons voir, c’est un déplacement de ce qui compte comme preuve. Les vidéos et les audios bruts deviendront des formes de preuve plus faibles ; la provenance, la signature cryptographique, la chaîne de possession et la vérification d’identité deviendront des formes de preuve plus fortes. Les institutions qui parviennent à vérifier de manière crédible leurs propres communications — les banques, les gouvernements, les organisations de presse — tireront leur épingle du jeu. Ceux qui ne le font pas seront impersonnalisés jusqu’à l’irrélevance.

La période dangereuse est la moyenne, les deux à trois prochaines années, où les faux deviennent plus convaincants plus rapidement que la couche de vérification ne se déploie. C’est la fenêtre où les dommages sont faits, et c’est la fenêtre que nous essayons de donner à nos clients la visibilité pour survivre.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Vetric. 

Antoine est un dirigeant visionnaire et associé fondateur d’Unite.AI, animé par une passion inébranlable pour façonner et promouvoir l’avenir de l’IA et de la robotique. Entrepreneur ayant créé plusieurs entreprises, il estime que l’IA transformera la société autant que l’électricité et parle souvent avec enthousiasme du potentiel des technologies de rupture et de l’intelligence artificielle générale (AGI).

En tant que prospectiviste, il se consacre à l’étude de la manière dont ces innovations façonneront notre monde. Il est également le fondateur de Securities.io, une plateforme consacrée à l’investissement dans les technologies de pointe qui redéfinissent l’avenir et transforment des secteurs entiers.