Mike Capps, Co-fondateur et PDG de Diveplane – Série d’entretiens

Le Dr Michael Capps est un technologue bien connu et PDG de la société Diveplane. Avant de co-fonder Diveplane, Mike a eu une carrière légendaire dans l’industrie du jeu vidéo en tant que président d’Epic Games, créateur de blockbusters tels que Fortnite et Gears of War. Son mandat a inclus une centaine de prix du jeu de l’année, des dizaines de discours de conférence, un prix de réalisation de toute une vie et une défense réussie de la liberté d’expression des jeux vidéo devant la Cour suprême des États-Unis.

Diveplane propose des solutions métier alimentées par l’IA à travers plusieurs secteurs. Avec six brevets approuvés et de nombreux brevets en attente, l’IA compréhensible de Diveplane offre une compréhension et une transparence totales des décisions pour soutenir les politiques d’IA éthiques et les stratégies de confidentialité des données.

Vous avez réussi à vous retirer d’une carrière réussie dans l’industrie du jeu vidéo chez Epic Games, qu’est-ce qui vous a inspiré pour sortir de la retraite et vous concentrer sur l’IA ?

Créer des jeux était amusant, mais – à l’époque – ce n’était pas une carrière idéale lorsque l’on a une nouvelle famille. J’ai occupé des postes de conseil et des rôles de conseiller, mais cela n’était pas gratifiant. J’ai donc dressé une liste de trois problèmes majeurs auxquels le monde est confronté et que je pourrais avoir un impact – et cela comprenait la prolifération des systèmes d’IA « boîte noire ». Mon plan était de passer un an à creuser chacun d’eux, mais quelques semaines plus tard, mon ami brillant Chris Hazard m’a dit qu’il avait travaillé secrètement sur une plate-forme d’IA transparente et entièrement explicative. Et voilà !

Diveplane a été créé avec pour mission d’apporter de l’humanité à l’IA, pouvez-vous expliquer ce que cela signifie spécifiquement ?

Bien sûr. Ici, nous utilisons le terme « humanité » pour signifier « humanité » ou « compassion ». Pour vous assurer que le meilleur de l’humanité est dans votre modèle d’IA, vous ne pouvez pas simplement le former, le tester un peu et espérer que tout se passera bien.

Nous devons examiner soigneusement les données d’entrée, le modèle lui-même et la sortie de ce modèle, et nous assurer qu’il reflète le meilleur de notre humanité. La plupart des systèmes formés sur des données historiques ou du monde réel ne seront pas corrects dès le départ, et ils ne sont pas nécessairement sans biais non plus. Nous croyons que la seule façon d’éliminer les biais dans un modèle – c’est-à-dire à la fois les erreurs statistiques et les préjugés – est la combinaison de la transparence, de la traçabilité et de l’explication compréhensible par l’homme.

La technologie principale de Diveplane s’appelle REACTOR, qu’est-ce qui fait de cette approche une approche novatrice pour rendre l’apprentissage automatique explicite ?

L’apprentissage automatique consiste généralement à utiliser des données pour construire un modèle qui prend une décision particulière. Les décisions peuvent inclure l’angle pour tourner les roues d’un véhicule, décider si l’on doit approuver ou rejeter un achat ou le marquer comme une fraude, ou quel produit recommander à quelqu’un. Si vous voulez apprendre comment le modèle a pris la décision, vous devez généralement lui poser de nombreuses questions similaires, puis essayer à nouveau de prédire ce que le modèle lui-même pourrait faire. Les techniques d’apprentissage automatique sont soit limitées dans les types d’informations qu’elles peuvent offrir, soit par le fait que les informations réellement offertes reflètent ce que le modèle a fait pour prendre la décision, soit par une précision inférieure.

Travailler avec REACTOR est tout à fait différent. REACTOR caractérise l’incertitude de vos données, et vos données deviennent le modèle. Au lieu de construire un modèle par type de décision, vous demandez simplement à REACTOR ce que vous aimeriez qu’il décide – cela peut être n’importe quoi lié aux données – et REACTOR interroge les données nécessaires pour une décision donnée. REACTOR peut toujours vous montrer les données qu’il a utilisées, comment elles sont liées à la réponse, tous les aspects de l’incertitude, le raisonnement contre-factuel et pratiquement n’importe quelle autre question que vous aimeriez poser. Puisque les données sont le modèle, vous pouvez éditer les données et REACTOR sera mis à jour instantanément. Il peut vous montrer si des données anormales ont été utilisées pour prendre la décision et suivre chaque édition des données et de leur source.

REACTOR peut faire tout cela tout en maintenant une précision très compétitive, en particulier pour les petits et les ensembles de données épars.

GEMINAI est un produit qui crée un jumeau numérique d’un ensemble de données, qu’est-ce que cela signifie spécifiquement et comment cela garantit la confidentialité des données ?

Lorsque vous alimentez GEMINAI avec un ensemble de données, il acquiert une connaissance approfondie de la forme statistique de ces données. Vous pouvez l’utiliser pour créer un jumeau synthétique qui ressemble à la structure des données d’origine, mais tous les enregistrements sont nouvellement créés. Mais la forme statistique est la même. Par exemple, la fréquence cardiaque moyenne des patients dans les deux ensembles serait presque la même, tout comme toutes les autres statistiques. Ainsi, toute analyse de données utilisant le jumeau donnerait la même réponse que les originaux, y compris la formation de modèles d’apprentissage automatique.

Et si quelqu’un a un enregistrement dans les données d’origine, il n’y aurait pas d’enregistrement pour lui dans le jumeau synthétique. Nous ne supprimons pas seulement le nom – nous nous assurons qu’il n’y a pas de nouvel enregistrement qui soit « proche » de son enregistrement (et de tous les autres) dans l’espace d’information. C’est-à-dire qu’il n’y a pas d’enregistrement qui soit reconnaissable à la fois dans l’original et dans l’ensemble synthétique.

Et cela signifie que l’ensemble de données synthétiques peut être partagé beaucoup plus librement sans risque de partager des informations confidentielles de manière incorrecte. Peu importe si cela concerne des transactions financières personnelles, des informations de santé des patients, des données classifiées – tant que les statistiques des données ne sont pas confidentielles, le jumeau synthétique n’est pas confidentiel.

Pourquoi GEMINAI est-il une meilleure solution que l’utilisation de la confidentialité différentielle ?

La confidentialité différentielle est un ensemble de techniques qui limitent la probabilité qu’un individu influence les statistiques plus que de manière marginale, et c’est un élément fondamental dans presque toute solution de confidentialité des données. Cependant, lorsque la confidentialité différentielle est utilisée seule, un budget de confidentialité pour les données doit être géré, avec suffisamment de bruit ajouté à chaque requête. Une fois que ce budget est utilisé, les données ne peuvent plus être utilisées sans risque pour la confidentialité.

Une façon de surmonter ce budget est d’appliquer le budget de confidentialité complet à une seule fois pour former un modèle d’apprentissage automatique pour générer des données synthétiques. L’idée est que ce modèle, formé en utilisant la confidentialité différentielle, peut être utilisé de manière relativement sûre. Cependant, l’application correcte de la confidentialité différentielle peut être difficile, en particulier si les volumes de données diffèrent pour les différents individus et les relations plus complexes, telles que les personnes vivant dans la même maison. Et les données synthétiques produites à partir de ce modèle sont souvent susceptibles d’inclure, par hasard, des données réelles qu’un individu pourrait revendiquer comme les siennes parce qu’elles sont trop similaires.

GEMINAI résout ces problèmes et plus encore en combinant plusieurs techniques de confidentialité lors de la synthèse des données. Il utilise une forme pratique de confidentialité différentielle qui peut accueillir une grande variété de types de données. Il est basé sur notre moteur REACTOR, il connaît donc également la probabilité que les pièces de données puissent être confondues les unes avec les autres, et synthétise les données en s’assurant qu’elles sont toujours suffisamment différentes des données d’origine les plus similaires. De plus, il traite chaque champ, chaque pièce de données comme potentiellement sensible ou identifiable, il applique donc des formes pratiques de confidentialité différentielle pour les champs qui ne sont pas traditionnellement considérés comme sensibles mais pourraient identifier de manière unique un individu, comme la seule transaction dans un magasin ouvert 24 heures sur 24 entre 2h et 3h du matin. Nous appelons cela « cross-shredding » de la confidentialité.

GEMINAI est capable d’atteindre une précision élevée pour presque tout usage, qui ressemble aux données d’origine, mais empêche quiconque de trouver des données synthétiques trop similaires aux données synthétiques.

Diveplane a joué un rôle instrumental dans la cofondation de l’Alliance des données et de la confiance, qu’est-ce que cette alliance ?

C’est un groupe absolument fantastique de PDG de technologie, collaborant pour développer et adopter des pratiques de données et d’IA responsables. Des organisations de classe mondiale comme IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) et Diveplane. Nous sommes très fiers d’avoir été partie prenante des premières étapes et également fiers du travail que nous avons collectivement accompli sur nos initiatives.

Diveplane a récemment levé un cycle de financement de série A réussi, qu’est-ce que cela signifiera pour l’avenir de l’entreprise ?

Nous avons eu la chance d’être réussis avec nos projets d’entreprise, mais il est difficile de changer le monde un entreprise à la fois. Nous allons utiliser ce soutien pour construire notre équipe, partager notre message et mettre l’IA compréhensible partout où nous le pouvons !

Y a-t-il autre chose que vous aimeriez partager sur Diveplane ?

Diveplane est tout sur le fait de s’assurer que l’IA est faite correctement à mesure qu’elle se généralise. Nous sommes pour une IA équitable, transparente et compréhensible, en montrant proactivement ce qui détermine les décisions, et en s’éloignant de la « mentalité de la boîte noire » dans l’IA qui a le potentiel d’être injuste, contraire à l’éthique et biaisée. Nous croyons que l’explicabilité est l’avenir de l’IA, et nous sommes excités de jouer un rôle charnière dans la conduite de celle-ci !

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Diveplane.