Jonathan Dambrot, PDG et co-fondateur de Cranium AI – Série d’entretiens

Jonathan Dambrot est le PDG et co-fondateur de Cranium AI, une entreprise qui aide les équipes de cybersécurité et de science des données à comprendre tous les endroits où l’IA a un impact sur leurs systèmes, leurs données ou leurs services.

Jonathan est un ancien associé de KPMG, un leader de l’industrie de la cybersécurité et un visionnaire. Avant KPMG, il a dirigé Prevalent pour en faire un leader de l’industrie de la gestion des risques tiers selon Gartner et Forrester, avant sa vente à Insight Venture Partners à la fin de 2016. En 2019, Jonathan a transmis le rôle de PDG de Prevalent alors que l’entreprise cherchait à poursuivre sa croissance sous une nouvelle direction. Il a été cité dans de nombreuses publications et s’adresse régulièrement à des groupes de clients sur les tendances en matière de TI, de sécurité de l’information et de conformité.

Pouvez-vous partager l’histoire de la création de Cranium AI ?

J’ai eu l’idée de Cranium autour de juin 2021, alors que j’étais associé chez KPMG et que je dirigeais les services de sécurité des tiers au niveau mondial. Nous construisions et livrions des solutions alimentées par l’IA pour certains de nos plus grands clients, et j’ai constaté que nous ne faisions rien pour les protéger contre les menaces adverses. J’ai donc posé la même question aux dirigeants de la cybersécurité de nos plus grands clients, et les réponses que j’ai obtenues étaient tout aussi terribles. De nombreux équipes de sécurité n’avaient jamais même parlé aux data scientists – ils parlaient des langages complètement différents lorsqu’il s’agissait de technologie et n’avaient finalement aucune visibilité sur l’IA qui fonctionnait à travers l’entreprise. Tout cela, combiné au développement réglementaire en constante augmentation, a déclenché la création d’une plate-forme capable de fournir une sécurité à l’IA. Nous avons commencé à travailler avec l’incubateur KPMG Studio et avons fait appel à certains de nos plus grands clients en tant que partenaires de conception pour guider le développement afin de répondre aux besoins de ces grandes entreprises. En janvier de cette année, Syn Ventures est intervenu pour compléter le financement des débuts, et nous nous sommes séparés de KPMG en mars et sommes sortis de la clandestinité en avril 2023.

Qu’est-ce que la carte Cranium AI et quels sont les principaux éléments qu’elle révèle ?

La carte Cranium AI permet aux organisations de rassembler et de partager efficacement des informations sur la fiabilité et la conformité de leurs modèles d’IA avec les clients et les régulateurs, et d’obtenir une visibilité sur la sécurité des systèmes d’IA de leurs fournisseurs. En fin de compte, nous visons à fournir aux équipes de sécurité et de conformité la capacité de visualiser et de surveiller la sécurité de l’IA dans leur chaîne d’approvisionnement, d’aligner leurs propres systèmes d’IA sur les exigences et les cadres de conformité actuels et à venir, et de partager facilement que leurs systèmes d’IA sont sécurisés et fiables.

Quels sont certains des problèmes de confiance que les gens ont avec l’IA et qui sont résolus avec cette solution ?

Les gens veulent généralement savoir ce qui se cache derrière l’IA qu’ils utilisent, surtout maintenant que de plus en plus de leurs flux de travail quotidiens sont touchés d’une manière ou d’une autre par l’IA. Nous visons à fournir à nos clients la capacité de répondre aux questions qu’ils recevront bientôt de la part de leurs propres clients, telles que « Comment est-ce géré ? », « Qu’est-ce qui est fait pour sécuriser les données et les modèles ? », et « Ces informations ont-elles été validées ? ». La carte d’IA donne aux organisations un moyen rapide de répondre à ces questions et de démontrer à la fois la transparence et la fiabilité de leurs systèmes d’IA.

En octobre 2022, le Bureau de la politique scientifique et technologique de la Maison Blanche (OSTP) a publié un plan directeur pour une facture de droits de l’IA, qui a partagé une feuille de route non contraignante pour une utilisation responsable de l’IA. Pouvez-vous discuter de vos vues personnelles sur les avantages et les inconvénients de ce projet de loi ?

Alors que c’est extrêmement important que la Maison Blanche ait fait ce premier pas pour définir les principes directeurs d’une utilisation responsable de l’IA, nous ne croyons pas qu’elle est allée suffisamment loin pour fournir des conseils aux organisations et pas seulement aux individus inquiets d’un recours à une décision basée sur l’IA. Les orientations réglementaires futures devraient ne pas être seulement pour les fournisseurs de systèmes d’IA, mais également pour les utilisateurs afin qu’ils puissent comprendre et utiliser cette technologie de manière sûre et sécurisée. En fin de compte, le principal avantage est que les systèmes d’IA seront plus sûrs, plus inclusifs et plus transparents. Cependant, sans un cadre fondé sur les risques pour que les organisations se préparent aux réglementations futures, il y a un risque de ralentir le rythme de l’innovation, en particulier dans les circonstances où répondre aux exigences de transparence et d’explicabilité est techniquement infeasible.

Comment Cranium AI aide-t-il les entreprises à se conformer à cette loi sur les droits de l’IA ?

Cranium Entreprise aide les entreprises à développer et à livrer des systèmes sûrs et sécurisés, ce qui constitue le premier principe clé de la loi sur les droits de l’IA. De plus, la carte d’IA aide les organisations à répondre au principe de notification et d’explication en leur permettant de partager des détails sur la façon dont leurs systèmes d’IA fonctionnent réellement et quelles données ils utilisent.

Qu’est-ce que le cadre de gestion des risques liés à l’IA du NIST, et comment Cranium AI aidera-t-il les entreprises à remplir leurs obligations de conformité à ce cadre ?

Le cadre de gestion des risques liés à l’IA du NIST est un cadre pour les organisations afin de mieux gérer les risques pour les individus, les organisations et la société associés à l’IA. Il suit une structure très similaire à leurs autres cadres en décrivant les résultats d’un programme de gestion des risques réussi pour l’IA. Nous avons cartographié notre carte d’IA sur les objectifs définis dans le cadre pour aider les organisations à suivre la façon dont leurs systèmes d’IA sont alignés sur le cadre, et étant donné que notre plate-forme d’entreprise collecte déjà beaucoup de ces informations, nous pouvons automatiquement remplir et valider certains des champs.

Le règlement de l’UE sur l’IA est l’une des législations les plus monumentales que nous ayons vues récemment, pourquoi les entreprises non européennes devraient-elles s’y conformer ?

De même que le RGPD pour la confidentialité des données, le règlement de l’UE sur l’IA va fondamentalement changer la façon dont les entreprises mondiales développent et exploitent leurs systèmes d’IA. Les organisations basées en dehors de l’UE devront également prêter attention aux exigences et s’y conformer, car tout système d’IA qui utilise ou affecte des citoyens européens relèvera des exigences, quelle que soit la juridiction de l’entreprise.

Comment Cranium AI se prépare-t-il au règlement de l’UE sur l’IA ?

Chez Cranium, nous suivons le développement du règlement de l’UE sur l’IA depuis le début et avons conçu notre offre de produit Carte d’IA pour aider les entreprises à répondre aux exigences de conformité. Nous pensons que nous avons une bonne longueur d’avance étant donné notre connaissance précoce du règlement de l’UE sur l’IA et de son évolution au fil des ans.

Pourquoi l’IA responsable devrait-elle devenir une priorité pour les entreprises ?

La vitesse à laquelle l’IA est intégrée dans chaque processus métier et chaque fonction signifie que les choses peuvent rapidement échapper à tout contrôle si cela n’est pas fait de manière responsable. Donner la priorité à l’IA responsable dès maintenant, au début de la révolution de l’IA, permettra aux entreprises de se développer de manière plus efficace et d’éviter les gros obstacles et les problèmes de conformité plus tard.

Quelle est votre vision pour l’avenir de Cranium AI ?

Nous voyons Cranium devenir le véritable roi de la catégorie pour l’IA sécurisée et fiable. Même si nous ne pouvons pas résoudre tout problème, comme les défis complexes que représentent l’utilisation éthique et l’explicabilité, nous visons à nous associer à des leaders dans d’autres domaines de l’IA responsable pour créer un écosystème qui permettra à nos clients de couvrir tous les aspects de l’IA responsable. Nous visons également à w pour travailler avec les développeurs de solutions d’IA générative innovantes pour soutenir la sécurité et la confiance de ces capacités. Nous voulons que Cranium permette aux entreprises du monde entier de continuer à innover de manière sécurisée et fiable.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Cranium AI.