Jonathan Dambrot, PDG et co-fondateur de Cranium AI - Série d'interviews

Jonathan Dambrot est le PDG et co-fondateur de IA du crâne, une entreprise qui aide les équipes de cybersécurité et de science des données à comprendre partout où l'IA a un impact sur leurs systèmes, leurs données ou leurs services.

Jonathan est un ancien associé de KPMG, leader de l'industrie de la cybersécurité et visionnaire. Avant KPMG, il a dirigé Prevalent pour devenir un leader de l'industrie Gartner et Forrester dans la gestion des risques de tiers avant sa vente à Insight Venture Partners fin 3. En 2016, Jonathan a transféré le rôle de PDG de Prevalent alors que l'entreprise cherche à poursuivre sa croissance sous une nouvelle direction. . Il a été cité dans un certain nombre de publications et s'adresse régulièrement à des groupes de clients concernant les tendances en matière d'informatique, de sécurité de l'information et de conformité.

Pourriez-vous partager l'histoire de la genèse de Cranium AI ?

J'ai eu l'idée de Cranium vers juin 2021 lorsque j'étais partenaire chez KPMG, leader mondial des services de sécurité tiers. Nous développions et fournissions des solutions basées sur l'IA pour certains de nos plus gros clients, et j'ai constaté que nous ne faisions rien pour les protéger contre les menaces adverses. J'ai donc posé la même question aux responsables de la cybersécurité de nos plus gros clients, et les réponses que j'ai obtenues étaient tout aussi horribles. De nombreuses équipes de sécurité n'avaient même jamais parlé aux scientifiques des données - ils parlaient des langues complètement différentes en matière de technologie et n'avaient finalement aucune visibilité sur l'IA en cours d'exécution dans l'entreprise. Tout cela, combiné à l'évolution constante de la réglementation, a été le déclencheur de la création d'une plate-forme qui pourrait assurer la sécurité de l'IA. Nous avons commencé à travailler avec l'incubateur KPMG Studio et avons fait appel à certains de nos plus gros clients en tant que partenaires de conception pour guider le développement afin de répondre aux besoins de ces grandes entreprises. En janvier de cette année, Syn Ventures est venu compléter le financement de démarrage, et nous nous sommes séparés de KPMG en mars et sommes sortis furtifs en avril 2023.

Qu'est-ce que la Cranium AI Card et quelles informations clés révèle-t-elle ?

La Cranium AI Card permet aux organisations de collecter et de partager efficacement des informations sur la fiabilité et la conformité de leurs modèles d'IA avec les clients et les régulateurs et de gagner en visibilité sur la sécurité des systèmes d'IA de leurs fournisseurs. En fin de compte, nous cherchons à fournir aux équipes de sécurité et de conformité la possibilité de visualiser et de surveiller la sécurité de l'IA dans leur chaîne d'approvisionnement, d'aligner leurs propres systèmes d'IA sur les exigences et les cadres de conformité actuels et à venir, et de partager facilement que leurs systèmes d'IA sont sécurisés. et digne de confiance.

Quels sont certains des problèmes de confiance que les gens ont avec l'IA qui sont résolus avec cette solution ?

Les gens veulent généralement savoir ce qui se cache derrière l'IA qu'ils utilisent, d'autant plus que de plus en plus de leurs flux de travail quotidiens sont impactés d'une manière ou d'une autre par l'IA. Nous cherchons à fournir à nos clients la possibilité de répondre aux questions qu'ils recevront bientôt de leurs propres clients, telles que « Comment cela est-il régi ? », « Qu'est-ce qui est fait pour sécuriser les données et les modèles ? » et « Est-ce que cette information a-t-elle été validée ? ». La carte AI offre aux organisations un moyen rapide de répondre à ces questions et de démontrer à la fois la transparence et la fiabilité de leurs systèmes d'IA.

En octobre 2022, le Bureau de la politique scientifique et technologique de la Maison Blanche (OSTP) a publié un plan pour une déclaration des droits de l'IA, qui a partagé une feuille de route non contraignante pour une utilisation responsable de l'IA. Pouvez-vous nous faire part de vos opinions personnelles sur les avantages et les inconvénients de ce projet de loi?

Bien qu'il soit extrêmement important que la Maison Blanche ait franchi cette première étape dans la définition des principes directeurs d'une IA responsable, nous ne pensons pas qu'elle soit allée assez loin pour fournir des conseils aux organisations et pas seulement aux individus inquiets de faire appel d'une décision basée sur l'IA. Les futures orientations réglementaires ne devraient pas seulement s'adresser aux fournisseurs de systèmes d'IA, mais également aux utilisateurs afin qu'ils puissent comprendre et exploiter cette technologie de manière sûre et sécurisée. En fin de compte, le principal avantage est que les systèmes d'IA seront plus sûrs, plus inclusifs et plus transparents. Cependant, sans un cadre basé sur les risques permettant aux organisations de se préparer à la future réglementation, il est possible de ralentir le rythme de l'innovation, en particulier dans des circonstances où il est techniquement impossible de répondre aux exigences de transparence et d'explicabilité.

Comment Cranium AI aide-t-il les entreprises à respecter cette déclaration des droits ?

Cranium Enterprise aide les entreprises à développer et à fournir des systèmes sûrs et sécurisés, ce qui est le premier principe clé de la Déclaration des droits. De plus, la carte AI aide les organisations à respecter le principe de notification et d'explication en leur permettant de partager des détails sur le fonctionnement réel de leurs systèmes d'IA et les données qu'ils utilisent.

Quelle est le Cadre de gestion des risques NIST AI, et comment Cranium AI aidera-t-il les entreprises à respecter leurs obligations de conformité en matière d'IA pour ce cadre ?

Le NIST AI RMF est un cadre permettant aux organisations de mieux gérer les risques pour les individus, les organisations et la société associés à l'IA. Il suit une structure très similaire à leurs autres cadres en décrivant les résultats d'un programme réussi de gestion des risques pour l'IA. Nous avons mappé notre carte d'IA sur les objectifs définis dans le cadre pour aider les organisations à suivre la façon dont leurs systèmes d'IA s'alignent sur le cadre et étant donné que notre plate-forme d'entreprise collecte déjà beaucoup de ces informations, nous pouvons remplir et valider automatiquement certains des champs .

Les Loi de l'UE sur l'IA est l'une des législations les plus monumentales sur l'IA que nous ayons vues dans l'histoire récente, pourquoi les entreprises non européennes devraient-elles s'y conformer ?

Semblable au GDPR pour la confidentialité des données, la loi sur l'IA changera fondamentalement la façon dont les entreprises mondiales développent et exploitent leurs systèmes d'IA. Les organisations basées en dehors de l'UE devront toujours prêter attention et se conformer aux exigences, car tout système d'IA qui utilise ou affecte les citoyens européens sera soumis aux exigences, quelle que soit la juridiction de l'entreprise.

Comment Cranium AI se prépare-t-il à la loi européenne sur l'IA ?

Chez Cranium, nous suivons l'évolution de la loi sur l'IA depuis le début et avons adapté la conception de notre offre de produits AI Card pour aider les entreprises à répondre aux exigences de conformité. Nous avons le sentiment d'avoir une bonne longueur d'avance compte tenu de notre connaissance très précoce de la loi sur l'IA et de son évolution au fil des ans.

Pourquoi devrais-je IA responsable devenir une priorité pour les entreprises ?

La vitesse à laquelle l'IA est intégrée dans chaque processus et fonction métier signifie que les choses peuvent rapidement devenir incontrôlables si elles ne sont pas effectuées de manière responsable. Donner la priorité à l'IA responsable maintenant au début de la révolution de l'IA permettra aux entreprises d'évoluer plus efficacement et de ne pas se heurter ultérieurement à des obstacles majeurs et à des problèmes de conformité.

Quelle est votre vision du futur de Cranium AI ?

Nous voyons Cranium devenir le véritable roi de la catégorie pour une IA sécurisée et digne de confiance. Bien que nous ne puissions pas tout résoudre, tels que des défis complexes tels que l'utilisation éthique et l'explicabilité, nous cherchons à nous associer à des leaders dans d'autres domaines de l'IA responsable pour piloter un écosystème permettant à nos clients de couvrir facilement tous les domaines de l'IA responsable. Nous cherchons également à travailler avec les développeurs de solutions innovantes d'IA générative pour soutenir la sécurité et la confiance de ces capacités. Nous voulons que Cranium permette aux entreprises du monde entier de continuer à innover de manière sécurisée et fiable.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus devraient visiter IA du crâne.