Chris Joynt, Directeur du Marketing de Produit chez Securiti AI – Série d’entretiens

Chris Joynt, Directeur du Marketing de Produit chez Securiti AI, a passé plus de 15 ans à travailler dans les données et l’IA, portant de nombreux chapeaux, de la vente aux solutions et maintenant au marketing de produit. Cette expérience approfondie éclaire son point de vue sur le moment actuel de l’IA. Son parcours comprend la vente de Big Data avec IBM, la croissance d’un startup AutoML avant de se lancer dans l’IA dans les plateformes de données IoT et de streaming. Chris défend maintenant la sécurité et la gouvernance de l’IA chez Securiti AI. 

Un vétéran des “grandes guerres des données”, Chris aime rendre les technologies complexes compréhensibles et précieuses en transformant des concepts complexes en histoires convaincantes. Au-delà de la technologie, il est un père dévoué et entraîne à la fois le Muay Thai et le football.

Dans mon parcours à travers les grandes guerres des données, j’ai développé un principe de base que j’applique à la technologie, et qui fonctionne presque toujours. C’est-à-dire que, chaque fois qu’une nouvelle innovation émerge qui semble être la solution que nous espérions, elle ne nous donne pas automatiquement le résultat que nous espérons. Elle résout un problème clé, oui, mais ensuite, alors que nous nous précipitons pour adopter cette technologie, nous découvrons tous que le “dur” s’est déplacé ailleurs.

Par exemple, lorsque Hadoop et NoSQL sont arrivés, les organisations pouvaient stocker de grandes quantités de données non structurées. Mais ensuite, tout le monde a découvert que le “dur” s’était déplacé du stockage de grandes quantités de données à “comment allons-nous construire des applications et des outils qui peuvent utiliser ces données ?” Lorsque l’AutoML a rendu la construction de modèles plus accessible, le “dur” est devenu la représentation correcte d’un problème commercial avec des données structurées, et ainsi de suite.

Actuellement, la technologie de l’IA est incroyablement chaude et pour bonne raison – elle a un potentiel de transformation énorme. Mais le nouveau “dur” est de savoir comment mettre en place les contrôles appropriés pour que je puisse exploiter mes données propriétaires en toute sécurité ? Si l’IA peut parcourir chaque fichier en un instant, comment puis-je m’assurer que je n’expose pas de données sensibles ? Securiti AI a commencé à construire la solution bien avant que quiconque d’autre ne se rende compte que le “dur” de l’IA d’entreprise serait l’opérationnalisation de l’intelligence et de la sécurité des données et de l’IA.

Pour les lecteurs qui ne connaissent peut-être pas Securiti AI, comment décririez-vous l’objectif principal de l’entreprise en matière de confiance, de risque et de sécurité de l’IA (TRiSM), et pourquoi cette catégorie devient-elle si critique ?

TRiSM, ou Trust, Risk, and Security Management. L’IA est une classe de technologie si puissante qui promet des récompenses énormes, mais qui comporte également des risques. Les problèmes de conformité, les dommages à la réputation, les fuites de données ou les vulnérabilités de cybersécurité peuvent complètement dérailler l’élan de l’IA. TRiSM consiste à traiter ces risques de manière proactive pour accélérer l’adoption de l’IA de manière sécurisée et durable en développant une capacité stratégique pour contrôler les systèmes d’IA et établir la confiance. La confiance est ce qui impulse l’adoption de l’IA. Ce qui est génial dans le modèle TRiSM, c’est qu’il s’agit d’un modèle en couches où les capacités fondamentales sont ensuite construites.

TRiSM prescrit la gouvernance de l’information comme fondation soutenant la couche de garde-fous en temps réel et, en fin de compte, la visibilité et la gouvernance. Securiti AI se cartographie très clairement sur ce modèle et soutient le TRiSM de l’IA avec une approche en couches qui donne la priorité à la gouvernance de l’information et à la sécurité des données, ce qui à son tour permet à nos garde-fous en temps réel d’être plus efficaces. Nos garde-fous en temps réel aident à créer de la visibilité pour la couche de gouvernance, où nous pouvons tester ces contrôles contre des cadres réglementaires et des meilleures pratiques, afin que nous puissions nous assurer que les données sont en sécurité.

L’approche de Securiti AI en matière de TRiSM améliore la posture de sécurité, réduit le risque de fuite de données sensibles, protège la réputation de la marque et le propriété intellectuelle, permet une meilleure compréhension de l’utilisation de l’IA et permet une réutilisation sécurisée des actifs d’IA.

Les transactions de fusions et acquisitions exposent les organisations à des risques de données massifs. Comment la plateforme de Securiti aide-t-elle spécifiquement les entreprises à détecter et à neutraliser ces risques avant, pendant et après l’intégration ?

Securiti AI scanne et cartographie automatiquement les données à travers les deux entités fusionnées, identifiant les informations sensibles, les “données sombres” cachées et les ensembles de données redondants ou à risque. Cette visibilité permet aux organisations de détecter les problèmes tôt, d’appliquer des contrôles d’accès aux données et de minimiser les passifs liés aux données après la transaction de fusion et acquisition.

En automatisant la découverte et la classification, Securiti AI s’assure que les données redondantes, obsolètes et triviales (ROT) sont traitées et que tous les biens intellectuels critiques, les données personnelles réglementées et les données qui présentent un risque important pour la confidentialité ou la sécurité sont protégés. Le résultat est une transition plus rapide, plus sûre et plus conforme à travers chaque phase de la transaction.

Securiti parle souvent d’activer une “équipe de transition de gouvernance”. Comment la technologie de l’entreprise soutient-elle la collaboration entre les équipes IT, juridiques et de conformité dans ces scénarios à haute pression ?

Le centre de commandement de données et d’IA de Securiti AI crée une source unique de vérité pour les données et les risques, de sorte que les équipes IT, juridiques et de conformité ne travaillent pas à partir de tableurs et d’hypothèses déconnectés. La visualisation des relations entre les données, les utilisateurs, les systèmes et les politiques sous forme de flux de données aide à développer une compréhension plus intuitive des risques et fournit un langage commun à ces parties prenantes. Avoir une plateforme unique à partir de laquelle je peux voir les risques, affiner et appliquer les politiques, et pousser les mesures correctives dans mes systèmes de données permet aux équipes transversales d’être très efficaces.

Quel rôle l’IA joue-t-elle dans les solutions de Securiti, notamment dans des domaines tels que la cartographie des données sensibles, l’automatisation des contrôles d’identité ou la détection des risques de conformité ?

L’IA est au cœur de la manière dont nous opérationnalisons l’intelligence et la sécurité des données. Le centre de commandement de données et d’IA découvre et classe automatiquement les données sensibles à l’aide de l’IA. Cela donne à nos clients la confiance que aucune donnée sensible ne se cache dans des fichiers que nous n’avons pas trouvés. Nos pare-feu d’IA (ou garde-fous) utilisent également l’IA pour détecter les données sensibles, le contenu nocif ou les instructions malveillantes dans les invites et les réponses qui pourraient compromettre la conformité, tandis que notre pare-feu de récupération applique les contrôles d’accès aux données contre les données sources, même lorsque l’IA interroge au nom d’un utilisateur.

L’utilisation de l’IA aide nos clients à élargir leur gouvernance des données et des systèmes d’IA, en s’assurant qu’ils restent en contrôle à mesure que leurs environnements deviennent de plus en plus complexes.

De nombreuses entreprises ont du mal avec des données redondantes, obsolètes et triviales (ROT). Comment Securiti aide-t-elle les organisations à réduire leur empreinte de données tout en améliorant leur posture de sécurité et en réduisant les coûts ?

Les données ROT sont une bombe à retardement qui augmente les coûts de stockage, crée des risques de conformité et élargit la surface d’attaque. Avec le centre de commandement de données et d’IA de Securiti AI, les organisations peuvent découvrir automatiquement les données et les données natives dans les environnements multicloud et SaaS, centraliser l’inventaire et signaler les fichiers redondants ou obsolètes en fonction de l’âge, de l’activité ou de la duplication. Securiti AI classe ensuite les données sensibles pour identifier les violations de rétention et appliquer des politiques de remédiation automatisées pour supprimer ou mettre en quarantaine les données ROT de manière sécurisée. Ce niveau d’automatisation réduit les coûts, renforce la conformité avec les réglementations mondiales comme le RGPD et la CPRA, et réduit la surface d’attaque.

Qu’est-ce qui différencie Securiti AI des autres acteurs dans l’espace de la sécurité et de la gouvernance, notamment lorsque les entreprises évaluent les solutions TRiSM ?

Contrairement aux outils qui traitent des fragments du problème de sécurité et de gouvernance des données et de l’IA, Securiti AI unifie la sécurité des données, la confidentialité, la conformité et la gouvernance de l’IA dans une seule plateforme. Notre centre de commandement de données et d’IA, alimenté par la technologie de graphique, donne aux entreprises une vue connectée de leurs données, risques, habilitations et activité d’IA à travers les environnements hybrides.

Ceci nous permet de faire trois choses qui nous distinguent. Premièrement, nous fournissons une intelligence de base en découvrant les modèles, en classifiant automatiquement les données sensibles, en préservant les autorisations au niveau du fichier et en cartographiant l’ensemble de l’actif de données et d’IA. Deuxièmement, nous offrons des protections d’IA en temps réel, en surveillant les invites, la récupération, les inférences et les sorties pour bloquer les fuites, l’empoisonnement et d’autres attaques. Troisièmement, nous offrons une visibilité et un contrôle descendants, en testant continuellement les actifs de données et d’IA contre les cadres réglementaires et en automatisant les rapports de conformité.

Le résultat est une solution TRiSM holistique qui ne protège pas seulement les entreprises des risques de l’IA, mais qui accélère également le déploiement sécurisé à grande échelle. Les clients nous disent que la portée de la couverture, l’automatisation et l’utilisabilité à travers les équipes de sécurité, de conformité et commerciales sont ce qui distingue Securiti AI.

Le rythme du changement réglementaire s’accélère dans le monde entier. Comment Securiti aide-t-elle les clients à rester à la pointe des nouvelles exigences de conformité lors de transactions complexes ?

Le centre de commandement de données et d’IA de Securiti AI cartographie continuellement les données aux obligations réglementaires à travers les juridictions mondiales et nationales américaines, de sorte que les entreprises puissent voir exactement où les lacunes de conformité pourraient survenir. Lors d’événements à haute pression tels que les fusions et acquisitions, nous automatisons les contrôles et les rapports pour aider les clients à rester alignés sur les lois en évolution sans ralentir l’accord.

En dehors des fusions et acquisitions, où les clients utilisent-ils les solutions de sécurité d’IA de Securiti aujourd’hui, par exemple dans les migrations de cloud, les cessions ou la gouvernance des modèles d’IA ?

Les clients utilisent nos solutions de sécurité d’IA pour détecter l’IA fantôme, cartographier l’utilisation des données et de l’IA, déployer des assistants d’IA d’entreprise sensibles aux autorisations, curer des ensembles de données purifiés pour la formation et l’ajustement, sécuriser les vulnérabilités du système RAG, appliquer des garde-fous pour protéger les données sensibles et les utilisateurs, prévenir les injections de invites et d’autres attaques, et générer des rapports pour la gestion des risques et de la conformité.

En regardant vers l’avenir, où voyez-vous Securiti AI positionnée dans les trois à cinq prochaines années, et comment l’entreprise façonne-t-elle l’avenir de la confiance et de la sécurité des données ?

Securiti AI est très bien positionnée actuellement. L’IA continuera à s’intégrer et à s’imbriquer plus profondément dans les processus et les expériences. La capacité de protéger les utilisateurs et les données et de s’assurer que l’IA peut être confiée sera une capacité stratégique. L’intelligence contextuelle que Securiti AI extrait par le biais de la classification et de la cartographie graphique deviendra de plus en plus précieuse à mesure que les agents d’IA gagneront en autonomie, en pouvoir de décision et en accès à des outils et des données. Je crois que dans trois à cinq ans, les systèmes multi-agents seront capables de lbe able to tackle complex processes, but their success will hinge upon the ability of the organization deploying them to manage data context with sophisticated access controls and guardrails to deliver trust in those systems. Thank you for the great interview, readers who wish to learn more should visit Securiti AI.