Rehan Jalil, PDG de Securiti – Série d’entretiens

Rehan Jalil est le PDG de Securiti.AI, conseiller d’investissement chez Mayfield Fund et investisseur et mentor de nombreuses startups de la Silicon Valley. Il a occupé le poste de vice-président et de directeur général de la sécurité cloud chez Symantec.

Securiti AI est une plateforme centralisée de niveau entreprise qui permet l’utilisation sécurisée des données et de l’IA, et est pionnière du Data+AI Command Center. Les entreprises s’appuient sur Securiti pour leur sécurité des données, leur confidentialité, leur gouvernance et leur conformité. Securiti a reçu de nombreux prix et distinctions de l’industrie et des analystes, et a récemment été reconnue par Gartner Peer Insights comme le choix des clients pour le DSPM, et par GigaOm comme le fournisseur le mieux noté pour le DSPM.

Pouvez-vous élaborer sur la vision derrière le Data Command Center de Securiti AI et sur la façon dont il se différencie des autres plateformes de gestion de données sur le marché ?

Notre vision pour le Data Command Center est simple : nous visons à permettre aux organisations d’exploiter pleinement leurs actifs de données sans compromettre la confidentialité, la sécurité ou la conformité. Cela est réalisé en analysant automatiquement le paysage de données d’une organisation (SaaS, IaaS, lacs de données et entrepôts de données, etc.) et en obtenant des informations granulaires sur toutes les informations sensibles et les systèmes d’IA. Ces informations, capturées dans un graphique de connaissance en temps réel unique, sont utilisées pour appliquer des contrôles de confidentialité et de sécurité et garantir la conformité avec les réglementations de données mondiales. Cette plateforme est particulièrement précieuse pour le développement de systèmes d’IA génératifs modernes, qui se nourrissent de données, en particulier des données non structurées. Historiquement, les organisations ont reposé sur une série d’outils fragmentés pour répondre à leurs obligations en matière de données, ce qui a été coûteux et complexe. La plateforme unifiée de Securiti augmente l’efficacité, réduit les coûts, atténue les risques et permet l’utilisation sécurisée des données et de l’IA.

Quels étaient les principaux défis que vous avez rencontrés lors du lancement de Securiti en 2019, et comment votre expérience chez Symantec a-t-elle façonné votre approche ?

L’un des défis que nous avons rencontrés lors du lancement de Securiti était de nous heurter à l’épidémie de Covid juste six mois après le lancement de l’entreprise. Au début du lancement d’une entreprise, obtenir des clients et des revenus est crucial. Nous avions une grande dynamique, y compris une traction clientèle précoce et la victoire du RSAC 2020 Most Innovative Startup. Une semaine après avoir remporté le prix RSA, le monde s’est arrêté et nous sommes entrés dans un climat économique incertain. Grâce à mon expérience chez Symantec et dans d’autres entreprises, j’étais très familiarisé avec le travail avec les plus grandes organisations mondiales sur leurs besoins de sécurité complexes. En tant qu’équipe, nous avions également traversé des récessions économiques dans le passé. Cette expérience nous a donné la confiance pour rester fidèles à notre stratégie, continuer à investir dans la résolution de problèmes réels auxquels sont confrontées les grandes entreprises, et attendre patiemment que les marchés retrouvent un état plus normal.

Comment Securiti AI assure-t-elle la sécurité des données sensibles dans des environnements multicloud hybrides ?

La sécurisation des données sensibles dans des environnements multicloud hybrides complexes nécessite une approche globale. Securiti utilise des technologies avancées pour découvrir et classer automatiquement les données à travers l’ensemble du paysage de données d’une organisation, telles que les SaaS, les IaaS, les lacs de données, les entrepôts de données et les systèmes sur site, y compris les données structurées et non structurées. Securiti enrichit ensuite ces informations avec des insights contextuels approfondis, en construisant un graphique de connaissance en temps réel, y compris à qui les données appartiennent, les droits d’accès, quelles réglementations s’appliquent, où les données sont situées, etc. Cette base est essentielle pour automatiser des contrôles précis pour protéger les informations sensibles et se conformer aux réglementations pertinentes. Par exemple, la plateforme automatise les obligations de confidentialité telles que la cartographie des données, les demandes de droits des personnes et les évaluations. Elle aborde également les obligations de sécurité des données telles que l’intelligence d’accès aux données, la gouvernance, la gestion de la posture de sécurité des données, la minimisation des données et la gestion des failles de sécurité. Actuellement, la gouvernance des données non structurées et le développement sécurisé des systèmes d’IA sont d’un grand intérêt, notamment l’identification de l’IA fantôme, la garantie que les données sensibles ne nourrissent pas les modèles d’IA, la catalogisation et la surveillance des risques des systèmes d’IA, et l’application de contrôles avec des pare-feu LLM pour protéger les systèmes d’IA contre les abus ou les mauvaises utilisations. Notre Data Command Center offre une visibilité et un contrôle inégalés, permettant l’utilisation sécurisée des données et de l’IA.

Comment Securiti AI aide-t-elle les organisations à rester conformes et à gérer efficacement leurs obligations en matière de confidentialité des données, compte tenu de la complexité croissante des réglementations sur la confidentialité des données ?

Naviguer dans le réseau complexe des réglementations sur la confidentialité des données peut être déconcertant. De nouvelles législations arrivent à un rythme rapide – comme l’Acte IA de l’UE, l’ordonnance exécutive de la Maison Blanche sur l’IA et le projet de loi 1047 de la Californie, qui seront mis en œuvre dans les mois à venir. Les entreprises ont de nouvelles exigences à prendre en compte quotidiennement, tout en respectant des cadres tels que la gestion des risques liés à l’IA de NIST et la gouvernance des modèles d’IA de Singapour. Securiti a une équipe de recherche dédiée qui reste à jour sur les dernières réglementations et intègre ces connaissances dans notre Data Command Center. Cela fournit aux organisations un contexte en temps réel pour mettre en évidence les risques potentiels, ainsi que des modèles intégrés pour automatiser la conformité avec les dernières réglementations. Le Data Command Center de Securiti automatise de nombreuses tâches fastidieuses et complexes associées à la conformité en matière de confidentialité, notamment la cartographie des données, les évaluations d’impact sur la confidentialité, les demandes de droits des personnes, les transferts transfrontaliers, la gestion des failles de sécurité et la gestion des consentements.

Pouvez-vous discuter du rôle de l’IA dans la plateforme de Securiti et de la façon dont elle améliore la sécurité et la gouvernance des données ?

Securiti utilise des techniques avancées qui exploitent l’IA et l’apprentissage automatique pour améliorer la précision de la découverte et de la classification des données. Ces techniques réduisent considérablement les faux positifs et augmentent la détection de contenu sensible dans des jeux de données difficiles, tels que les données non structurées, les images et les vidéos. En plus d’exploiter l’IA dans la plateforme, le Data Command Center de Securiti est également essentiel pour aider les organisations à gérer et à contrôler leurs écosystèmes d’IA. Cela comprend le traitement sécurisé de grands ensembles de données structurées et non structurées, tout en veillant à ce que les informations sensibles ou incorrectes ne nourrissent pas les modèles d’IA. De plus, il est essentiel de protéger la confidentialité et les droits d’accès aux données, ainsi que de protéger les modèles d’IA critiques contre les menaces telles que les injections de commande et les fuites de données. La mise en place de contrôles et de garde-fous complets autour des systèmes d’IA permet aux organisations d’adopter l’innovation en toute sécurité.

Comment fonctionne le pare-feu LLM de Securiti, et quels avantages offre-t-il pour sécuriser les applications GenAI ?

Notre pare-feu LLM à conscience de contexte LLM Firewall est devenu un élément clé de notre pile de sécurité. Pour une brève présentation, le pare-feu LLM est équipé de capacités de traitement de langage avancées, ce qui signifie qu’il comprend les invites utilisateur dans plusieurs langues, analyse le contenu multimédia et offre une protection robuste contre une variété de menaces, telles que les fuites de données, les injections de commande et le contenu nocif. Les pare-feu LLM de Securiti sont uniques en ce sens qu’ils sont conscients du contexte, ayant une compréhension en temps réel du contenu sensible et du contexte des données, tels que les droits d’accès, et fournissant une surveillance et une protection continues en fonction d’insights en temps réel sur le paysage des données. Les pare-feu de Securiti sont également uniques car ils inspectent trois points différents dans le pipeline d’IA, notamment le pare-feu d’invite (entre l’invite utilisateur et le modèle LLM, protégeant contre les attaques malveillantes), le pare-feu de récupération (entre le modèle LLM et la base de données vectorielle, surveillant les données récupérées pour la réponse) et le pare-feu de réponse (entre le modèle LLM et l’invite utilisateur, garantissant que les réponses appropriées sont émises sur la base des politiques de l’entreprise). Ces interactions nécessitent une inspection en temps réel pour identifier les attaques externes, les acteurs malveillants et même les erreurs des utilisateurs.

Pouvez-vous fournir des exemples de la façon dont les entreprises mondiales utilisent le Data Command Center de Securiti pour briser les silos et atteindre une intelligence de données unifiée ?

Par exemple, une entreprise du Fortune 500 avec laquelle nous avons travaillé avait des exigences complexes en matière de confidentialité des données, de sécurité des données et de gouvernance des données. Nous avons travaillé avec les membres clés de ces équipes au plus haut niveau, y compris leur CPO, CDO et CISO. Ils se plaignaient d’avoir des dizaines d’outils fragmentés pour essayer d’obtenir la gouvernance des données dont ils avaient besoin, et ces outils avaient souvent des vues incohérentes de leurs données. Les coudre ensemble pour répondre à leurs obligations en matière de données était également complexe et coûteux. Ils étaient impatients d’harnacher notre solution pour obtenir une « source unique de vérité » sur leur paysage de données qui pourrait être utilisée par les différentes équipes, éliminant ainsi les incohérences et rationalisant les opérations entre les groupes (par exemple, la gestion des transferts transfrontaliers ou des failles de sécurité, qui nécessitent des entrées de plusieurs équipes). La plateforme unifiée a amélioré l’efficacité opérationnelle, réduit les coûts d’intégration complexes et garanti que toutes les équipes travaillaient à partir du même ensemble de données, atténuant ainsi la responsabilité et les risques.

Étant donné votre expérience approfondie dans le domaine de la sécurité, quels sont les tendances qui émergent en matière de sécurité et de gouvernance des données ?

Les organisations luttent avec une gamme complexe de produits pour répondre à leurs besoins en matière de sécurité et de gouvernance des données. L’une des tendances clés est l’émergence de plateformes unifiées qui aident à réduire les coûts et la complexité et à faciliter la coordination interdepartementale. Une autre tendance est l’utilisation accrue de l’IA et de l’automatisation au sein de ces solutions pour aider à évoluer à la hauteur de l’explosion des données à travers les environnements multicloud hybrides et la complexité des réglementations sur les données. Les solutions de découverte de données et de prévention des pertes de données héritées ne répondent plus à ces besoins. Enfin, la plus grande tendance de toutes est la croissance rapide de l’utilisation de l’IA, en particulier les solutions d’IA génératives d’entreprise. Alors que tout le monde est familier avec les solutions d’IA grand public, telles que Chat GPT, le cas d’utilisation le plus convaincant est celui des solutions d’IA d’entreprise qui peuvent réellement stimuler l’innovation et le avantage concurrentiel. Pour construire avec succès des systèmes d’IA de niveau entreprise, les organisations devront disposer de solutions de contrôle et de gouvernance des données complètes pour intégrer des garde-fous appropriés. Les organisations qui réussissent seront celles qui travailleront dur pour construire des solutions d’IA innovantes, ce qui à son tour créera le besoin de nouvelles solutions de sécurité et de gouvernance de l’IA.

Comment pensez-vous que les organisations devraient se préparer aux défis et aux opportunités présentés par l’utilisation croissante de l’IA dans la gestion des données ?

L’explosion de l’IA est passionnante, mais les entreprises doivent donner la priorité à une mise en œuvre responsable pour éviter que l’IA ne devienne une responsabilité financière ou une atteinte à la réputation. En donnant la priorité à des pratiques d’IA fiables, les entreprises – et leurs clients – peuvent s’attendre à un niveau élevé de transparence, de contrôle des risques et de confiance en matière de réputation. Cela signifie prendre le contrôle de votre paysage d’IA, évaluer les modèles pour les biais et la sécurité, surveiller en continu et garantir une gestion éthique des données. L’IA doit travailler pour vous, et non contre vous.

Comment Securiti AI intègre-t-elle l’automatisation dans la gestion de la sécurité et de la confidentialité des données, et quels avantages cette automatisation apporte-t-elle aux entreprises en termes d’efficacité et de conformité ?

Securiti AI est construit sur une base d’automatisation, ce qui améliore l’efficacité et réduit le risque d’erreur humaine. En automatisant des tâches telles que la découverte des données, la classification et les évaluations de conformité, nous libérons les équipes de sécurité et de confidentialité pour se concentrer sur des initiatives stratégiques. Nos capacités d’automatisation s’étendent à la réponse aux incidents, à la détection des menaces et à la remédiation, afin que nos clients puissent réagir rapidement aux incidents de sécurité. De plus, l’automatisation joue un rôle crucial dans l’assurance de la conformité avec les réglementations évolutives. En rationalisant les processus de conformité, nous aidons les organisations à réduire les coûts, à minimiser les risques et à démontrer leur engagement en faveur de la protection des données.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Securiti AI.