Comment l’IA est devenue le premier canal d’exfiltration de données

Les dirigeants d’entreprise ont investi des milliards dans les outils d’IA pour accélérer la productivité et l’innovation. Mais les dernières données révèlent un risque grave que de nombreuses organisations n’avaient pas prévu. Les mêmes plateformes d’IA qui aident les employés à travailler plus rapidement sont devenues le plus grand canal pour les données sensibles, quittant ainsi les environnements d’entreprise. Des découvertes récentes révèlent que 77 % des employés collent des données dans des outils d’IA génératifs, et que 40 % des fichiers téléchargés sur ces plateformes contiennent des informations personnelles identifiables ou des données de carte de paiement. Cela se passe en ce moment, à grande échelle, dans des organisations qui pensent avoir des contrôles de sécurité appropriés. Ce qui ressort, c’est un décalage fondamental entre la façon dont les entreprises pensent que l’IA est utilisée et ce qui se passe réellement lorsque les employés interagissent avec ces outils quotidiennement. Comprendre ce changement est le premier pas vers la création de stratégies de sécurité qui correspondent à la nouvelle réalité.

Comment l’IA est devenue le nouveau vecteur de fuite de données

Il y a deux ans, l’IA générative existait à peine dans les flux de travail d’entreprise. Aujourd’hui, 45 % de tous les employés d’entreprise utilisent activement des plateformes d’IA, avec 11 % de l’activité d’entreprise qui se déroule sur ces outils. ChatGPT seul a atteint une pénétration de 43 % parmi les employés, un taux que d’autres plateformes de communication ont mis des décennies à atteindre.

La rapidité de cette adoption a créé un vide de sécurité. Les systèmes traditionnels de prévention de la perte de données étaient conçus pour les transferts de fichiers, les pièces jointes et le trafic réseau. Ils n’ont jamais été conçus pour surveiller ce que les employés tapent dans les boîtes de prompt ou collent dans les interfaces de chat. Ce point aveugle est devenu la principale voie d’évasion pour les informations sensibles.

L’IA générative représente maintenant 32 % de tous les mouvements de données des comptes d’entreprise vers les comptes personnels. Cela en fait le plus grand canal pour l’exfiltration de données, surpassant le partage de fichiers, les e-mails et tous les autres canaux que les équipes de sécurité ont passé des années à sécuriser. Le problème n’est pas seulement le volume, mais également la nature de la fuite. Lorsqu’une personne télécharge un document sur un serveur de fichiers, il y a un enregistrement. Lorsqu’ils collent des données de clients dans une invite d’IA, ce transfert se produit souvent en dehors de tout système de journalisation ou de surveillance.

Le problème du compte personnel

Le problème n’est pas l’utilisation des outils d’IA, mais la façon dont les employés y accèdent. Les modèles de sécurité d’entreprise supposent que les employés utilisent des comptes d’entreprise avec une authentification unique, une journalisation et une surveillance. Les données montrent que cette hypothèse est fausse, et que près de 67 % de l’utilisation d’IA se fait via des comptes personnels non gérés. Ce sont des adresses Gmail, des comptes Microsoft (MSFT ) personnels ou des inscriptions directes qui contournent entièrement les systèmes d’identité d’entreprise. Lorsqu’un employé se connecte à ChatGPT avec son adresse e-mail personnelle, l’entreprise n’a aucune visibilité sur les questions qu’il pose, les données qu’il partage ou les informations sensibles qui pourraient apparaître dans les réponses.

Même lorsque les employés utilisent des comptes d’entreprise, ces informations d’identification manquent souvent de fédération. 83 % des connexions ERP et 71 % des connexions CRM se font sans authentification unique. Cela signifie que la connexion d’entreprise offre à peine plus de sécurité ou de visibilité qu’un compte personnel. Le nom d’utilisateur peut avoir le domaine de l’entreprise, mais l’autorisation de contournement permet les mêmes flux de données invisibles.

Copier et coller : la fuite de données invisible

Les stratégies traditionnelles de prévention de la perte de données (DLP) étaient conçues avec un focus sur les systèmes de fichiers. Ils surveillent les téléchargements, les pièces jointes et les pièces jointes. Mais les données montrent que la véritable source de fuite de données n’est pas les fichiers. C’est un copier-coller. 77 % des employés collent des données dans des outils d’IA génératifs. 82 % de cette activité provient de comptes personnels non gérés. En moyenne, chaque employé effectue 15 collages par jour en utilisant ses comptes personnels, et au moins quatre d’entre eux contiennent des informations sensibles personnelles identifiables ou des informations de carte de paiement.

Cela signifie que les informations sensibles ne se déplacent plus seulement à travers les téléchargements de fichiers. Elles sont également injectées directement dans les invites, les fenêtres de chat et les champs de texte. Ces transferts sans fichiers sont presque invisibles pour les solutions DLP traditionnelles. Ils se produisent à haute fréquence, sur plusieurs plateformes, et en dehors de la surveillance de l’entreprise.

Le résultat est un flux continu d’informations sensibles quittant l’organisation de manière difficile à détecter. Le copier-coller est devenu le nouveau canal d’exfiltration, et les outils d’IA sont la première destination.

Fichiers sensibles dans des destinations non autorisées

Les téléchargements de fichiers restent une partie centrale des flux de travail d’entreprise. Mais les destinations ont changé. Les employés ne confinent plus les téléchargements aux stockages ou aux e-mails autorisés. Ils déplacent des fichiers dans des outils d’IA génératifs, des applications grand public et des plateformes SaaS d’ombre.

Les données montrent que 40 % des fichiers téléchargés dans des outils d’IA génératifs contiennent des données personnelles ou financières. 41 % des fichiers téléchargés sur les plateformes de stockage de fichiers contiennent les mêmes. Près de 4 fichiers sur 10 de ces téléchargements se font via des comptes personnels.

Cela signifie que les données sensibles s’écoulent dans des environnements où les entreprises n’ont aucune visibilité et aucun contrôle. Une fois qu’un fichier est téléchargé dans un Google Drive personnel, un chat WhatsApp ou une invite d’IA, il est effectivement en dehors des locaux de l’entreprise. Il ne peut pas être suivi, restreint ou supprimé.

Les destinations sont diverses. Des outils d’entreprise tels qu’Egnyte et Zendesk apparaissent aux côtés de plateformes grand public telles que Canva, LinkedIn et WhatsApp. Ce mélange d’écosystèmes d’entreprise et grand public brouille les frontières de l’emplacement des données d’entreprise. Cela expose également les limites de la DLP traditionnelle, qui a été conçue pour les canaux autorisés et le contrôle centralisé.

Ce que cela signifie pour la sécurité d’entreprise

Le périmètre de sécurité traditionnel s’est effondré. Il était possible de contrôler les données en gérant les réseaux, en sécurisant les points de terminaison et en surveillant les applications autorisées. Ce modèle suppose que le travail se déroule à l’intérieur des systèmes d’entreprise et n’emploie que rarement des plateformes externes via des canaux contrôlés.

La réalité est que le travail se déroule maintenant dans les navigateurs, à travers des dizaines d’applications, via des comptes d’entreprise et personnels, en utilisant des méthodes qui créent aucune trace d’audit. Un employé qui recherche un problème de client peut rechercher des systèmes internes, coller les résultats dans ChatGPT pour les résumer, copier cette synthèse dans Slack pour la partager avec des collègues, et la transmettre via une adresse e-mail personnelle pour la revoir plus tard. Chaque étape implique des données sensibles se déplaçant à travers des canaux que les outils traditionnels ne peuvent pas voir.

Le navigateur est devenu le principal lieu de travail, mais les contrôles de sécurité n’ont pas suivi. Les employés passent leurs journées à se déplacer entre les applications, et les données montrent qu’ils font peu de distinction entre les outils d’entreprise et personnels. Ils utilisent ce qui fonctionne, ce qui est pratique, ce qui ne nécessite pas d’attendre l’approbation du service informatique. Cela crée un environnement dans lequel les informations sensibles s’écoulent constamment à l’extérieur via des canaux invisibles.

Repenser la sécurité d’entreprise pour l’ère de l’IA

La solution n’est pas de bloquer les outils d’IA ou d’interdire les comptes personnels purement et simplement. Ces approches échouent car elles luttent contre la façon dont les employés travaillent réellement. Les outils existent parce qu’ils rendent les gens plus productifs. Les comptes personnels se multiplient parce que la dotation en entreprise est lente et restrictive. La sécurité qui ignore ces réalités sera simplement contournée.

Une protection efficace nécessite une visibilité au niveau du navigateur, où le travail se déroule réellement. Cela signifie surveiller non seulement les téléchargements de fichiers, mais également les opérations de collage, les soumissions de formulaires, les interactions avec les invites et toutes les autres façons dont les données se déplacent entre les systèmes. Cela signifie appliquer des politiques qui distinguent les comptes d’entreprise et personnels, quelle que soit l’application utilisée.

Les organisations doivent étendre la prévention de la perte de données au-delà des fichiers pour inclure les transferts sans fichiers. Une invite soumise à ChatGPT devrait recevoir la même attention qu’une pièce jointe à un e-mail. Une opération de collage dans Slack devrait déclencher les mêmes vérifications qu’un téléchargement sur Google Drive. La méthode de transfert ne devrait pas déterminer si la sécurité s’applique.

Les contrôles d’identité doivent être réellement appliqués. Il ne suffit pas d’offrir une authentification unique si les employés peuvent toujours accéder aux applications d’entreprise via des comptes personnels. L’authentification fédérée doit être obligatoire pour toute application qui gère des données sensibles, et non facultative. Les connexions d’entreprise non fédérées doivent être traitées comme le risque de sécurité qu’elles représentent.

Le fond du problème

L’IA est devenue la catégorie de logiciels d’entreprise à la croissance la plus rapide. Elle est également devenue le premier canal d’exfiltration de données. 77 % des employés collent des données dans des outils d’IA. 40 % des téléchargements contiennent des informations sensibles. La majorité de cette activité se déroule via des comptes non gérés. Le vieux périmètre de sécurité n’existe plus. La plupart du travail se déroule dans le navigateur, et même des actions simples comme le collage de texte peuvent conduire à des failles de sécurité. Les entreprises qui n’actualisent pas leurs stratégies de sécurité pour cette nouvelle réalité ont déjà perdu le contrôle de leurs données les plus précieuses.