Découvrir les risques cachés de l’IA fantôme

Il n’a pas fallu longtemps pour que les entreprises fassent l’expérience d’une utilisation généralisée de l’IA générative (IA Gen) parmi leurs employés. Cependant, lorsqu’il s’agit des risques liés à l’IA Gen, les outils connus au sein de votre organisation ne sont pas ceux qui devraient vous causer le plus de soucis. Ce sont ceux que vous ne connaissez pas qui devraient vous empêcher de dormir.

Grâce à l’expansion rapide des outils d’IA Gen tels que ChatGPT, Copilot, Gemini et Perplexity, ainsi qu’à de nombreux assistants SaaS spécialisés, les employés les adoptent plus rapidement que les équipes de sécurité ne peuvent suivre. Et cette utilisation crée un point aveugle en constante augmentation appelé IA fantôme.

Si l’IA fantôme vous semble familière, c’est parce qu’elle emprunte au terme IA fantôme, utilisé pour décrire l’utilisation d’outils et de services non approuvés sur le lieu de travail. Mais avec l’IA fantôme, les enjeux peuvent être encore plus élevés. Au lieu d’une application de partage de fichiers pirate, l’IA fantôme peut entraîner la copie de données sensibles dans une invite de chatbot, lesquelles sont ensuite ingérées dans des modèles externes et exposées involontairement à des systèmes tiers.

L’IA fantôme représente l’une des menaces les moins visibles mais les plus urgentes pour la sécurité des données d’entreprise aujourd’hui.

Qu’est-ce que l’IA fantôme ?

L’IA fantôme fait référence à l’utilisation non autorisée d’outils d’IA – en particulier l’IA Gen – par des employés sans la connaissance ou l’approbation des équipes IT ou de sécurité de l’entreprise. Au sein d’une organisation, les utilisateurs peuvent être une équipe marketing rédigeant des billets de blog avec des modèles de langage grand public (LLM), une équipe juridique explorant le langage des contrats dans des outils d’IA, ou des ingénieurs déboguant du code avec des enveloppes GPT gratuites.

Et même si cette expérimentation peut sembler inoffensive, ce qui est partagé avec ces outils peut ne pas l’être. Il peut s’agir de diapositives de stratégie confidentielles ou d’informations client. Ces données finissent par être dans des invites non chiffrées, sans gouvernance et sans moyen de suivre ce qui se passe ensuite.

Pourquoi l’IA fantôme est-elle un problème ?

La question de l’IA fantôme est problématique car il suffit qu’un employé ait de bonnes intentions et accès à ChatGPT pour créer un risque de sécurité des données. Contrairement à un pirate, l’IA fantôme n’est pas malveillante, mais cela ne la rend pas moins dangereuse. Chaque fois que des données sensibles sont ajoutées à une invite, elles sont potentiellement exposées au modèle, au fournisseur et à quiconque a accès aux journaux. Elles peuvent même ressurgir dans une réponse à une autre invite de l’utilisateur. Et le pire, c’est que vous ne le saurez probablement jamais.

Voici cinq risques clés de l’IA fantôme dont vous devez être conscient.

1. Fuite de données via les entrées d’invite – Les champs d’invite sont un trou noir de sécurité des données. Une fois que des informations sensibles, telles que le code source, les documents de fusions et acquisitions et les détails de salaire, sont partagées avec un outil d’IA Gen, elles échappent à votre contrôle. Même si le fournisseur d’IA promet que les données ne sont pas conservées, l’application est peu claire et il y a peu de garanties concernant la formation ou la télémétrie.

2. Manque de contrôles d’accès ou de journaux d’audit – Contrairement aux applications d’entreprise approuvées, la plupart des outils d’IA Gen ne proposent pas de contrôles d’accès basés sur les rôles, de permissions granulaires ou de journaux d’activité, ce qui signifie que les équipes de sécurité n’ont aucune visibilité sur qui a accédé à quelles données, ou quand. Si un incident se produit, il n’y a rien à enquêter.

3. Violations de conformité – De nombreuses réglementations de conformité que les organisations doivent respecter exigent que les données réglementées soient stockées, traitées et accessibles de manière très spécifique. Alimenter ces données dans un modèle d’IA externe peut enfreindre ces règles, exposant votre organisation à des risques juridiques, à des amendes et à des notifications obligatoires de violation.

4. Circulation d’informations obsolètes ou biaisées – Les outils d’IA Gen fournissent souvent des réponses avec confiance et les présentent comme des faits, même lorsqu’elles sont très fausses. S’appuyer sur ces sorties pour les messages client, les résumés de conformité ou les rapports financiers sans validation peut conduire à des décisions commerciales basées sur des données inexactes. Les hallucinations se produisent régulièrement et ne semblent pas disparaître, même si ces LLM deviennent plus intelligents.

5. IA fantôme qui devient des données fantômes – Les sorties des outils d’IA Gen, y compris les résumés et les extraits de code, sont souvent enregistrées, partagées et réutilisées. Puisqu’elles ont été créées en dehors des flux de travail formels, ces fichiers deviennent des données fantômes non suivies, non classifiées et non protégées.

La plupart du temps, avec l’IA fantôme, personne en sécurité n’a la moindre idée de ce qui se passe lorsqu’une faille de sécurité se produit. Ces exemples du monde réel pourraient se produire dans votre organisation :

• Un jeune ingénieur logiciel colle du code propriétaire dans un débogueur GPT gratuit.
• Un représentant des ventes alimente la liste des clients du dernier trimestre dans un outil d’IA pour rédiger des pitches de vente croisée.
• Un responsable des ressources humaines utilise un outil d’IA externe pour analyser les réponses aux enquêtes de satisfaction des employés.
• Un analyste financier demande à ChatGPT de simplifier le langage des prévisions de revenus sensibles pour les dirigeants.
• Un avocat demande à l’IA Gen de réécrire un contrat en utilisant une clause confidentielle d’un accord client.

Pourquoi les outils de sécurité traditionnels ne détectent pas l’IA fantôme

Les piles de sécurité héritées ne sont pas conçues pour les menaces basées sur les invites de l’IA Gen. Par exemple, un pare-feu ne peut pas bloquer les outils d’IA basés sur le navigateur. Un CASB ne verra pas ce qui est tapé dans les fenêtres de chat. Et un SIEM ne signalera pas qui vient de demander à un LLM de résumer des propriétés intellectuelles sensibles.

L’IA fantôme opère à la couche application et vit dans le navigateur, où la visibilité est la plus faible. Les employés utilisent également leurs appareils personnels. Il n’y a pas de module complémentaire pour les arrêter, pas de filigrane pour retracer les données qui ont été divulguées, et pas d’alerte lorsque les données franchissent la limite. Et une fois qu’elles apparaissent dans une alerte DLP, si cela se produit, les données sont déjà exposées.

Comment identifier et remédier aux risques de l’IA fantôme

Vous ne pouvez pas contrôler ce que vous ne pouvez pas voir, et avec l’IA Gen, la plupart des organisations sont aveugles. Les outils traditionnels n’ont pas été conçus pour comprendre les interactions basées sur les invites ou suivre ce qui se passe après qu’un utilisateur clique sur « Entrer ».

Cependant, de nouvelles approches de sécurité basées sur l’IA sont à la hauteur du défi pour aider les organisations à faire sortir l’IA Gen fantôme de l’ombre. Voici quelques-unes des garanties que les solutions avancées offrent :

Découverte de l’IA fantôme – Ces outils identifient quels applications d’IA Gen vos utilisateurs utilisent, même les applications basées sur le navigateur qui contournent les contrôles traditionnels. Ils analysent le mouvement des données, les modèles d’accès et le contexte pour détecter les violations sans nécessiter d’agents d’extrémité ou de surveillance invasive.

Classification de ce qui est sensible – Les solutions modernes utilisent une IA sensible au contexte pour comprendre à la fois le contenu et le contexte derrière les données. Cela signifie qu’elles peuvent signaler des risques tels qu’une projection de revenus intégrée dans une diapositive PowerPoint ou des données client intégrées dans un brouillon d’e-mail. Il s’agit du type de contenu que les employés pourraient alimenter dans l’IA Gen sans y réfléchir deux fois.

Prévention d’un comportement d’invite risqué – Une fois que les données sensibles sont découvertes et que leur emplacement est identifié, la sécurité des données d’IA aide à prévenir leur exposition. Ces outils signalent, masquent ou bloquent les entrées d’invite risquées avant qu’elles ne quittent l’organisation.

Nettoyage des données fantômes – Les invites d’IA Gen génèrent souvent une vague de nouveaux fichiers, tels que des résumés, des brouillons et des réponses, qui sont enregistrés, partagés et oubliés. Les plates-formes de sécurité des données avancées identifient ces artefacts en aval, détectent les risques d’exposition (tels que des accès sur-permis ou un stockage inapproprié) et les remédient avant que la perte de données ne devienne un titre.

L’IA fantôme n’est pas un risque théorique. C’est réel, c’est en constante augmentation et cela se produit dans votre environnement en ce moment, que vous l’ayez vu ou non. Interdire les outils d’IA Gen n’est pas réaliste, mais fermer les yeux est extrêmement risqué. Les organisations ont besoin de visibilité, de contrôle et d’intelligence autour de l’utilisation de l’IA Gen — pas seulement pour ce qui sort, mais pour ce qui entre.

De nouvelles approches sont disponibles pour découvrir les comportements risqués, prévenir l’exposition accidentelle et nettoyer le désordre de données que l’IA et l’IA fantôme laissent derrière elles.