Pourquoi interdire l’IA augmente les risques de sécurité et comment les institutions devraient réagir

Aux États-Unis, les districts scolaires et les organisations du secteur public prennent des mesures pour restreindre ou bloquer l’accès aux technologies d’IA générative (GenAI) ou à des outils spécifiques. Dans le Colorado, le district scolaire de Boulder Valley a récemment interdit ChatGPT sur les réseaux du district, citant des préoccupations concernant les abus, la sécurité et l’intégrité académique.

L’instinct de réduire l’exposition aux incidents de sécurité ou aux abus de données est compréhensible. Les plateformes avec des garde-fous faibles ou des engagements de confidentialité peu clairs, comme DeepSeek, justifient des restrictions et une surveillance. Mais interdire l’accès aux outils GenAI ne réduit pas significativement les risques ; cela déplace simplement les risques dans des environnements où la surveillance disparaît.

Une enquête du College Board a révélé que 84 % des élèves du secondaire ont déclaré utiliser l’IA générative pour les travaux scolaires, même si 45 % des directeurs ont signalé au moins certaines restrictions d’accès à l’IA à l’école. De même, un rapport d’IBM a constaté que 80 % des travailleurs de bureau utilisent l’IA, mais seulement 22 % s’appuient exclusivement sur les outils fournis par l’employeur.

Les politiques d’accès seules ne déterminent pas le comportement. Les élèves peuvent sortir leur téléphone et utiliser n’importe quel outil d’IA sur leur réseau de données cellulaires, ou utiliser la plateforme pendant qu’ils sont à la maison ou sur un réseau Wi-Fi public. Ils peuvent également utiliser des VPN, des bureaux à distance et des plugins pour contourner les restrictions. Les employés peuvent faire de même pour contourner les contrôles sur le lieu de travail.

Les organisations devraient supposer que lorsqu’il y a une volonté d’utiliser l’IA, il y a un moyen. Lorsque la technologie est limitée d’une manière qui pousse l’utilisation au-delà de la visibilité institutionnelle, le risque d’IA fantôme augmente. Il n’y a pas de surveillance sur les informations saisies dans les invites ou sur les données conservées par le modèle. Tout contrôle sur la sécurité disparaît immédiatement.

Au-delà du risque d’IA fantôme, les interdictions créent un fossé en matière de littératie, laissant les élèves complètement impréparés à utiliser la technologie qui fera partie intégrante de leur avenir. Ces outils sont de plus en plus intégrés dans les moteurs de recherche, les plateformes commerciales, les suites de productivité et les appareils personnels. Une enquête du Pew Research a constaté que 62 % des adultes américains disent interagir avec l’IA au moins plusieurs fois par semaine. Il est pratiquement garanti que les élèves et les employés rencontreront des systèmes GenAI quelle que soit la politique de l’institution.

Dans cet environnement, l’éducation est le moyen de défense le plus fiable contre les préoccupations concernant les abus ou la sécurité, et pour garantir que les élèves et les travailleurs sont bien préparés à utiliser un outil qui sera intégral à leur carrière. Enseigner une utilisation responsable et éthique permet aux utilisateurs de reconnaître les risques liés aux données et de prendre des décisions éclairées partout où ils rencontrent ces systèmes.

Les programmes éducatifs devraient se concentrer sur la façon dont les grands modèles de langage (LLM) traitent et conservent les données, sur la façon d’identifier les hallucinations, sur la façon de vérifier les sorties générées par l’IA et sur la façon d’identifier les campagnes de phishing et les images générées par l’IA, pour n’en citer que quelques-uns. Enseigner aux utilisateurs d’être sceptiques. Les sorties de l’IA sont souvent présentées de manière confiante et dans un langage poli, ce qui peut créer une illusion d’autorité. Sans formation, les utilisateurs peuvent supposer qu’une réponse bien formatée est inhérentement exacte.

La capacité de remettre en question le contenu numérique est une défense de première ligne à mesure que les deepfakes et les campagnes de phishing améliorées par l’IA deviennent plus sophistiqués. Une enquête de Gartner a constaté que 62 % des organisations ont subi une attaque de deepfake l’année dernière, et 32 % ont été confrontées à une attaque contre des applications d’IA. La fréquence et l’étendue de ces incidents ne devraient que continuer à augmenter.

Les institutions du secteur public, telles que les écoles et les gouvernements locaux, sont particulièrement exposées aux attaques de social engineering basées sur les deepfakes, car une grande partie de leur activité est enregistrée et accessible au public. Des extraits audio de réunions publiques peuvent être manipulés et utilisés pour générer des appels vocaux convaincants. Nous avons vu des acteurs menaçants utiliser cela pour la fraude, tels que la redirection de fonds lors de transactions sensibles. Même si cela se produit le plus souvent dans des cas ciblés, les utilisateurs qui n’ont jamais été formés pour reconnaître ces techniques, ou même savoir qu’elles sont possibles, sont désavantagés dès le départ.

Après l’éducation, les organisations devraient avoir des politiques clairement communiquées concernant l’utilisation et la gouvernance de l’IA. Ces politiques devraient définir les outils approuvés, les cas d’utilisation acceptables et les données qui peuvent ou non être saisies dans quel modèle. Les politiques doivent être appliquées de manière cohérente entre les départements, plutôt que de varier d’une salle de classe à l’autre ou d’un bureau à l’autre. Des attentes claires réduisent l’ambiguïté et renforcent la responsabilité.

Au lieu de restrictions générales, les organisations devraient chercher à façonner la manière dont la technologie est utilisée dans la pratique. Lorsqu’une organisation approuve un outil qui est accessible, sécurisé et fonctionne bien, il devient la référence pour la plupart des utilisateurs. L’utilisation occasionnelle d’IA fantôme diminue, car il existe une alternative simple qui n’implique pas de télécharger un VPN pour l’utiliser.

Les organisations et les institutions cherchent à fournir un accès sécurisé aux LLM de manière à ce que leurs données soient sécurisées et non partagées ou utilisées pour la formation. Une catégorie croissante d’outils d’activation et de sécurité de l’IA émerge pour faire exactement cela. Ils peuvent fournir un accès à plusieurs LLM tout en conservant les données de l’institution de manière sécurisée et containerisée. Les accords de rétention de données zéro fournissent le cadre juridique pour garantir que les données de l’organisation restent la propriété de l’entreprise ou de l’institution, et que le LLM ne peut pas être formé à partir de celles-ci. De plus, si un employé quitte l’institution, toute utilisation de l’IA, les flux de travail ou les données restent la propriété de l’organisation.

Des garde-fous techniques peuvent également être appliqués au niveau des fonctionnalités. Une institution peut autoriser les élèves ou les employés à poser des questions générales dans un LLM sanctionné tout en désactivant le téléchargement de fichiers, le partage de documents ou d’autres capacités à haut risque. Ces configurations préservent les avantages de productivité sans ouvrir la porte à une exposition de données non contrôlée.

Des outils plus avancés peuvent anonymiser automatiquement les informations sensibles avant même qu’elles n’atteignent un modèle. Par exemple, en remplaçant les noms de patients ou les identificateurs par des marqueurs de remplacement neutres, les médecins et les infirmières peuvent toujours utiliser l’IA générative sans exposer des données protégées. D’autres intègrent des contrôles de prévention de la perte de données qui détectent et bloquent les numéros de sécurité sociale, les données de comptes financiers ou d’autres informations réglementées avant qu’elles ne soient soumises dans les invites.

Des politiques claires avec des garde-fous techniques, construites sur une base d’éducation, créent la meilleure défense, surtout à mesure que la technologie change si rapidement. L’IA générative évolue plus vite que la plupart des organisations du secteur public – et leurs budgets – peuvent s’adapter. Essayer de bloquer chaque nouveau modèle à mesure qu’il émerge est insoutenable, car dès qu’une plateforme est restreinte, une autre a gagné en traction. Les utilisateurs formés pour comprendre les risques sous-jacents peuvent s’adapter à travers les outils et les versions.

La sécurité dans un environnement alimenté par l’IA dépend de la reconnaissance de la réalité que l’IA générative est maintenant intégrée dans la vie quotidienne. Il n’y a pas de moyen de remettre le génie dans la bouteille. Les interdictions générales peuvent signaler la prudence, mais elles échangent souvent des risques visibles et gérables pour une exposition invisible et non gérée. Enseigner à une personne à utiliser l’IA de manière responsable, et elle sera prête pour ce qui vient ensuite.