Opinion
L’IA arrive sur nos PC — mais qui contrôle ce qu’elle peut voir ?

Points clésLe traitement local de l'IA ne garantit pas automatiquement la confidentialité ni la…
Voir plus
- Le traitement local de l'IA ne garantit pas automatiquement la confidentialité ni la sécurité des agents sur l'appareil.
- Les agents doivent fonctionner selon le principe du moindre privilège, limité à ce que chaque flux de travail spécifique exige.
- Les utilisateurs ont besoin d'un contrôle transparent et révocable sur ce que les agents peuvent voir et faire.
Les agents d’IA commencent à sortir des fenêtres de discussion pour s’intégrer aux systèmes d’exploitation, aux applications et aux fichiers que les gens utilisent chaque jour.
Les nouveaux PC Windows et les logiciels lancés ces derniers mois inaugurent une nouvelle ère de flux de travail autonomes en plusieurs étapes, pilotés par l’IA, pour le grand public comme pour les entreprises. Cette transition n’est plus une simple prévision technologique.
Les PC Windows équipés de RTX de NVIDIA prennent en charge l’exécution locale d’agents d’IA, tandis que Perplexity a étendu les capacités de ses agents aux ordinateurs Windows compatibles, permettant ainsi des flux de travail faisant intervenir des fichiers locaux et des applications connectées. Parallèlement, Microsoft développe des mesures de protection pour contrôler la manière dont les agents accèdent aux ressources et agissent.
Mais une plus grande autonomie entraîne des risques de sécurité plus élevés. Le 19 octobre, Hayete Gallot, vice-présidente exécutive chargée de la sécurité chez Microsoft, a averti que les organisations devaient mieux protéger les « initiés autonomes », soulignant que les agents d’IA disposent souvent de privilèges excessifs et peuvent accéder à des données sensibles, à des outils et à des systèmes tout en prenant des décisions dans le cadre de processus critiques.
La stratégie de sécurité de Windows de Microsoft repose sur le confinement, des autorisations limitées et une supervision restreinte, tandis que l’on s’inquiète de plus en plus des répercussions qu’une erreur d’un agent pourrait avoir au-delà d’une simple réponse erronée. L’agent pourrait divulguer des informations sensibles, modifier des fichiers critiques ou déclencher des actions indésirables dans des applications professionnelles.
Une IA locale n’est pas automatiquement une IA privée
L’utilisation d’agents d’IA sur un PC peut contribuer à réduire la quantité de données sensibles transférées vers des services infonuagiques, mais le traitement local ne constitue pas une garantie de sécurité absolue.
Même un modèle exécuté sur l’appareil peut accéder à un trop grand nombre de fichiers, présenter des failles de sécurité ou être relié de manière dangereuse à d’autres applications.
« Le problème ne vient pas toujours du modèle d’IA ; il tient souvent à la gouvernance de l’organisation », a déclaré Bayron Quintero, PDG et cofondateur d’iData Global, une entreprise spécialisée dans les solutions d’IA dans les Amériques.
Les entreprises peuvent accorder un accès trop large ou trop restreint aux données, aux applications et aux processus métier, a-t-il expliqué à Unite AI. Les agents peuvent se voir attribuer des droits qui ne correspondent pas aux tâches qu’ils sont censés effectuer.
« Le défi consiste à garantir qu’un agent respecte le principe du moindre privilège et n’accède qu’aux données, aux systèmes et aux actions nécessaires à un flux de travail donné », a déclaré Quintero. Cela signifie qu’il faut lui accorder uniquement l’accès aux données, aux systèmes et aux actions nécessaires à un flux de travail précis.
Il a indiqué que la définition claire de la propriété des données, les contrôles d’accès fondés sur les rôles et la surveillance continue des interactions avec les systèmes internes et tiers constituaient des mesures de protection essentielles.
Il n’existe pas d’IA locale sûre, a souligné Quintero.
Des autorisations excessives, un chiffrement faible, une surveillance insuffisante et des intégrations non sécurisées peuvent rendre un agent exécuté sur l’appareil aussi risqué qu’un agent infonuagique, voire plus risqué.
La sécurité ne dépend pas seulement de l’endroit où le modèle d’un système est exécuté ; elle tient aussi à sa configuration et à sa gestion.
La nouvelle frontière, ce sont les autorisations
Pour le grand public, la question est de savoir si l’accès accordé à un agent d’IA est adapté à la tâche qu’il doit accomplir.
Un agent ne devrait pas avoir à parcourir un disque entier si on lui demande seulement de résumer un document. Un outil de classement de photos ne devrait pas lire automatiquement des données financières ni pouvoir envoyer des messages. Les autorisations doivent être strictement limitées, transparentes et révocables.
Le modèle de comptes d’agents et d’espaces de travail de Microsoft constitue une étape vers la séparation des activités d’un agent de la session d’une personne. Toutefois, ces protections doivent être efficaces au-delà des démonstrations.
Les recommandations de Microsoft en matière de sécurité des agents sous Windows préconisent l’autorisation de l’utilisateur, la consignation des activités et un mécanisme permettant de limiter les agents aux accès dont ils ont besoin. Les employeurs et les développeurs doivent surveiller la réaction des agents aux instructions trompeuses figurant dans des documents, des sites Web ou des messages.
Au cours d’une tâche autorisée, les agents peuvent rencontrer du contenu non fiable. Si un agent interprète un texte hostile comme une commande, cela peut poser un grave problème de sécurité, car les informations sont facilement accessibles.
L’approbation humaine et l’accès selon le principe du moindre privilège doivent aller de pair avec le confinement des actions sensibles.
La commodité doit s’accompagner de limites claires
Les PC dotés d’IA ne seront pas évalués uniquement en fonction de la quantité de travail que les agents peuvent automatiser, mais aussi de la confiance que les utilisateurs peuvent avoir lorsqu’ils partagent des données personnelles et professionnelles.
Même si le traitement local peut améliorer la vitesse de l’IA agentique et limiter l’exposition de certaines données, il ne dispense pas de prévoir des autorisations et une supervision.
Le principe devrait être simple : les agents ne devraient accéder qu’à ce qui est nécessaire à leur tâche, et les utilisateurs devraient pouvoir comprendre, suivre et bloquer leurs actions.
À mesure que les ordinateurs deviennent plus aptes à agir à notre place, le contrôle ne doit pas être relégué au second plan. Il doit être intégré dès la conception.












