Les Dangers des Chatbots IA – Et Comment les Contrer

Considérés autrefois comme de simples programmes de conversation automatisés, les chatbots IA peuvent désormais apprendre et tenir des conversations qui sont presque indiscernables de celles des humains. Cependant, les dangers des chatbots IA sont tout aussi variés.

Ces dangers peuvent aller de l’utilisation abusive de la part des individus à des risques de cybersécurité réels. Alors que les humains s’appuient de plus en plus sur la technologie IA, il est essentiel de connaître les conséquences potentielles de l’utilisation de ces programmes. Mais les chatbots sont-ils dangereux ?

1. Biais et Discrimination

L’un des plus grands dangers des chatbots IA est leur tendance à adopter des biais nuisibles. Puisque l’IA établit des liens entre les points de données que les humains ont souvent du mal à détecter, elle peut acquérir des biais implicites dans ses données de formation pour s’enseigner à être discriminatoire. En conséquence, les chatbots peuvent rapidement apprendre à diffuser du contenu raciste, sexiste ou discriminatoire, même si rien de tel n’était présent dans leurs données de formation.

Un exemple éloquent est le chatbot de recrutement abandonné par Amazon (AMZN ). En 2018, il a été révélé qu’Amazon avait abandonné un projet IA destiné à évaluer les CV des candidats, car il pénalisait les candidatures féminines. Puisque la plupart des CV utilisés pour former le chatbot étaient ceux d’hommes, il s’est enseigné que les candidats masculins étaient préférables, même si les données de formation ne le disaient pas explicitement.

Les chatbots qui utilisent le contenu Internet pour apprendre à communiquer de manière naturelle ont tendance à montrer des biais encore plus extrêmes. En 2016, Microsoft (MSFT ) a lancé un chatbot nommé Tay qui a appris à imiter les publications sur les réseaux sociaux. Au bout de quelques heures, il a commencé à tweeter du contenu hautement offensant, ce qui a conduit Microsoft à suspendre le compte peu de temps après.

Si les entreprises ne sont pas prudentes lors de la création et du déploiement de ces chatbots, elles risquent de provoquer des situations similaires. Les chatbots pourraient maltraiter les clients ou diffuser du contenu biaisé qu’ils sont censés prévenir.

2. Risques de Cybersécurité

Les dangers de la technologie des chatbots IA peuvent également présenter une menace de cybersécurité plus directe pour les individus et les entreprises. L’une des formes les plus prolifiques d’attaques de cybersécurité est les arnaques de phishing et de vishing. Ces attaques impliquent des attaquants de cybersécurité qui imitent des organisations de confiance, telles que des banques ou des organismes gouvernementaux.

Les arnaques de phishing fonctionnent généralement par courriel et par SMS — cliquer sur le lien permet à un malware de pénétrer dans le système informatique. Une fois à l’intérieur, le virus peut faire tout, desde voler des informations personnelles jusqu’à demander une rançon pour le système.

Le taux d’attaques de phishing a augmenté de manière constante pendant et après la pandémie de COVID-19. L’Agence de cybersécurité et d’infrastructure de sécurité a constaté que 84 % des individus répondaient aux messages de phishing avec des informations sensibles ou cliquaient sur le lien.

Les phishers utilisent la technologie des chatbots IA pour automatiser la recherche de victimes, les convaincre de cliquer sur des liens et de fournir des informations personnelles. Les chatbots sont utilisés par de nombreuses institutions financières, telles que les banques, pour rationaliser l’expérience de service client.

Les phishers peuvent imiter les mêmes invites automatisées que les banques utilisent pour tromper les victimes. Ils peuvent également appeler automatiquement des numéros de téléphone ou contacter les victimes directement sur des plateformes de chat interactif.

3. Empoisonnement des Données

L’empoisonnement des données est une nouvelle forme d’attaque de cybersécurité qui vise directement l’intelligence artificielle. La technologie IA apprend à partir de jeux de données et utilise ces informations pour effectuer des tâches. C’est vrai pour tous les programmes IA, quelle que soit leur finalité ou leurs fonctions.

Pour les chatbots IA, cela signifie apprendre à répondre à plusieurs questions possibles que les utilisateurs peuvent leur poser. Cependant, c’est également l’un des dangers de l’IA.

Ces jeux de données sont souvent des outils et des ressources open source accessibles à tous. Même si les entreprises d’IA gardent généralement secrètes les sources de leurs données, les attaquants de cybersécurité peuvent déterminer lesquelles ils utilisent et manipuler les données.

Les attaquants de cybersécurité peuvent trouver des moyens de altérer les jeux de données utilisés pour former les IA, leur permettant de manipuler leurs décisions et leurs réponses. L’IA utilisera les informations provenant des données altérées et effectuera les actes que les attaquants veulent.

Par exemple, l’une des sources de données les plus couramment utilisées est les ressources Wiki telles que Wikipedia. Même si les données ne proviennent pas de l’article Wikipedia en direct, elles proviennent de captures d’écran de données prises à des moments spécifiques. Les hackers peuvent trouver un moyen de modifier les données pour les bénéficier.

Dans le cas des chatbots IA, les hackers peuvent corrompre les jeux de données utilisés pour former les chatbots qui travaillent pour des institutions médicales ou financières. Ils peuvent manipuler les programmes de chatbot pour fournir de fausses informations aux clients qui pourraient les amener à cliquer sur un lien contenant un malware ou un site Web frauduleux. Une fois que l’IA commence à puiser dans des données empoisonnées, il est difficile de détecter et peut conduire à une faille importante de cybersécurité qui peut rester inaperçue pendant longtemps.

Comment Atténuer les Dangers des Chatbots IA

Ces risques sont préoccupants, mais ils ne signifient pas que les chatbots sont intrinsèquement dangereux. Plutôt, il faut aborder ces dangers avec prudence et les prendre en compte lors de la création et de l’utilisation de chatbots.

La clé pour prévenir les biais de l’IA est de les rechercher tout au long de la formation. Assurez-vous de la former sur des jeux de données diversifiés et de la programmer spécifiquement pour éviter de prendre en compte des facteurs tels que la race, le sexe ou l’orientation sexuelle dans sa prise de décision. Il est également préférable d’avoir une équipe diversifiée de scientifiques de données pour examiner les mécanismes internes des chatbots et s’assurer qu’ils ne présentent aucun biais, même subtil.

La meilleure défense contre le phishing est la formation. Formez tous les employés pour qu’ils puissent détecter les signes courants des tentatives de phishing afin qu’ils ne tombent pas dans ces attaques. La sensibilisation des consommateurs à ce problème aidera également.

Vous pouvez prévenir l’empoisonnement des données en restreignant l’accès aux données de formation des chatbots. Seules les personnes qui ont besoin d’accéder à ces données pour effectuer correctement leur travail devraient avoir l’autorisation — un concept appelé principe du moindre privilège. Après avoir mis en œuvre ces restrictions, utilisez des mesures de vérification solides telles que l’authentification multifacteur ou la biométrie pour prévenir les risques de piratage des comptes autorisés par les cybercriminels.

Vigilance Contre les Dangers de la Dépendance à l’IA

L’intelligence artificielle est une technologie vraiment merveilleuse avec des applications presque infinies. Cependant, les dangers de l’IA peuvent être obscurs. Les chatbots sont-ils dangereux ? Non intrinsèquement, mais les cybercriminels peuvent les utiliser de diverses manières disruptives. C’est aux utilisateurs de décider quelles sont les applications de cette nouvelle technologie.