Comment les hackers utilisent l’intelligence artificielle

L’intelligence artificielle s’est révélée être une technologie à valeur ajoutée dans l’économie mondiale.

Alors que les entreprises se sont retrouvées à adapter leurs activités aux événements récents au cours des dernières années, certaines d’entre elles ont trouvé des moyens de compresser une demi-décennie de transformations numériques en un laps de temps beaucoup plus court. Dans le cas de Frito-Lay, par exemple, les budgets consacrés à l’intelligence artificielle ont augmenté de 55 % pendant la pandémie mondiale.

Comme tout outil, l’intelligence artificielle n’a pas de valeur morale innée. Son utilité ou son potentiel de nuisance dépendent de la façon dont le système « apprend » et de ce que les humains font finalement avec lui.

Certains tentatives d’utiliser l’intelligence artificielle – telles que la « prédiction » de crimes avant qu’ils ne se produisent – montrent que les modèles formés à partir de données biaisées tendent à reproduire les lacunes humaines. Jusqu’à présent, la formation de l’intelligence artificielle à l’aide de données du système de justice américain a abouti à des raisonnements préjudiciables.

Dans d’autres exemples, les humains choisissent des moyens plus délibérés pour exploiter le potentiel destructeur de l’intelligence artificielle. Les hackers montrent à nouveau leurs tendances innovantes en utilisant l’intelligence artificielle pour améliorer la portée, l’efficacité et la rentabilité de leurs attaques. Et à mesure que la cyberguerre devient de plus en plus courante dans le monde entier, nous verrons certainement les applications de l’intelligence artificielle dans le hacking se développer encore plus.

L’intelligence artificielle, une opportunité et un risque

L’intelligence artificielle offre un monde de possibilités pour les entreprises qui souhaitent améliorer la prévision, l’optimisation des affaires et les stratégies de rétention des clients. C’est également un gain pour ceux qui ont l’intention de compromettre la souveraineté numérique des autres.

Voici quelques-unes des façons dont l’intelligence artificielle peut être susceptible à une manipulation discrète et à des efforts plus ouverts pour la retourner contre des actions agressives.

1. Compromettre la logique de la machine

Le principal avantage de l’intelligence artificielle pour les consommateurs et les entreprises est qu’elle effectue des actes logiques prévisibles et répétitifs sans intervention humaine. C’est également sa plus grande faiblesse.

Comme toute autre construction numérique, l’intelligence artificielle peut être vulnérable à la pénétration par des forces extérieures. Les hackers qui accèdent et compromettent la logique de la machine qui alimente l’intelligence artificielle pourraient la faire effectuer des actions imprévisibles ou nuisibles. Par exemple, une intelligence artificielle chargée de la surveillance de l’état des équipements industriels pourrait fournir de fausses lectures ou laisser passer les signaux de maintenance.

Puisque tout l’objectif des investissements dans l’intelligence artificielle est d’éliminer l’intervention humaine et de remettre en question les résultats, les dommages causés à l’infrastructure ou à la qualité des produits par une attaque de cette nature peuvent ne pas être remarqués jusqu’à une défaillance catastrophique.

2. Utiliser les algorithmes de rétro-ingénierie

Un autre axe de nuisance potentiel – en particulier en ce qui concerne la propriété intellectuelle (PI) et les données des consommateurs ou des entreprises – est la notion de rétro-ingénierie. Les hackers peuvent même voler le code de l’intelligence artificielle lui-même. Avec suffisamment de temps pour étudier son fonctionnement, ils pourraient finalement découvrir les jeux de données utilisés pour former l’intelligence artificielle en premier lieu.

Cela pourrait provoquer plusieurs résultats, dont le premier est l’empoisonnement de l’intelligence artificielle. D’autres exemples pourraient impliquer les hackers qui utilisent les données de formation de l’intelligence artificielle pour obtenir des informations compromettantes sur les marchés, les concurrents, les gouvernements, les fournisseurs ou les consommateurs en général.

3. Apprendre à connaître les cibles visées

La surveillance des cibles est probablement l’une des implications les plus inquiétantes de l’intelligence artificielle tombant entre les mains des hackers. La capacité de l’intelligence artificielle à tirer des conclusions sur les capacités d’une personne, les domaines de connaissance, le tempérament et la probabilité de tomber victime de ciblage, de fraude ou d’abus est particulièrement préoccupante pour certains experts en cybersécurité.

L’intelligence artificielle peut ingérer et parvenir à des conclusions étonnamment détaillées sur les personnes, les équipes et les groupes en fonction de certains des points de données les plus improbables. Un individu « engagé » ou « distrait » peut taper rapidement, faire des mouvements avec la souris ou passer rapidement entre les onglets du navigateur. Un utilisateur qui est « confus » ou « hésitant » peut s’arrêter avant de cliquer sur les éléments de la page ou revisiter plusieurs sites.

Entre les bonnes mains, des signaux comme ceux-ci aident les départements des ressources humaines à améliorer l’engagement des employés ou les équipes marketing à polir leurs sites Web et leurs tunnels de vente.

Pour les hackers, des signaux comme ceux-ci pourraient aboutir à un profil psychologique étonnamment nuancé d’une cible visée. Les cybercriminels pourraient être en mesure de déterminer, sur la base d’indices invisibles pour les humains, quels individus pourraient être vulnérables au phishing, au smishing, au ransomware, à la fraude financière et d’autres types de nuisance. Cela pourrait également les aider à apprendre comment convaincre leurs cibles que leurs tentatives de fraude proviennent de sources légitimes.

4. Sonder les vulnérabilités du réseau

Les professionnels de la cybersécurité ont publié des données sur 20 175 vulnérabilités de sécurité connues en 2021. C’était une augmentation par rapport à 2020, où il y avait 17 049 vulnérabilités de ce type.

Le monde devient de plus en plus interconnecté numériquement – certains diraient interdépendant – d’heure en heure. Le monde abrite maintenant un nombre étourdissant de réseaux à petite échelle et industriels, avec des milliards d’appareils connectés en ligne et davantage en route. Tout est en ligne, des capteurs de surveillance de l’état à des logiciels de planification d’entreprise.

L’intelligence artificielle montre des promesses dans l’aide aux équipes de cybersécurité pour sonder rapidement les vulnérabilités du réseau, des logiciels et du matériel plus rapidement que les humains ne le pourraient seuls. La vitesse et l’échelle de la croissance de l’infrastructure numérique terrestre rendent quasiment impossible la recherche de milliards de lignes de code pour des exploits de sécurité à corriger. Tout cela doit se produire pendant que ces systèmes sont en ligne en raison du coût de la période d’arrêt.

Si l’intelligence artificielle est un outil de cybersécurité ici, c’est également une arme à double tranchant. Les hackers peuvent utiliser les mêmes mécanismes que la communauté IT « white hat » pour effectuer le même travail : sonder les réseaux, les logiciels et les firmwares pour les vulnérabilités de manière plus efficace que les spécialistes IT humains.

Une course aux armements numériques

Il y a trop d’applications d’intelligence artificielle dans la cybercriminalité pour les nommer toutes, mais voici quelques-unes :

• Les hackers pourraient cacher du code d’intelligence artificielle dans une application autrement inoffensive qui exécute un comportement malveillant lorsqu’il détecte un déclencheur ou un seuil prédéterminé.
• Des modèles d’intelligence artificielle malveillants peuvent être utilisés pour déterminer les informations d’identification ou les fonctionnalités de gestion des TI en surveillant les entrées biométriques, telles que les empreintes digitales et la reconnaissance vocale.
• Même si une tentative de cyberattaque échoue finalement, les hackers équipés d’intelligence artificielle peuvent être en mesure d’utiliser l’apprentissage automatique pour déterminer ce qui s’est mal passé et ce qu’ils pourraient faire différemment la prochaine fois.

Il a suffi d’une seule histoire bien placée sur le piratage d’une jeep en marche pour ralentir le développement des véhicules autonomes. Un piratage à haute visibilité où l’intelligence artificielle joue un rôle clé pourrait causer une érosion similaire de l’opinion publique. Certains sondages montrent que l’Américain moyen est très sceptique sur les avantages de l’intelligence artificielle déjà.

L’informatique omniprésente comporte des risques de cybersécurité – et les hackers à la « casquette blanche » et à la « casquette noire » le savent. L’intelligence artificielle peut aider à maintenir notre vie en ligne sécurisée, mais c’est également l’épicentre d’une nouvelle course aux armements numériques.