L’IA ouvre de nouvelles voies pour lutter contre les ventes illégales d’opioïdes et d’autres cybercrimes

Le département américain de la Santé et des Services sociaux (HHS) et l’Institut national sur la drogue (NIDA) investissent dans l’utilisation de l’IA pour lutter contre la vente illégale d’opioïdes et réduire l’abus de drogues. Selon Vox, l’outil d’IA de la NIDA va tenter de suivre les marchés de pharmacies en ligne illégaux, mais les approches utilisées par l’IA pourraient facilement être appliquées à d’autres formes de cybercrime.

L’un des chercheurs responsables du développement de l’outil, Timothy Mackey, a récemment parlé à Vox, où il a expliqué que les algorithmes d’IA utilisés pour suivre la vente illégale d’opioïdes pourraient également être utilisés pour détecter d’autres formes de ventes illégales, telles que les produits contrefaits et le trafic d’animaux sauvages.

L’outil d’IA de la NIDA doit être capable de distinguer entre les discussions générales sur les opioïdes et les tentatives de négociation de la vente d’opioïdes. Selon Mackey, seulement un pourcentage relativement faible de tweets référençant les opioïdes sont réellement liés à la vente illégale d’opioïdes. Mackey a expliqué qu’environ 600 000 tweets référençant l’un des différents opioïdes ne contiennent que 2 000 messages qui commercialisent ces drogues de quelque manière que ce soit. L’outil d’IA doit également être suffisamment robuste pour suivre les changements dans le langage utilisé pour commercialiser illégalement les opioïdes. Les personnes qui vendent illégalement des drogues utilisent souvent un langage codé et des mots-clés non évidents pour vendre des drogues, et elles changent rapidement de stratégie. Mackey explique que des alias mal orthographiés pour les noms de drogues sont couramment utilisés et que des images de choses autres que les drogues en question sont souvent utilisées pour créer des listes sur des sites comme Instagram.

Alors que Instagram et Facebook (META ) interdisent la commercialisation de drogues et encouragent les utilisateurs à signaler les cas d’abus, le contenu illégal peut être très difficile à détecter, précisément parce que les vendeurs de drogues changent souvent de stratégie et de mots de code. Mackey a expliqué que ces publications codées et ces hashtags sur Instagram contiennent généralement des informations sur la façon de contacter le revendeur et d’acheter des drogues illégales. Mackey a également expliqué que certains vendeurs illégaux se présentent comme des sociétés pharmaceutiques légitimes et lient à des plateformes de commerce électronique. Alors que la FDA a souvent tenté de lutter contre ces sites, ils restent un problème.

Lors de la conception d’outils d’IA pour détecter la commercialisation illégale de drogues, Mackey et le reste de l’équipe de recherche ont utilisé une combinaison de deep learning et de modélisation de sujets. L’équipe de recherche a conçu un modèle d’apprentissage profond qui utilise un réseau Long Short-Term Memory formé sur le texte des publications Instagram, avec pour objectif de créer un classificateur de texte qui puisse automatiquement signaler les publications qui pourraient être liées à la vente illégale de drogues. L’équipe de recherche a également utilisé la modélisation de sujets, laissant son modèle d’IA discerner les mots-clés associés aux opioïdes comme le Fentanyl et le Percocet. Cela peut rendre le modèle plus robuste et plus sophistiqué, et il est capable de correspondre à des sujets et à des conversations, et non seulement à des mots isolés. La modélisation de sujets a aidé l’équipe de recherche à réduire un ensemble de données de 30 000 tweets concernant le Fentanyl à seulement une poignée de tweets qui semblaient commercialiser ce produit.

Markey et le reste de l’équipe de recherche peuvent avoir développé leur application d’IA pour la NIDA, mais des sociétés de médias sociaux comme Facebook, Twitter, Reddit et YouTube investissent également massivement dans l’utilisation de l’IA pour signaler le contenu qui viole leurs politiques. Selon Markey, il a discuté avec Twitter et Facebook de cette application auparavant, mais actuellement, l’accent est mis sur la création d’une application commerciale basée sur ses recherches pour la NIDA, et il espère que l’outil pourrait être utilisé par les plateformes de médias sociaux, les régulateurs et plus encore.

Markey a expliqué que l’approche développée pour la recherche de la NIDA pourrait être généralisée pour lutter contre d’autres formes de cybercrime, telles que le trafic d’animaux ou la vente illégale d’armes à feu. Instagram a eu des problèmes avec le trafic d’animaux sauvages auparavant, interdisant la publicité de toutes les ventes d’animaux en 2017 en réponse. La société tente également de supprimer toutes les publications liées au trafic d’animaux dès qu’elles apparaissent, mais malgré cela, il existe un marché noir pour les animaux exotiques et les publicités pour ces animaux apparaissent toujours dans les recherches Instagram.

Il y a des problèmes éthiques qui devront être négociés si l’outil de la NIDA est mis en œuvre. Les experts en politique de drogues avertissent qu’il pourrait permettre la criminalisation excessive de la vente par des revendeurs de drogues de bas niveau et qu’il pourrait également donner une fausse impression que le problème est résolu, même si de tels outils d’IA ne réduisent pas la demande globale de la substance. Néanmoins, si utilisés correctement, les outils d’IA pourraient aider les agences de police à établir des liens entre les vendeurs en ligne et les chaînes d’approvisionnement hors ligne, les aidant ainsi à quantifier l’ampleur du problème. De plus, des techniques similaires à celles utilisées par la NIDA pourraient être utilisées pour lutter contre la dépendance aux opioïdes, en dirigeant les gens vers des sources de réadaptation lorsque des recherches sont effectuées. Comme pour toute innovation, il y a à la fois des risques et des opportunités.