L’IA ouvre de nouvelles voies pour lutter contre les ventes illégales d’opioïdes et d’autres cybercrimes

Le département américain de la Santé et des Services sociaux (HHS) et le National Institute on Drug Abuse (NIDA) investissent dans l’utilisation de l’IA pour limiter les ventes illégales d’opioïdes et, espérons-le, réduire l’abus de drogues. Comme l’a rapporté Vox, l’outil d’IA de NIDA s’efforcera de suivre les marchés pharmaceutiques illégaux sur Internet, mais les approches utilisées par l’IA pourraient facilement être appliquées à d’autres formes de cybercrime.

L’un des chercheurs responsables du développement de l’outil, Timothy Mackey, a récemment parlé à Vox, où il a expliqué que les algorithmes d’IA utilisés pour suivre les ventes illégales d’opioïdes pourraient également être utilisés pour détecter d’autres formes de ventes illégales, telles que les produits contrefaits et le trafic d’animaux sauvages.

L’outil d’IA de NIDA doit être capable de distinguer entre les discussions générales sur les opioïdes et les tentatives de négociation de la vente d’opioïdes. Selon Mackey, seul un pourcentage relativement faible de tweets faisant référence aux opioïdes est réellement lié aux ventes illégales d’opioïdes. Mackey a expliqué qu’environ 600 000 tweets faisant référence à l’un des plusieurs opioïdes différents ne contiennent que environ 2 000 qui commercialisent ces drogues d’une manière ou d’une autre. L’outil d’IA doit également être suffisamment robuste pour suivre les changements dans le langage utilisé pour commercialiser illégalement les opioïdes. Les personnes qui vendent illégalement des drogues utilisent fréquemment un langage codé et des mots clés non évidents pour les vendre, et elles changent rapidement de stratégie. Mackey explique que des alias mal orthographiés pour les noms de drogues sont couramment utilisés et que des images de choses autres que les drogues en question sont souvent utilisées pour créer des listes sur des sites comme Instagram.

Alors que Instagram et Facebook interdisent la commercialisation de drogues et encouragent les utilisateurs à signaler les cas d’abus, le contenu illégal peut être très difficile à détecter, précisément parce que les vendeurs de drogues tendent à changer de stratégie et de mots de code rapidement. Mackey a expliqué que ces publications codées et ces hashtags sur Instagram contiennent généralement des informations sur la façon de contacter le revendeur et d’acheter des drogues illégales auprès d’eux. Mackey a également expliqué que certains vendeurs illégaux se présentent comme des sociétés pharmaceutiques légitimes et lient à des plates-formes de commerce électronique. Alors que la FDA a souvent tenté de lutter contre ces sites, ils restent un problème.

Dans la conception d’outils d’IA pour détecter le marketing de drogues illégales, Mackey et le reste de l’équipe de recherche ont utilisé une combinaison de deep learning et de modélisation de sujet. L’équipe de recherche a conçu un modèle d’apprentissage profond qui a utilisé un réseau à mémoire à court terme (LSTM) formé sur le texte des publications Instagram, dans le but de créer un classificateur de texte qui pourrait automatiquement signaler les publications qui pourraient être liées à des ventes de drogues illégales. L’équipe de recherche a également utilisé la modélisation de sujet, laissant son modèle d’IA discerner les mots clés associés aux opioïdes comme le Fentanyl et le Percocet. Cela peut rendre le modèle plus robuste et plus sophistiqué, et il est capable de correspondre aux sujets et aux conversations, et non seulement à des mots isolés. La modélisation de sujet a aidé l’équipe de recherche à réduire un ensemble de données de environ 30 000 tweets concernant le Fentanyl à seulement une poignée de tweets qui semblaient commercialiser ce produit.

Markey et le reste de l’équipe de recherche peuvent avoir développé leur application d’IA pour une utilisation par NIDA, mais des sociétés de médias sociaux comme Facebook, Twitter, Reddit et YouTube investissent également massivement dans l’utilisation de l’IA pour signaler le contenu qui viole leurs politiques. Selon Markey, il a discuté avec Twitter et Facebook de telles applications auparavant, mais pour l’instant, l’accent est mis sur la création d’une application commercialement disponible basée sur ses recherches pour NIDA, et il espère que l’outil pourrait être utilisé par les plateformes de médias sociaux, les régulateurs et plus encore.

Markey a expliqué que l’approche développée pour la recherche de NIDA pourrait être généralisée pour lutter contre d’autres formes de cybercrime, telles que le trafic d’animaux ou la vente illégale d’armes à feu. Instagram a eu des problèmes avec le trafic d’animaux illégaux auparavant, en interdisant la publicité de toutes les ventes d’animaux en 2017 en réponse. La société essaie également de supprimer toutes les publications liées au trafic d’animaux dès qu’elles apparaissent, mais malgré cela, il existe un marché noir pour les animaux de compagnie exotiques et les publicités pour ceux-ci apparaissent toujours dans les recherches Instagram.

Il existe certains problèmes éthiques qui devront être négociés si l’outil NIDA est mis en œuvre. Les experts en politiques de drogues avertissent qu’il pourrait permettre la sur-criminalisation des ventes par des vendeurs de drogues de bas niveau et qu’il pourrait également donner une fausse impression que le problème est résolu, même si de tels outils d’IA peuvent ne pas réduire la demande globale de la substance. Néanmoins, si utilisés correctement, les outils d’IA pourraient aider les agences de lutte contre la criminalité à établir des liens entre les vendeurs en ligne et les chaînes d’approvisionnement hors ligne, les aidant à quantifier l’ampleur du problème. De plus, des techniques similaires à celles utilisées par NIDA pourraient être utilisées pour lutter contre l’addiction aux opioïdes, en dirigeant les gens vers des sources de réadaptation lorsque des recherches sont effectuées. Comme pour toute innovation, il existe à la fois des risques et des opportunités.