L'IA ouvre de nouvelles façons de lutter contre les ventes illégales d'opioïdes et d'autres cybercrimes

Le HHS (Department of Health and Human Services) américain et le National Institute on Drug Abuse (NIDA) investissent dans l'utilisation de l'IA pour freiner la vente illégale d'opioïdes et, espérons-le, réduire l'abus de drogues. Comme l'a rapporté Vox, l'outil d'IA de NIDA s'efforcera de suivre les marchés pharmaceutiques illégaux sur Internet, mais les approches utilisées par l'IA pourraient facilement être appliquées à d'autres formes de cybercriminalité.

L'un des chercheurs responsables du développement de l'outil, Timothy Mackey, a récemment parlé à Vox, où il a été expliqué que les algorithmes d'IA utilisés pour suivre la vente illégale d'opioïdes pourraient également être utilisés pour détecter d'autres formes de ventes illégales, telles que les produits contrefaits et le trafic illégal d'espèces sauvages.

L'outil d'IA de NIDA doit être capable de faire la distinction entre une discussion générale sur les opioïdes et des tentatives de négociation de la vente d'opioïdes. Selon Mackey, seul un pourcentage relativement faible de tweets faisant référence aux opioïdes sont en fait liés à la vente illégale d'opioïdes. Mackey a expliqué que sur environ 600,000 2,000 tweets faisant référence à l'un des nombreux opioïdes différents, seuls environ XNUMX XNUMX commercialisaient réellement ces médicaments de quelque manière que ce soit. L'outil d'IA doit également être suffisamment robuste pour suivre les changements dans le langage utilisé pour commercialiser illégalement les opioïdes. Les personnes qui vendent illégalement de la drogue utilisent fréquemment un langage codé et des mots clés non évidents pour les vendre, et elles changent rapidement de stratégie. Mackey explique que des alias mal orthographiés pour les noms de médicaments sont couramment utilisés et que des images d'autres choses que les médicaments en question sont souvent utilisées pour créer des listes sur des sites Web comme Instagram.

Alors qu'Instagram et Facebook interdisent la commercialisation de la drogue et encouragent les utilisateurs à signaler les cas d'abus, le contenu illégal peut être très difficile à détecter, précisément parce que les vendeurs de drogue ont tendance à changer rapidement de stratégie et de mots codés. Mackey a expliqué que ces publications et hashtags codés sur Instagram contiennent généralement des informations sur la façon de contacter le revendeur et de lui acheter des drogues illégales. Mackey a également expliqué que certains vendeurs illégaux se présentent comme des sociétés pharmaceutiques légitimes et se connectent à des plateformes de commerce électronique. Bien que la FDA ait souvent tenté de sévir contre ces sites, ils restent un problème.

Lors de la conception d'outils d'IA pour détecter le marketing de drogues illicites, Mackey et le reste de l'équipe de recherche ont utilisé une combinaison de l'apprentissage en profondeur ainsi que modélisation de sujet. L’équipe de recherche a conçu un modèle d’apprentissage profond utilisant un réseau de mémoire à long terme formé sur le texte des publications Instagram, dans le but de créer un classificateur de texte capable de signaler automatiquement les publications susceptibles d’être liées à la vente de drogues illégales. L’équipe de recherche a également utilisé la modélisation thématique, permettant à son modèle d’IA de discerner des mots-clés associés aux opioïdes comme le Fentanyl et le Percocet. Cela peut rendre le modèle plus robuste et sophistiqué, et il est capable de faire correspondre des sujets et des conversations, et pas seulement des mots isolés. La modélisation du sujet a aidé l’équipe de recherche à réduire un ensemble de données d’environ 30,000 XNUMX tweets concernant le fentanyl à seulement une poignée de tweets qui semblaient le commercialiser.

Markey et le reste de l'équipe de recherche ont peut-être développé leur application d'IA à l'usage du NIDA, mais les sociétés de médias sociaux comme Facebook, Twitter, Reddit et YouTube investissent également massivement dans l'utilisation de l'IA pour signaler les contenus qui enfreignent leurs politiques. Selon Markey, il a déjà eu des pourparlers avec Twitter et Facebook à propos d'une telle application, mais en ce moment, l'accent est mis sur la création d'une application disponible dans le commerce basée sur ses recherches pour NIDA, et il espère que l'outil pourra être utilisé par les médias sociaux. plates-formes, régulateurs, etc.

Markey a expliqué que l'approche développée pour la recherche du NIDA pourrait être généralisée pour lutter contre d'autres formes de cybercriminalité, comme le trafic d'animaux ou la vente illégale d'armes à feu. Instagram a eu problèmes de trafic illégal d'animaux avant, interdisant la publicité de toutes les ventes d'animaux en 2017 en guise de réponse. La société essaie également de supprimer tous les messages liés au trafic d'animaux dès qu'ils apparaissent, mais malgré cela, il existe un marché noir continu pour les animaux de compagnie exotiques et des publicités pour eux apparaissent toujours dans les recherches Instagram.

Certaines questions éthiques devront être négociées si l'outil NIDA doit être mis en œuvre. Les experts en politique des drogues avertissent que cela pourrait permettre la surcriminalisation des ventes par des vendeurs de drogue de bas niveau et que cela pourrait également donner la fausse impression que le problème est en train d'être résolu, même si ces outils d'IA ne réduisent pas la demande globale de la substance. Néanmoins, s'ils sont correctement utilisés, les outils d'IA pourraient aider les forces de l'ordre à établir des liens entre les vendeurs en ligne et les chaînes d'approvisionnement hors ligne, en les aidant à quantifier l'ampleur du problème. En outre, des techniques similaires à celles utilisées par le NIDA pourraient être utilisées pour aider à lutter contre la dépendance aux opioïdes, en orientant les personnes vers des sources de réadaptation lors des recherches. Comme pour toute innovation, il y a à la fois des risques et des opportunités.