KI öffnet neue Wege, um den illegalen Verkauf von Opioiden und anderen Cyberkriminalitäten zu bekämpfen

Das US-amerikanische Gesundheitsministerium (HHS) und das National Institute on Drug Abuse (NIDA) investieren in die Nutzung von KI, um den illegalen Verkauf von Opioiden zu bekämpfen und die Drogenmissbrauch zu reduzieren. Wie Vox berichtet, wird das KI-Tool von NIDA darauf abzielen, illegale Internet-Apotheken zu verfolgen, aber die Ansätze, die von der KI verwendet werden, könnten leicht auf andere Formen von Cyberkriminalität angewendet werden.

Einer der Forscher, die an der Entwicklung des Tools beteiligt sind, Timothy Mackey, sprach kürzlich mit Vox, wo erklärte, dass die KI-Algorithmen, die zur Verfolgung des illegalen Verkaufs von Opioiden verwendet werden, auch zur Erkennung anderer Formen von illegalen Verkäufen, wie z.B. gefälschte Produkte und illegaler Wildtierhandel, eingesetzt werden könnten.

Das KI-Tool von NIDA muss in der Lage sein, zwischen allgemeinen Diskussionen über Opioiden und Versuchen, den Verkauf von Opioiden zu verhandeln, zu unterscheiden. Laut Mackey betrifft nur ein relativ kleiner Prozentsatz der Tweets, die Opioiden erwähnen, tatsächlich den illegalen Verkauf von Opioiden. Mackey erklärte, dass von etwa 600.000 Tweets, die verschiedene Opioiden erwähnen, nur etwa 2.000 diese Drogen in irgendeiner Weise bewarben. Das KI-Tool muss auch robust genug sein, um mit den Änderungen in der Sprache zu halten, die zur illegalen Bewerbung von Opioiden verwendet wird. Menschen, die Drogen illegal verkaufen, verwenden häufig codierte Sprache und nicht offensichtliche Schlüsselwörter, um sie zu verkaufen, und ändern schnell ihre Strategien. Mackey erklärt, dass fehlerhafte Aliase für Drogennamen häufig verwendet werden und dass Bilder von Dingen, die nicht die betreffenden Drogen sind, oft verwendet werden, um Listen auf Websites wie Instagram zu erstellen.

Während Instagram und Facebook (META ) die Bewerbung von Drogen verbieten und die Nutzer ermutigen, Fälle von Missbrauch zu melden, kann der illegale Inhalt sehr schwer zu fassen sein, genau weil Drogenhändler ihre Strategien und Code-Wörter schnell ändern. Mackey erklärte, dass diese codierten Beiträge und Hashtags auf Instagram typischerweise Informationen darüber enthalten, wie man den Händler kontaktieren und illegale Drogen von ihm kaufen kann. Mackey erklärte auch, dass einige illegale Verkäufer sich als legale Pharmazeuten ausgeben und auf E-Commerce-Plattformen verlinken. Obwohl die FDA oft versucht hat, diese Seiten zu bekämpfen, bleiben sie ein Problem.

Bei der Entwicklung von KI-Tools zur Erkennung von illegalen Drogenbewerbungen nutzten Mackey und das restliche Forschungsteam eine Kombination aus Deep Learning und Topic-Modellierung. Das Forschungsteam entwickelte ein Deep-Learning-Modell, das ein Long Short-Term Memory-Netzwerk verwendete, das auf den Text von Instagram-Beiträgen trainiert wurde, mit dem Ziel, einen Text-Klassifizierer zu erstellen, der Beiträge automatisch markieren kann, die mit dem illegalen Verkauf von Drogen in Verbindung stehen. Das Forschungsteam nutzte auch die Topic-Modellierung, um Schlüsselwörter zu erkennen, die mit Opioiden wie Fentanyl und Percocet in Verbindung stehen. Dies kann das Modell robuster und komplexer machen und es ermöglichen, Themen und Gespräche zu erkennen, nicht nur einzelne Wörter. Die Topic-Modellierung half dem Forschungsteam, eine Datenmenge von etwa 30.000 Tweets über Fentanyl auf nur eine Handvoll Tweets zu reduzieren, die anscheinend Fentanyl bewarben.

Markey und das restliche Forschungsteam mögen ihre KI-Anwendung für die NIDA entwickelt haben, aber soziale Medien wie Facebook, Twitter, Reddit und YouTube investieren auch stark in die Nutzung von KI, um Inhalte zu markieren, die gegen ihre Richtlinien verstoßen. Laut Markey hat er mit Twitter und Facebook über eine solche Anwendung gesprochen, aber derzeit liegt der Fokus darauf, eine kommerziell verfügbare Anwendung auf der Grundlage seiner Forschung für die NIDA zu erstellen, und er hofft, dass das Tool von sozialen Medien-Plattformen, Regulierungsbehörden und mehr verwendet werden kann.

Markey erklärte, dass der Ansatz, der für die NIDA-Forschung entwickelt wurde, auch auf andere Formen von Cyberkriminalität wie den Handel mit Tieren oder den illegalen Verkauf von Schusswaffen angewendet werden kann. Instagram hatte Probleme mit dem illegalen Handel mit Tieren und verbot 2017 die Bewerbung von Tierverkäufen als Reaktion. Das Unternehmen versucht auch, alle Beiträge im Zusammenhang mit dem Handel mit Tieren so schnell wie möglich zu entfernen, aber trotzdem gibt es einen anhaltenden Schwarzmarkt für exotische Haustiere und Anzeigen für sie erscheinen immer noch in Instagram-Suchen.

Es gibt einige ethische Fragen, die geklärt werden müssen, wenn das NIDA-Tool implementiert wird. Drogenpolitik-Experten warnen, dass es die Überkriminalisierung von Verkäufen durch niedrigere Drogenhändler ermöglichen könnte und dass es auch den falschen Eindruck erwecken könnte, dass das Problem gelöst wird, obwohl solche KI-Tools möglicherweise nicht die Gesamtnachfrage nach der Substanz reduzieren. Dennoch könnten die KI-Tools, wenn sie ordnungsgemäß verwendet werden, den Strafverfolgungsbehörden helfen, Verbindungen zwischen Online-Verkäufern und Offline-Lieferketten herzustellen und ihnen dabei helfen, den Umfang des Problems zu quantifizieren. Darüber hinaus könnten ähnliche Techniken wie die, die von der NIDA verwendet werden, eingesetzt werden, um den Kampf gegen Opioid-Sucht zu unterstützen, indem Menschen bei Suchanfragen zu rehabilitativen Quellen geleitet werden. Wie bei jeder Innovation gibt es sowohl Risiken als auch Chancen.