AI opent nieuwe manieren om illegale opiod-verkoop en andere cybercriminaliteit te bestrijden

Het Amerikaanse HHS (Department of Health and Human Services) en het National Institute on Drug Abuse (NIDA) investeren in het gebruik van AI om de illegale verkoop van opioïden te beteugelen en hopelijk het drugsmisbruik terug te dringen. Zoals Vox meldde, zal de AI-tool van NIDA proberen illegale internetfarmaceutische markten te volgen, maar de benaderingen die door de AI worden gebruikt, kunnen gemakkelijk worden toegepast op andere vormen van cybercriminaliteit.

Een van de onderzoekers die verantwoordelijk is voor de ontwikkeling van de tool, Timothy Mackey, sprak onlangs met Vox, waar werd uitgelegd dat de AI-algoritmen die worden gebruikt om de illegale verkoop van opioïden te volgen, ook kunnen worden gebruikt om andere vormen van illegale verkoop op te sporen, zoals namaakproducten en illegale handel in wilde dieren en planten.

De AI-tool van NIDA moet onderscheid kunnen maken tussen algemene discussie over opioïden en pogingen om te onderhandelen over de verkoop van opioïden. Volgens Mackey houdt slechts een relatief klein percentage van de tweets die verwijzen naar opioïden daadwerkelijk verband met de illegale verkoop van opioïden. Mackey legde uit dat van de ongeveer 600,000 tweets die verwijzen naar een van de verschillende opioïden, er slechts ongeveer 2,000 die drugs daadwerkelijk op de markt brachten. De AI-tool moet ook robuust genoeg zijn om gelijke tred te houden met de veranderingen in de taal die wordt gebruikt om opioïden illegaal op de markt te brengen. Mensen die illegaal drugs verkopen, gebruiken vaak gecodeerde taal en niet voor de hand liggende trefwoorden om ze te verkopen, en ze veranderen snel van strategie. Mackey legt uit dat verkeerd gespelde aliassen voor de namen van drugs vaak worden gebruikt en dat afbeeldingen van andere dingen dan de drugs in kwestie vaak worden gebruikt om vermeldingen op websites zoals Instagram te maken.

Hoewel Instagram en Facebook het op de markt brengen van drugs verbieden en gebruikers aanmoedigen om gevallen van misbruik te melden, kan de illegale inhoud erg moeilijk te vangen zijn, juist omdat drugsverkopers de neiging hebben om snel van strategie te veranderen en woorden te coderen. Mackey legde uit dat deze gecodeerde berichten en hashtags op Instagram doorgaans informatie bevatten over hoe je contact kunt opnemen met de dealer en hoe je illegale drugs bij hen kunt kopen. Mackey legde ook uit dat sommige illegale verkopers zichzelf voordoen als legitieme farmaceutische bedrijven en linken naar e-commerceplatforms. Hoewel de FDA vaak heeft geprobeerd deze sites aan te pakken, blijven ze een probleem.

Bij het ontwerpen van AI-tools om illegale drugsmarketing op te sporen, gebruikten Mackey en de rest van het onderzoeksteam een ​​combinatie van diepgaand leren en onderwerp modellering. Het onderzoeksteam ontwierp een deep learning-model dat gebruik maakte van een Long Short-Term Memory-netwerk dat getraind was op de tekst van Instagram-berichten, met als doel een tekstclassificator te creëren die automatisch berichten kon markeren die verband konden houden met de verkoop van illegale drugs. Het onderzoeksteam maakte ook gebruik van topic-modellering, waardoor hun AI-model trefwoorden kon onderscheiden die verband hielden met opioïden zoals Fentanyl en Percocet. Dit kan het model robuuster en verfijnder maken, en het kan onderwerpen en gesprekken matchen, niet alleen losse woorden. Dankzij de onderwerpmodellering kon het onderzoeksteam een ​​dataset van ongeveer 30,000 tweets over fentanyl terugbrengen tot slechts een handvol tweets die het op de markt leken te brengen.

Markey en de rest van het onderzoeksteam hebben hun AI-applicatie misschien ontwikkeld voor gebruik door NIDA, maar socialemediabedrijven zoals Facebook, Twitter, Reddit en YouTube investeren ook zwaar in het gebruik van AI om inhoud te markeren die in strijd is met hun beleid. Volgens Markey is hij al eerder in gesprek geweest met Twitter en Facebook over een dergelijke toepassing, maar op dit moment ligt de focus op het maken van een commercieel verkrijgbare toepassing op basis van zijn onderzoek voor NIDA, en hoopt hij dat de tool kan worden gebruikt door sociale media. platforms, toezichthouders en meer.

Markey legt uit dat de aanpak die is ontwikkeld voor het NIDA-onderzoek kan worden veralgemeend om andere vormen van cybercriminaliteit te bestrijden, zoals de handel in dieren of de illegale verkoop van vuurwapens. Instagram heeft gehad problemen met illegale dierenhandel eerder, het verbieden van reclame voor alle dierenverkopen in 2017 als reactie. Het bedrijf probeert ook berichten met betrekking tot dierenhandel te verwijderen zodra ze opduiken, maar desondanks is er een voortdurende zwarte markt voor exotische huisdieren en verschijnen er nog steeds advertenties voor in Instagram-zoekopdrachten.

Er zijn enkele ethische kwesties waarover moet worden onderhandeld als de NIDA-tool moet worden geïmplementeerd. Deskundigen op het gebied van drugsbeleid waarschuwen dat het de overcriminalisering van de verkoop door laaggeplaatste drugsverkopers mogelijk zou kunnen maken en dat het ook de verkeerde indruk zou kunnen wekken dat het probleem wordt opgelost, hoewel dergelijke AI-tools de algehele vraag naar de stof misschien niet verminderen. Desalniettemin kunnen de AI-tools, mits correct gebruikt, wetshandhavingsinstanties helpen om verbanden te leggen tussen online verkopers en offline toeleveringsketens, waardoor ze de omvang van het probleem kunnen kwantificeren. Bovendien zouden vergelijkbare technieken als die van NIDA kunnen worden gebruikt om opioïdeverslaving te helpen bestrijden, waarbij mensen bij zoekopdrachten naar rehabilitatiebronnen worden geleid. Zoals bij elke innovatie zijn er zowel risico's als kansen.