AI opent nieuwe wegen om illegale opioïdverkopen en andere cybercriminaliteit te bestrijden

Het Amerikaanse ministerie van Volksgezondheid en Human Services (HHS) en het National Institute on Drug Abuse (NIDA) investeren in het gebruik van AI om de illegale verkoop van opioïden tegen te gaan en hopelijk het misbruik van drugs te verminderen. Volgens Vox zal het AI-hulpmiddel van NIDA illegale internetapotheekmarkten proberen te volgen, maar de benaderingen die door de AI worden gebruikt, kunnen gemakkelijk worden toegepast op andere vormen van cybercriminaliteit.

Een van de onderzoekers die verantwoordelijk is voor de ontwikkeling van het hulpmiddel, Timothy Mackey, sprak onlangs met Vox, waar werd uitgelegd dat de AI-algoritmen die worden gebruikt om de illegale verkoop van opioïden te volgen, ook kunnen worden gebruikt om andere vormen van illegale verkoop te detecteren, zoals namaakproducten en illegale wildlifehandel.

Het AI-hulpmiddel van NIDA moet in staat zijn om het verschil te maken tussen algemene discussies over opioïden en pogingen om de verkoop van opioïden te onderhandelen. Volgens Mackey is slechts een relatief klein percentage van tweets over opioïden daadwerkelijk gerelateerd aan de illegale verkoop van opioïden. Mackey legde uit dat van ongeveer 600.000 tweets over verschillende opioïden, slechts ongeveer 2.000 daadwerkelijk deze medicijnen op de een of andere manier hebben geadverteerd. Het AI-hulpmiddel moet ook robuust genoeg zijn om bij te blijven met veranderingen in de taal die wordt gebruikt om opioïden illegaal te verkopen. Mensen die illegale drugs verkopen, gebruiken vaak gecodeerde taal en niet-evidente trefwoorden om ze te verkopen, en ze veranderen snel van strategie. Mackey legde uit dat foutief gespelde aliassen voor de namen van medicijnen vaak worden gebruikt en dat afbeeldingen van dingen die niet de desbetreffende medicijnen zijn, vaak worden gebruikt om lijsten op websites zoals Instagram te maken.

Terwijl Instagram en Facebook (META ) het adverteren van drugs verbieden en gebruikers aanmoedigen om gevallen van misbruik te melden, kan illegale inhoud erg moeilijk te detecteren zijn, juist omdat drugshandelaars vaak van strategie en codewoorden veranderen. Mackey legde uit dat deze gecodeerde berichten en hashtags op Instagram meestal informatie bevatten over hoe contact te leggen met de dealer en illegale drugs van hen te kopen. Mackey legde ook uit dat sommige illegale verkopers zich voordoen als legitieme farmaceutische bedrijven en linken naar e-commerceplatforms. Terwijl de FDA vaak heeft geprobeerd om deze sites aan te pakken, blijven ze een probleem.

Bij het ontwerpen van AI-hulpmiddelen om illegale drugsmarketing te detecteren, maakte Mackey en het rest van het onderzoeksteam gebruik van een combinatie van diepe leer en onderwerpsmodellering. Het onderzoeksteam ontwierp een diepe leermodel dat gebruik maakte van een Long Short-Term Memory-netwerk getraind op de tekst van Instagram-berichten, met als doel een tekstclassificator te maken die automatisch berichten kan markeren die mogelijk gerelateerd zijn aan illegale drugshandel. Het onderzoeksteam maakte ook gebruik van onderwerpsmodellering, waardoor hun AI-model trefwoorden in verband met opioïden zoals Fentanyl en Percocet kon ontdekken. Dit kan het model robuuster en geavanceerder maken, en het kan onderwerpen en gesprekken matchen, niet alleen afzonderlijke woorden. De onderwerpsmodellering hielp het onderzoeksteam een dataset van ongeveer 30.000 tweets over fentanyl te reduceren tot slechts een handvol tweets die leken te worden geadverteerd.

Markey en het rest van het onderzoeksteam hebben hun AI-toepassing mogelijk ontwikkeld voor gebruik door NIDA, maar socialemediabedrijven zoals Facebook, Twitter, Reddit en YouTube investeren ook zwaar in het gebruik van AI om inhoud te markeren die hun beleid schendt. Volgens Markey heeft hij eerder met Twitter en Facebook over dergelijke toepassingen gesproken, maar op dit moment ligt de focus op het creëren van een commercieel beschikbare toepassing op basis van zijn onderzoek voor NIDA, en hij hoopt dat het hulpmiddel kan worden gebruikt door socialemediaplatforms, regulators en meer.

Markey legde uit dat de benadering die voor het NIDA-onderzoek is ontwikkeld, kan worden gegeneraliseerd om andere vormen van cybercriminaliteit te bestrijden, zoals de handel in dieren of de illegale verkoop van vuurwapens. Instagram heeft eerder problemen gehad met illegale wildlifehandel, en heeft in 2017 alle dierverkopen verboden als reactie. Het bedrijf probeert ook alle berichten in verband met wildlifehandel te verwijderen zodra ze verschijnen, maar ondanks dit is er nog steeds een zwarte markt voor exotische huisdieren en advertenties voor hen verschijnen nog steeds in Instagram-zoekopdrachten.

Er zijn enkele ethische kwesties die moeten worden aangepakt als het NIDA-hulpmiddel wordt geïmplementeerd. Drugbeleidsexperts waarschuwen dat het de overcriminalisering van verkoop door lage drugshandelaars kan mogelijk maken en dat het ook een vals gevoel van veiligheid kan geven dat het probleem wordt opgelost, terwijl dergelijke AI-hulpmiddelen de totale vraag naar de stof mogelijk niet verminderen. Niettemin kunnen de AI-hulpmiddelen, als ze op de juiste manier worden gebruikt, helpen om de omvang van het probleem te kwantificeren en mensen te helpen die verslaafd zijn aan opioïden door ze te verwijzen naar rehabilitatiebronnen wanneer ze zoeken. Net als bij elke innovatie, zijn er zowel risico’s als kansen.