AI öppnar upp nya sätt att bekämpa olagliga opioidförsäljningar och annan cyberbrottslighet

USAs HHS (Departementet för hälsa och sociala tjänster) och National Institute on Drug Abuse (NIDA) investerar i användningen av AI för att bekämpa den olagliga försäljningen av opioider och hoppas på att minska drogmissbruk. Som Vox rapporterade, kommer NIDAs AI-verktyg att försöka spåra olagliga internetapotek, men de metoder som används av AI kan lätt tillämpas på andra former av cyberbrottslighet.

En av forskarna som ansvarar för utvecklingen av verktyget, Timothy Mackey, talade nyligen med Vox, där det förklarades att AI-algoritmerna som används för att spåra den olagliga försäljningen av opioider också kunde användas för att upptäcka andra former av olaglig försäljning, såsom förfalskade produkter och olaglig handel med vilda djur.

NIDAs AI-verktyg måste kunna skilja mellan allmän diskussion om opioider och försök att förhandla om försäljning av opioider. Enligt Mackey är endast en relativt liten procent av tweets som hänvisar till opioider faktiskt relaterade till den olagliga försäljningen av opioider. Mackey förklarade att av cirka 600 000 tweets som hänvisar till en av flera olika opioider var endast cirka 2 000 som marknadsförde dessa läkemedel på något sätt. AI-verktyget måste också vara tillräckligt robust för att hålla jämna steg med förändringar i språket som används för att olagligt marknadsföra opioider. Personer som olagligt säljer droger använder ofta koderat språk och icke-uppenbara nyckelord för att sälja dem, och de ändrar snabbt strategier. Mackey förklarar att felstavad alias för läkemedelsnamn ofta används och att bilder av saker som inte är de berörda läkemedlen ofta används för att skapa listor på webbplatser som Instagram.

Medan Instagram och Facebook (META ) förbjuder marknadsföring av droger och uppmuntrar användare att rapportera fall av missbruk, kan det olagliga innehållet vara mycket svårt att upptäcka, just för att drogsäljare tenderar att ändra strategier och kodord snabbt. Mackey förklarade att dessa koderade inlägg och hashtaggar på Instagram vanligtvis innehåller information om hur man kan kontakta langaren och köpa olagliga droger från dem. Mackey förklarade också att vissa olagliga säljare utger sig för att vara legitima apotek och länkar till e-handelsplattformar. Medan FDA ofta har försökt att krossa dessa webbplatser, kvarstår de som ett problem.

När det gäller att utforma AI-verktyg för att upptäcka olaglig drogmarknadsföring, använde Mackey och resten av forskarteamet en kombination av djupinlärning och ämnesmodellering. Forskarteamet utformade en djupinlärningsmodell som använde en Long Short-Term Memory-nätverksmodell som tränades på texten från Instagram-inlägg, med målet att skapa en textklassificerare som kunde automatiskt markera inlägg som kunde vara relaterade till olaglig drogförsäljning. Forskarteamet använde också ämnesmodellering, vilket tillät deras AI-modell att urskilja nyckelord som är associerade med opioider som Fentanyl och Percocet. Detta kan göra modellen mer robust och sofistikerad, och den kan matcha ämnen och samtal, inte bara enskilda ord. Ämnesmodelleringen hjälpte forskarteamet att reducera en dataset om cirka 30 000 tweets om fentanyl till bara ett fåtal tweets som tycktes marknadsföra det.

Markey och resten av forskarteamet kan ha utvecklat sin AI-applikation för användning av NIDA, men sociala mediebolag som Facebook, Twitter, Reddit och YouTube investerar också kraftigt i användningen av AI för att markera innehåll som bryter mot deras policyer. Enligt Markey har han varit i samtal med Twitter och Facebook om en sådan applikation tidigare, men just nu ligger fokus på att skapa en kommersiellt tillgänglig applikation baserad på hans forskning för NIDA, och han hoppas att verktyget kan användas av sociala medieplattformar, tillsynsmyndigheter och mer.

Markey förklarade att den metod som utvecklats för NIDA-forskningen kan generaliseras för att bekämpa andra former av cyberbrottslighet, såsom handel med djur eller olaglig försäljning av skjutvapen. Instagram har tidigare haft problem med olaglig handel med vilda djur, och förbjöd marknadsföring av alla djur i 2017 som svar. Företaget försöker också att ta bort alla inlägg som är relaterade till handel med vilda djur så snart de dyker upp, men trots detta finns det fortfarande en svart marknad för exotiska husdjur och annonser för dem dyker fortfarande upp i Instagrams sökningar.

Det finns vissa etiska frågor som måste förhandlas om NIDAs verktyg ska implementeras. Experter på drogpolicy varnar för att det kan möjliggöra överkriminalisering av försäljning av lågnivådrogsäljare och att det också kan ge en falsk bild av att problemet är löst, även om sådana AI-verktyg kanske inte minskar den totala efterfrågan på substansen. Trots detta kan AI-verktygen, om de används på rätt sätt, hjälpa brottsbekämpande myndigheter att etablera kopplingar mellan online-säljare och offline-försörjningskedjor, vilket hjälper dem att kvantifiera omfattningen av problemet. Dessutom kan liknande tekniker som de som används av NIDA användas för att bekämpa opioidberoende, genom att dirigera människor mot rehabiliteringskällor när sökningar görs. Som med alla innovationer, finns det både risker och möjligheter.