AI åpner for nye måter å bekjempe ulovlig opiodsalg og annen nettkriminalitet

Det amerikanske HHS (Department of Health and Human Services) og National Institute on Drug Abuse (NIDA) investerer i bruken av AI for å dempe ulovlig salg av opioider og forhåpentligvis redusere narkotikamisbruk. Som Vox rapporterte, NIDAs AI-verktøy vil forsøke å spore ulovlige farmasøytiske internettmarkeder, men tilnærmingene som brukes av AI kan lett brukes på andre former for nettkriminalitet.

En av forskerne ansvarlig for utviklingen av verktøyet, Timothy Mackey, snakket nylig med Vox, hvor det ble forklart at AI-algoritmene som brukes til å spore ulovlig salg av opioider, også kan brukes til å oppdage andre former for ulovlig salg, som forfalskede produkter og ulovlig handel med dyreliv.

NIDAs AI-verktøy skal kunne skille mellom generell diskusjon om opioider og forsøk på å forhandle om salg av opioider. Ifølge Mackey er bare en relativt liten prosentandel av tweets som refererer til opioider, faktisk relatert til ulovlig salg av opioider. Mackey forklarte at av omtrent 600,000 2,000 tweets som refererte til en av flere forskjellige opioider, var det bare rundt XNUMX som faktisk markedsførte disse stoffene på noen måte. AI-verktøyet må også være robust nok til å holde tritt med endringer i språket som brukes til ulovlig markedsføring av opioider. Folk som selger narkotika ulovlig bruker ofte kodet språk og ikke-opplagte søkeord for å selge dem, og de endrer raskt strategier. Mackey forklarer at feilstavede aliaser for navn på narkotika ofte brukes, og at bilder av andre ting enn de aktuelle stoffene ofte brukes til å lage oppføringer på nettsteder som Instagram.

Mens Instagram og Facebook forbyr markedsføring av narkotika og oppfordrer brukere til å rapportere tilfeller av misbruk, kan det ulovlige innholdet være svært vanskelig å fange opp, nettopp fordi narkotikaselgere har en tendens til å endre strategier og kodeord raskt. Mackey forklarte at disse kodede innleggene og hashtaggene på Instagram vanligvis inneholder informasjon om hvordan man kan kontakte forhandleren og kjøpe ulovlige stoffer fra dem. Mackey forklarte også at noen ulovlige selgere representerer seg selv som legitime farmasøytiske selskaper og kobler til e-handelsplattformer. Mens FDA ofte har forsøkt å slå ned på disse nettstedene, er de fortsatt et problem.

I utformingen av AI-verktøy for å oppdage ulovlig markedsføring av narkotika, brukte Mackey og resten av forskerteamet en kombinasjon av dyp læring og temamodellering. Forskerteamet designet en dyp læringsmodell som benyttet seg av et langtidsminne-nettverk trent på teksten til Instagram-innlegg, med mål om å lage en tekstklassifiserer som automatisk kunne flagge innlegg som kan være relatert til ulovlig narkotikasalg. Forskerteamet benyttet seg også av temamodellering, og lot AI-modellen deres skille nøkkelord assosiert med opioider som Fentanyl og Percocet. Dette kan gjøre modellen mer robust og sofistikert, og den er i stand til å matche emner og samtaler, ikke bare enkeltord. Temamodelleringen hjalp forskerteamet med å redusere et datasett på rundt 30,000 XNUMX tweets angående fentanyl til bare en håndfull tweets som så ut til å markedsføre det.

Markey og resten av forskerteamet kan ha utviklet sin AI-applikasjon for bruk av NIDA, men sosiale medieselskaper som Facebook, Twitter, Reddit og YouTube investerer også tungt i bruken av AI for å flagge innhold som bryter retningslinjene deres. Ifølge Markey har han vært i samtaler med Twitter og Facebook om en slik applikasjon før, men akkurat nå fokuserer han på å lage en kommersielt tilgjengelig applikasjon basert på forskningen hans for NIDA, og at han håper verktøyet kan brukes av sosiale medier plattformer, regulatorer og mer.

Markey forklarte at tilnærmingen utviklet for NIDA-forskningen kunne generaliseres for å bekjempe andre former for nettkriminalitet, som for eksempel handel med dyr eller ulovlig salg av skytevåpen. Instagram har hatt problemer med ulovlig dyrehandel før, forbud mot annonsering av alt dyresalg i 2017 som et svar. Selskapet prøver også å fjerne alle innlegg relatert til dyrehandel så snart de dukker opp, men til tross for dette er det fortsatt et svart marked for eksotiske kjæledyr og annonser for dem dukker fortsatt opp i Instagram-søk.

Det er noen etiske spørsmål som må forhandles om NIDA-verktøyet skal implementeres. Narkotikapolitiske eksperter advarer om at det kan muliggjøre overkriminalisering av salg av lavtstående narkotikaselgere, og at det også kan gi et falskt inntrykk av at problemet blir løst selv om slike AI-verktøy kanskje ikke reduserer den totale etterspørselen etter stoffet. Ikke desto mindre, hvis de brukes riktig, kan AI-verktøyene hjelpe rettshåndhevelsesbyråer med å etablere koblinger mellom online selgere og offline forsyningskjeder, og hjelpe dem med å kvantifisere omfanget av problemet. I tillegg kan lignende teknikker som de som brukes av NIDA brukes til å bekjempe opioidavhengighet, og lede folk mot rehabiliterende kilder når søk gjøres. Som med all innovasjon er det både risikoer og muligheter.