AI åpner opp nye måter å bekjempe ulovlig opioid-salg og annen cyberkriminalitet

USAs HHS (Departementet for helse og humanoide tjenester) og National Institute on Drug Abuse (NIDA) investerer i bruk av AI for å begrense ulovlig salg av opioider og håpefullt redusere narkotikamisbruk. Som Vox rapporterte, vil NIDAs AI-verktøy forsøke å spore ulovlige internettbaserte farmasøytiske markeder, men tilnærmingene brukt av AI kan lett bli brukt til å bekjempe andre former for cyberkriminalitet.

En av forskerne ansvarlig for utviklingen av verktøyet, Timothy Mackey, snakket nylig med Vox, der det ble forklart at AI-algoritmene brukt til å spore ulovlig salg av opioider også kan brukes til å oppdage andre former for ulovlige salg, som for eksempel forfalskede produkter og ulovlig dyrehandel.

NIDAs AI-verktøy må kunne skille mellom generell diskusjon om opioider og forsøk på å forhandle salg av opioider. Ifølge Mackey er det bare en relativt liten prosent av tweets som refererer til opioider som faktisk er relatert til ulovlig salg av opioider. Mackey forklarte at av omtrent 600 000 tweets som refererer til en av flere ulike opioider, var det bare omtrent 2 000 som faktisk markedsførte disse legemidlene på noen måte. AI-verktøyet må også være robust nok til å holde pace med endringer i språket brukt til å markedsføre opioider ulovlig. Personer som selger narkotika ulovlig bruker ofte kodede ord og ikke-åpenbare nøkkelord for å selge dem, og de endrer raskt strategi. Mackey forklarer at feilskrevne aliaser for navn på legemidler ofte brukes og at bilder av ting som ikke er legemidlene i question ofte brukes til å lage annonser på nettsteder som Instagram.

Mens Instagram og Facebook (META ) forbød markedsføring av narkotika og oppmuntret brukerne til å rapportere tilfeller av misbruk, kan det ulovlige innholdet være svært vanskelig å fange, nettopp fordi narkotikasalgere ofte endrer strategi og kodeord raskt. Mackey forklarte at disse kodede innleggene og hashtagene på Instagram vanligvis inneholder informasjon om hvordan man kan kontakte selgeren og kjøpe ulovlige narkotika fra dem. Mackey forklarte også at noen ulovlige selgere utgir seg for å være legitime farmasøytiske selskaper og lenker til e-handelsplattformer. Mens FDA ofte har forsøkt å knuse disse nettstedene, forblir de et problem.

Ved å utforme AI-verktøy for å oppdage ulovlig narkotikamarkedsføring, brukte Mackey og resten av forskningsteamet en kombinasjon av dypt læring og emne-modellering. Forskningsteamet designet en dypt læring-modell som brukte en Long Short-Term Memory-nettverk trent på tekst fra Instagram-innlegg, med målet om å skape en tekst-klassifiserer som kunne automatisk flagge innlegg som kunne være relatert til ulovlig narkotikasalg. Forskningsteamet brukte også emne-modellering, og lot deres AI-modell skjønne nøkkelord assosiert med opioider som Fentanyl og Percocet. Dette kan gjøre modellen mer robust og sofistikert, og den kan matche emner og samtaler, ikke bare enkeltord. Emne-modelleringen hjalp forskningsteamet til å redusere en datasett på omtrent 30 000 tweets om fentanyl til bare en håndfull tweets som syntes å markedsføre det.

Markey og resten av forskningsteamet kan ha utviklet deres AI-applikasjon for bruk av NIDA, men sosiale medie-selskaper som Facebook, Twitter, Reddit og YouTube investerer også tungt i bruk av AI for å flagge innhold som krenker deres retningslinjer. Ifølge Markey har han vært i samtaler med Twitter og Facebook om en slik applikasjon tidligere, men for øyeblikket ligger fokuset på å skape en kommersielt tilgjengelig applikasjon basert på hans forskning for NIDA, og han håper at verktøyet kan bli brukt av sosiale medie-plattformer, regulatorer og mer.

Markey forklarte at tilnærmingen utviklet for NIDA-forskningen kan bli generalisert til å bekjempe andre former for cyberkriminalitet, som for eksempel dyrehandel eller ulovlig salg av skytevåpen. Instagram har hatt problemer med ulovlig dyrehandel tidligere, og forbød reklame for alle dyresalg i 2017 som en reaksjon. Selskapet prøver også å fjerne alle innlegg relatert til dyrehandel så snart de dukker opp, men til tross for dette finnes det fortsatt en svart marked for eksotiske kjæledyr og annonser for dem dukker fortsatt opp i Instagram-søk.

Det finnes noen etiske problemer som må bli forhandlet hvis NIDAs verktøy skal bli implementert. Narkotikapolitikkeksperter advarer mot at det kan muliggjøre over-kriminalisering av salg fra lav-nivå narkotikasalgere og at det også kan gi en feilaktig inntrykk av at problemet blir løst, selv om slike AI-verktøy kanskje ikke reduserer den totale etterspørselen etter stoffet. Likevel, hvis det brukes riktig, kan AI-verktøyet hjelpe lovens håndheving til å etablere lenker mellom nettbaserte selgere og offline-forsyningskjeder, og hjelpe dem til å kvantifisere omfanget av problemet. I tillegg kan lignende teknikk som den brukt av NIDA bli brukt til å hjelpe mot opioid-avhengighet, og rette folk mot rehabiliterende kilder når søk blir gjort. Som med alle innovasjoner, finnes det både risiko og muligheter.