AI åbner op for nye måder at bekæmpe ulovlig opioid-salg og anden cyberkriminalitet

Det amerikanske sundheds- og menneskettjenesteministerium (US HHS) og National Institute on Drug Abuse (NIDA) investerer i brugen af AI til at begrænse det ulovlige salg af opioids og håber at reducere misbrug af stoffer. Som Vox rapporterede, vil NIDA’s AI-værktøj forsøge at spore ulovlige internet-apoteker, men de tilgange, der bruges af AI, kan let anvendes på andre former for cyberkriminalitet.

En af forskerne, der er ansvarlig for udviklingen af værktøjet, Timothy Mackey, talte nylig til Vox, hvor det blev forklaret, at de AI-algoritmer, der bruges til at spore det ulovlige salg af opioids, også kan bruges til at opdage andre former for ulovligt salg, såsom forfalskede produkter og ulovlig handel med vilde dyr.

NIDA’s AI-værktøj må være i stand til at skelne mellem almindelig diskussion om opioids og forsøg på at forhandle salget af opioids. Ifølge Mackey er det kun en relativt lille procentdel af tweets, der henviser til opioids, der faktisk er relateret til det ulovlige salg af opioids. Mackey forklarede, at af omkring 600.000 tweets, der henviser til en af flere forskellige opioids, var det kun omkring 2.000, der faktisk markedsførte stofferne på nogen måde. AI-værktøjet må også være robust nok til at følge med i ændringerne i sprogbrugen til at markedsføre opioids ulovligt. Personer, der ulovligt sælger stoffer, bruger ofte kodede ord og ikke-åbenlyse nøgleord til at sælge dem, og de skifter hurtigt strategi. Mackey forklarede, at fejlstavede aliaser for navnene på stofferne ofte bruges, og at billeder af andre ting end stofferne i spørgsmål ofte bruges til at oprette lister på websteder som Instagram.

Mens Instagram og Facebook forbuder markedsføring af stoffer og opmuntrer brugere til at rapportere tilfælde af misbrug, kan det ulovlige indhold være meget svært at fange, præcis fordi stofsalgere tendenser til at skifte strategi og kodeord hurtigt. Mackey forklarede, at disse kodede indlæg og hashtags på Instagram typisk indeholder information om, hvordan man kan kontakte forhandleren og købe ulovlige stoffer fra dem. Mackey forklarede også, at nogle ulovlige sælgere præsenterer sig som legitime farmaceutiske virksomheder og linker til e-handelsplatforme. Mens FDA ofte har forsøgt at bekæmpe disse websteder, forbliver de et problem.

Ved at designe AI-værktøjer til at opdage ulovlig stofmarkedsføring, brugte Mackey og resten af forskningsteamet en kombination af dyb læring og emne-modelering. Forskningsteamet designede en dyb læring-model, der gjorde brug af en Long Short-Term Memory-netværk trænet på tekst fra Instagram-indlæg, med målet om at skabe en tekst-klassifikator, der kunne automatisk markere indlæg, der kunne være relateret til ulovligt stofsalg. Forskningsteamet brugte også emne-modelering, hvilket lod deres AI-model afkode nøgleord associeret med opioids som Fentanyl og Percocet. Dette kan gøre modellen mere robust og sofistikeret, og den kan matche emner og samtaler, ikke kun enkeltord. Emne-modeleringen hjalp forskningsteamet med at reducere en dataset på omkring 30.000 tweets om fentanyl til kun en håndfuld tweets, der syntes at markedsføre det.

Mackey og resten af forskningsteamet må have udviklet deres AI-applikation til brug af NIDA, men sociale medie-virksomheder som Facebook, Twitter, Reddit og YouTube investerer også kraftigt i brugen af AI til at markere indhold, der krænker deres politikker. Ifølge Mackey har han været i forhandlinger med Twitter og Facebook om en sådan applikation før, men lige nu er fokus på at skabe en kommercielt tilgængelig applikation baseret på hans forskning for NIDA, og han håber, at værktøjet kan bruges af sociale medie-platforme, regulatører og mere.

Mackey forklarede, at tilgangen, der er udviklet til NIDA-forskningen, kan generaliseres til at bekæmpe andre former for cyberkriminalitet, såsom handel med dyr eller ulovligt salg af skydevåben. Instagram har haft problemer med ulovlig dyrehandel før, forbød reklamen for alle dyresalg i 2017 som svar, og virksomheden forsøger også at fjerne alle indlæg relateret til dyrehandel, så snart de dukker op, men på trods af dette er der stadig en sort marked for eksotiske kæledyr, og annoncer for dem vises stadig i Instagram-søgninger.

Der er nogle etiske problemer, der skal forhandles, hvis NIDA-værktøjet skal implementeres. Stofpolitik-eksperter advarer om, at det kan muliggøre over-kriminalisering af salg af lavtniveau-stofsalgere, og at det også kan give en falsk forestilling om, at problemet er løst, selvom sådanne AI-værktøjer måske ikke reducerer det overordnede behov for stoffet. Alligevel, hvis det bruges korrekt, kan AI-værktøjerne hjælpe lovenkraftsmyndighederne med at etablere forbindelser mellem online-sælgere og offline-forsyningskæder, hvilket hjælper dem med at kvantificere omfanget af problemet. Desuden kan lignende teknikker som dem, der bruges af NIDA, anvendes til at bekæmpe opioid-afhængighed, ved at dirigere folk mod rehabiliteringskilder, når søgninger udføres. Som med alle innovationer, er der både risici og muligheder.