AI åbner op for nye måder at bekæmpe ulovlig opioid-salg og anden cyberkriminalitet

US HHS (Department of Health and Human Services) og National Institute on Drug Abuse (NIDA) investerer i brugen af AI til at begrænse det ulovlige salg af opioider og håber at reducere misbrug af stoffer. Som Vox rapporterede, vil NIDAs AI-værktøj forsøge at spore ulovlige internettet-apoteker, men de tilgange, der bruges af AI, kan let anvendes til at bekæmpe andre former for cyberkriminalitet.

En af forskerne, der er ansvarlig for udviklingen af værktøjet, Timothy Mackey, talte nyligt med Vox, hvor det blev forklaret, at AI-algoritmerne, der bruges til at spore det ulovlige salg af opioider, også kan bruges til at opdage andre former for ulovligt salg, såsom forfalskede produkter og ulovlig handel med vilde dyr.

NIDAs AI-værktøj må kunne skelne mellem generel diskussion om opioider og forsøg på at forhandle salget af opioider. Ifølge Mackey er det kun en relativt lille procentdel af tweets, der henviser til opioider, der faktisk er relateret til det ulovlige salg af opioider. Mackey forklarede, at af omkring 600.000 tweets, der henviser til en af flere forskellige opioider, var det kun omkring 2.000, der faktisk markedsførte disse stoffer på nogen måde. AI-værktøjet må også være robust nok til at følge med i ændringerne i sprogbrugen til at markedsføre opioider ulovligt. Personer, der ulovligt sælger stoffer, bruger ofte kodede ord og ikke-åbenlyse nøgleord til at sælge dem, og de skifter hurtigt strategi. Mackey forklarede, at fejlstavede alias for navnene på stofferne ofte bruges, og at billeder af andre ting end stofferne i spørgsmålet ofte bruges til at oprette lister på hjemmesider som Instagram.

mens Instagram og Facebook (META ) forbinder markedsføring af stoffer og opmuntrer brugere til at rapportere tilfælde af misbrug, kan det ulovlige indhold være meget svært at fange, præcis fordi stofsalgere tendenser til at skifte strategi og kodeord hurtigt. Mackey forklarede, at disse kodede indlæg og hashtags på Instagram typisk indeholder information om, hvordan man kan kontakte forhandleren og købe ulovlige stoffer fra dem. Mackey forklarede også, at nogle ulovlige sælgere præsenterer sig som legitime farmaceutiske virksomheder og linker til e-handelsplatforme. Mens FDA ofte har forsøgt at bekæmpe disse hjemmesider, er de stadig et problem.

Ved at designe AI-værktøjer til at opdage ulovligt stofsalg, anvendte Mackey og resten af forskningsteamet en kombination af dyb læring og emne-modelering. Forskningsteamet designede et dyb læring-model, der anvendte en Long Short-Term Memory-netværk trænet på tekst fra Instagram-indlæg, med målet om at skabe en tekst-klassificator, der kunne automatisk markere indlæg, der kunne være relateret til ulovligt stofsalg. Forskningsteamet anvendte også emne-modelering, der lod deres AI-model afkode nøgleord associeret med opioider som Fentanyl og Percocet. Dette kan gøre modellen mere robust og sofistikeret, og den kan matche emner og samtaler, ikke kun enkeltord. Emne-modeleringen hjalp forskningsteamet med at reducere en dataset på omkring 30.000 tweets om fentanyl til kun en håndfuld tweets, der syntes at markedsføre det.

Markey og resten af forskningsteamet må have udviklet deres AI-applikation til brug af NIDA, men sociale medie-selskaber som Facebook, Twitter, Reddit og YouTube investerer også kraftigt i brugen af AI til at markere indhold, der krænker deres politikker. Ifølge Markey har han været i kontakt med Twitter og Facebook om sådan en applikation tidligere, men lige nu er fokus på at skabe en kommercielt tilgængelig applikation baseret på hans forskning for NIDA, og han håber, at værktøjet kan bruges af sociale medie-platforme, regulatører og mere.

Markey forklarede, at tilgangen, der blev udviklet til NIDA-forskningen, kan generaliseres til at bekæmpe andre former for cyberkriminalitet, såsom handel med dyr eller ulovligt salg af skydevåben. Instagram har haft problemer med ulovlig handel med dyr tidligere, forbød reklamen for alle dyresalg i 2017 som svar, og selskabet prøver at fjerne alle indlæg relateret til dyrehandel, så snart de dukker op, men på trods af dette er der stadig et sort marked for eksotiske kæledyr, og annoncer for dem dukker stadig op i Instagram-søgninger.

Der er nogle etiske problemer, der skal forhandles, hvis NIDAs værktøj skal implementeres. Stofpolitik-eksperter advarer om, at det kan muliggøre over-kriminalisering af salg fra lav-niveau-stofsalgere, og at det også kan give den forkerte indtryk, at problemet løses, selvom sådanne AI-værktøjer måske ikke reducerer den samlede efterspørgsel på stoffet. Alligevel, hvis det bruges korrekt, kan AI-værktøjerne hjælpe lovenkraftsmyndighederne med at etablere forbindelser mellem online-sælgere og offline-forsyningskæder, hvilket hjælper dem med at kvantificere problemets omfang. Derudover kan lignende teknikker, som dem, der bruges af NIDA, anvendes til at bekæmpe opioid-afhængighed, ved at dirigere folk mod rehabiliteringskilder, når søgninger udføres. Som med alle innovationer er der både risici og muligheder.