AI identificerer Instagram-narkohandlere med næsten 95% nøjagtighed

Forskere i USA har udviklet et multimodalt machine learning-system, der kan identificere konti og indlæg fra narkohandlere på Instagram, ved at analysere en række indhold, herunder billedindhold.

Forskningsprojektet, der hedder Identificering af ulovlige narkohandlere på Instagram med stor skala multimodal datafusion, er et samarbejde mellem tre forskere fra West Virginia University og en fra Case Western Reserve University.

For at gennemføre projektet oprettede forskerne en database kaldet Identificering af narkohandlere på Instagram (IDDIG), der indeholder 4000 brugerkonti, hvoraf 1.400 er konti tilhørende narkohandlere, og resten som en kontrolgruppe til at teste identificeringsprocessen.

Rammeværket for det multimodale dealer-detectionsystem. Modellen inkluderer indsendte billeder, indsendte kommentarer samt information fra hjemmesidebilleder og biotekster på hjemmesiden. Kilde: https://arxiv.org/pdf/2108.08301.pdf

Initial testning af teknikken viser en næsten 95% nøjagtighed i identificering af Instagram-baserede narkohandlere, og rammeværket har også ført til et hashtag-baseret fællesskabsdetectionsprojekt designet til at opdage ændringer i tegn på aktivitet relateret til salg af ulovlige stoffer, ved hjælp af geografiske faktorer og identificering af specifikke stoftyper.

Da databasen, der er udviklet til projektet, kræver manuel mærkning, har rammeværket en brugervenlig annotationsystem, der anvender en klassifikationssystem baseret på Google’s Bidirectional Encoder Representations from Transformers (BERT), samt ResNet-baseret billedklassifikation.

Det web-baserede annotationsystem (med yderligere indikationer fra artiklens forfattere) for IDDIG.

Opdagelse af narkohandlere i stofrelaterede samtaler

Rekreative stoffer diskuteres i en bred vifte af sammenhænge på sociale medieplatforme som Instagram. Mange af dem, der poster, er forbrugere snarere end sælgere. Afhængigt af lovgivningen i deres lokalitet og muligheden for receptpligtige lægemidler, selv i lokaliteter, der adskiller sig i deres stoflovgivning, kan de også være lovlige forbrugere.

Stofrelaterede billeder, der er indført i projektets database.

Derudover er narkohandlernes adfærd på Instagram ikke altid eksplicit; ofte annoncerer de via kommentarer og hashtags i stedet for multimedieindlæg, som generelt ville være lettere at identificere som “narkohandel”-indhold, både for menneskelig og maskinoversigtssystemer. Derfor er hashtags og kommentaraktivitet blevet inkorporeret som identificeringsaktiver i det nye system.

Flere mønstre af stofhandelen på Instagram-indlæg.

Ud over BERT-baseret tekstanalyse og ResNet-baseret billedundersøgelse inkorporerer arbejdet feature-niveau multimodal datafusion, som foreslås i 2016 IEEE artiklen Discriminant Correlation Analysis: Real-Time Feature Level Fusion for Multimodal Biometric Recognition.

Hashtags som frø til en database

Projektets web-skrapemekanisme begynder sin rejse mod identificering af narkohandlernes konti ved at spore stien af 200 stofrelaterede hashtags identificeret af domæneeksperter, ved hjælp af hashtag-søge API.

Billeder i indlæg, der bruger hashtags, klassificeres derefter ved hjælp af en VGG-16-baseret binær klassifikationsmodel. Billeder, der korrelerer med kendte stofbilleder, gemmes derefter i systemet, og indlægget konverteres til et JSON-objekt til senere hentning.

Rammeværket udvider derefter til relaterede kommentarer og information (såvel tekst som billeder) indeholdt i hjemmesiden af posterne, der har deltaget i hashtaggen, og hvis indhold er blevet markeret som stofrelateret. På denne måde er 10.000 potentielle indlæg og 23.034 brugerkonti blevet indtaget i datasættet.

Da stofrelaterede hashtags udvikler sig konstant for at undgå mønstergenkendelse og opmærksomhed fra myndighederne, bliver nye hashtags i det markerede indlæg, der ikke var en del af den oprindelige hashtag-samling, noteret og optaget til fremtidig brug.

Efter mærkning i det web-baserede grænseflade (se billedet ovenfor) må multimodal datafusion tage hensyn til, at ikke alle indlæg vil indeholde alle fire mulige datatyper. Derfor kan algoritmen tolerere ni af i alt 16 underpunkter blandt de fire datatyper, ved hjælp af konkatination og fused funktioner, hvor manglende elementer vil korresponderer til nul i beregningen.

NetworkX

Datasættet anvendes til sidst via NetworkX Python-sprogspakken foreslået i 2008 af Los Alamos National Laboratory i New Mexico. NetworkX er blevet anvendt omfattende i store operationer, herunder grafer med mere end 10 millioner noder.

Ved at behandle hashtags i datasættet, som om de var inkluderet i ét indlæg, var det muligt for forskerne at generere en uretningsspecifik stofrelateret graf til NetworkX at analysere.

IDDIG-datasættet blev testet over en række protokoller, herunder multimodal datafusion, multisource-datafusion og quadruple-baseret fusion, og opnåede nøjagtighedsresultater på op til 95% i forhold til identificering af stofrelaterede indlæg og brugere, i forhold til menneske-i-løkken metoder til identificering.

Det var også muligt at generere “sunburst-plots”, der afslører bredt indikatorer for geografisk disposition af stofrelateret aktivitet på Instagram, og andre mulige fremtidige undersøgelseslinjer i lignende projekter.