AI otvara nove načine za borbu protiv ilegalne prodaje opijata i drugog kibernetičkog kriminala

Američki HHS (Ministarstvo zdravstva i društvenih usluga) i Nacionalni institut za zlouporabu droga (NIDA) ulažu u korištenje umjetne inteligencije za suzbijanje ilegalne prodaje opioida i, nadamo se, smanjenje zlouporabe droga. Kako je objavio VoxNIDA-in AI alat nastojat će pratiti ilegalna internetska farmaceutska tržišta, ali pristupi koje koristi AI mogli bi se lako primijeniti na druge oblike kibernetičkog kriminala.

Jedan od istraživača odgovornih za razvoj alata, Timothy Mackey, nedavno razgovarao s Voxom, gdje je objašnjeno da se algoritmi umjetne inteligencije koji se koriste za praćenje ilegalne prodaje opioida također mogu koristiti za otkrivanje drugih oblika ilegalne prodaje, poput krivotvorenih proizvoda i ilegalne trgovine divljim životinjama.

NIDA-in alat za umjetnu inteligenciju mora moći razlikovati opću raspravu o opioidima od pokušaja pregovaranja o prodaji opioida. Prema Mackeyu, samo je relativno mali postotak tweetova koji spominju opioide zapravo povezan s ilegalnom prodajom opioida. Mackey je objasnio da je od približno 600,000 tweetova u kojima se spominje jedan od nekoliko različitih opioida samo oko 2,000 zapravo reklamiralo te lijekove na bilo koji način. AI-alat također mora biti dovoljno robustan da prati promjene u jeziku koji se koristi za ilegalno stavljanje opioida na tržište. Ljudi koji ilegalno prodaju drogu često koriste kodirani jezik i neočite ključne riječi da bi je prodali i brzo mijenjaju strategije. Mackey objašnjava da se pogrešno napisani aliasi za nazive lijekova često koriste i da se slike stvari koje nisu predmetni lijekovi često koriste za izradu popisa na web stranicama poput Instagrama.

Dok Instagram i Facebook zabranjuju marketing droga i potiču korisnike da prijave slučajeve zlouporabe, ilegalni sadržaj može biti vrlo teško uhvatiti, upravo zato što su prodavači droga skloni brzom mijenjanju strategija i šifriranih riječi. Mackey je objasnio da ti kodirani postovi i hashtagovi na Instagramu obično sadrže informacije o tome kako kontaktirati trgovca i kupiti ilegalnu drogu od njega. Mackey je također objasnio da se neki ilegalni prodavači predstavljaju kao legitimne farmaceutske tvrtke i povezuju se s platformama za e-trgovinu. Iako je FDA često pokušavala slomiti te stranice, one su i dalje problem.

U dizajniranju AI alata za otkrivanje ilegalnog marketinga droga, Mackey i ostatak istraživačkog tima koristili su kombinaciju duboko učenje i modeliranje teme. Istraživački tim osmislio je model dubokog učenja koji je koristio mrežu dugotrajnog kratkoročnog pamćenja obučenu na tekstu objava na Instagramu, s ciljem stvaranja klasifikatora teksta koji bi mogao automatski označavati objave koje bi mogle biti povezane s ilegalnom prodajom droga. Istraživački tim također je koristio modeliranje tema, dopuštajući njihovom AI modelu da prepozna ključne riječi povezane s opioidima kao što su Fentanil i Percocet. To može učiniti model robusnijim i sofisticiranijim te može uskladiti teme i razgovore, a ne samo pojedinačne riječi. Modeliranje teme pomoglo je istraživačkom timu smanjiti skup podataka od oko 30,000 tweetova koji se tiču ​​fentanila na samo nekoliko tweetova za koje se činilo da ga reklamiraju.

Markey i ostatak istraživačkog tima možda su razvili svoju AI aplikaciju za korištenje od strane NIDA-e, ali društvene mreže poput Facebooka, Twittera, Reddita i YouTubea također ulažu velika sredstva u korištenje AI za označavanje sadržaja koji krši njihova pravila. Prema Markeyu, on je već razgovarao s Twitterom i Facebookom o takvoj aplikaciji, ali trenutno je fokus na stvaranju komercijalno dostupne aplikacije temeljene na njegovom istraživanju za NIDA-u, te se nada da bi se alat mogao koristiti na društvenim mrežama platforme, regulatori i drugo.

Markey je objasnio da se pristup razvijen za istraživanje NIDA-e može generalizirati za borbu protiv drugih oblika kibernetičkog kriminala, kao što je trgovina životinjama ili ilegalna prodaja vatrenog oružja. Instagram je imao problema s ilegalnom trgovinom životinjama prije, zabrana reklamiranja svih prodaja životinja u 2017. kao odgovor. Tvrtka također pokušava ukloniti sve postove vezane uz trgovinu životinjama čim se pojave, ali unatoč tome i dalje postoji crno tržište za egzotične kućne ljubimce i oglasi za njih i dalje se pojavljuju u pretragama na Instagramu.

Postoje neka etička pitanja o kojima će se morati pregovarati ako se želi implementirati NIDA alat. Stručnjaci za politiku droga upozoravaju da bi to moglo omogućiti pretjeranu kriminalizaciju prodaje od strane prodavača droga na niskoj razini te da bi također moglo ostaviti lažan dojam da se problem rješava iako takvi alati umjetne inteligencije možda neće smanjiti ukupnu potražnju za supstancom. Unatoč tome, ako se pravilno koriste, alati umjetne inteligencije mogu pomoći agencijama za provođenje zakona da uspostave veze između online prodavača i izvanmrežnih opskrbnih lanaca, pomažući im kvantificirati opseg problema. Osim toga, tehnike slične onima koje koristi NIDA mogle bi se koristiti za pomoć u borbi protiv ovisnosti o opioidima, usmjeravajući ljude prema rehabilitacijskim izvorima kada se vrše pretrage. Kao i kod svake inovacije, postoje i rizici i prilike.