Umetna inteligenca odpira nove načine za boj proti nezakoniti prodaji opiadov in drugim kibernetskim kriminalom

Ameriško ministrstvo za zdravje in socialne zadeve (HHS) in Nacionalni inštitut za zlorabo drog (NIDA) vlagata v uporabo umetne inteligence za zajezitev nezakonite prodaje opioidov in, upajmo, zmanjšanje zlorabe drog. Kot poroča Vox, si bo orodje NIDA prizadevalo slediti nezakonitim internetnim farmacevtskim trgom, vendar bi se pristopi, ki jih uporablja AI, zlahka uporabili za druge oblike kibernetske kriminalitete.

Eden od raziskovalcev, odgovornih za razvoj orodja, Timothy Mackey, pred kratkim govoril za Vox, kjer je bilo pojasnjeno, da bi algoritme umetne inteligence, ki se uporabljajo za sledenje nezakonite prodaje opioidov, lahko uporabili tudi za odkrivanje drugih oblik nezakonite prodaje, kot so ponarejeni izdelki in nezakonita trgovina s prosto živečimi živalmi.

Orodje NIDA AI mora biti sposobno razlikovati med splošno razpravo o opioidih in poskusi pogajanj o prodaji opioidov. Po Mackeyju je le razmeroma majhen odstotek tvitov, ki se nanašajo na opioide, dejansko povezanih z nezakonito prodajo opioidov. Mackey je pojasnil, da je od približno 600,000 tweetov, ki omenjajo enega od več različnih opioidov, le okoli 2,000 dejansko na kakršen koli način tržilo ta zdravila. Orodje AI mora biti tudi dovolj robustno, da sledi spremembam v jeziku, ki se uporablja za nezakonito trženje opioidov. Ljudje, ki nezakonito prodajajo droge, za prodajo pogosto uporabljajo kodiran jezik in neočitne ključne besede ter hitro spreminjajo strategije. Mackey pojasnjuje, da se za imena zdravil pogosto uporabljajo napačno črkovani vzdevki in da se slike stvari, ki niso zadevna zdravila, pogosto uporabljajo za ustvarjanje seznamov na spletnih mestih, kot je Instagram.

Medtem ko Instagram in Facebook prepovedujeta trženje mamil in spodbujata uporabnike, da prijavijo primere zlorab, je lahko nezakonito vsebino zelo težko ujeti, prav zato, ker prodajalci mamil hitro spreminjajo strategije in šifrirane besede. Mackey je pojasnil, da te kodirane objave in hashtagi na Instagramu običajno vsebujejo informacije o tem, kako stopiti v stik s preprodajalcem in pri njem kupiti prepovedana zdravila. Mackey je tudi pojasnil, da se nekateri nezakoniti prodajalci predstavljajo kot zakonita farmacevtska podjetja in se povezujejo s platformami za e-trgovino. Čeprav je FDA pogosto poskušala zatreti ta spletna mesta, ostajajo problem.

Pri oblikovanju orodij AI za odkrivanje nezakonitega trženja drog so Mackey in preostala raziskovalna skupina uporabili kombinacijo globoko učenje in tematsko modeliranje. Raziskovalna skupina je oblikovala model globokega učenja, ki je uporabil omrežje dolgotrajnega kratkoročnega spomina, usposobljeno za besedilo objav na Instagramu, s ciljem ustvariti klasifikator besedila, ki bi lahko samodejno označil objave, ki bi lahko bile povezane z nezakonito prodajo drog. Raziskovalna skupina je uporabila tudi tematsko modeliranje, pri čemer je njihovemu modelu AI omogočila, da prepozna ključne besede, povezane z opioidi, kot sta fentanil in percocet. To lahko naredi model bolj robusten in prefinjen ter se lahko ujema s temami in pogovori, ne le s posameznimi besedami. Modeliranje teme je raziskovalni skupini pomagalo zmanjšati nabor podatkov s približno 30,000 tviti o fentanilu na le peščico tvitov, za katere se je zdelo, da ga tržijo.

Markey in preostala raziskovalna skupina so morda razvili svojo aplikacijo AI za uporabo v NIDA, vendar podjetja družbenih medijev, kot so Facebook, Twitter, Reddit in YouTube, prav tako veliko vlagajo v uporabo AI za označevanje vsebine, ki krši njihove politike. Markey pravi, da se je že pogovarjal s Twitterjem in Facebookom o takšni aplikaciji, zdaj pa je poudarek na ustvarjanju komercialno dostopne aplikacije, ki temelji na njegovih raziskavah za NIDA, in da upa, da bi orodje lahko uporabljali družbeni mediji platforme, regulatorji in drugo.

Markey je pojasnil, da bi lahko pristop, razvit za raziskavo NIDA, posplošili za boj proti drugim oblikam kibernetske kriminalitete, kot je trgovina z živalmi ali nezakonita prodaja strelnega orožja. Instagram je imel težave z nezakonito trgovino z živalmi pred prepovedjo oglaševanja vseh prodaj živali leta 2017 kot odgovor. Podjetje prav tako poskuša odstraniti vse objave, povezane s trgovino z živalmi, takoj ko se pojavijo, a kljub temu še vedno obstaja črni trg za eksotične ljubljenčke in oglasi zanje se še vedno pojavljajo pri iskanju po Instagramu.

Obstajajo nekatera etična vprašanja, o katerih se bo treba pogajati, če želimo uvesti orodje NIDA. Strokovnjaki za politiko drog opozarjajo, da bi to lahko omogočilo pretirano kriminalizacijo prodaje s strani prodajalcev drog na nizki ravni in da bi lahko tudi dalo napačen vtis, da se problem rešuje, čeprav takšna orodja umetne inteligence morda ne bodo zmanjšala splošnega povpraševanja po snovi. Kljub temu bi lahko orodja umetne inteligence, če bi jih pravilno uporabljali, pomagala organom kazenskega pregona vzpostaviti povezave med spletnimi prodajalci in dobavnimi verigami zunaj spleta, kar bi jim pomagalo kvantificirati obseg problema. Poleg tega bi lahko za boj proti zasvojenosti z opioidi uporabili podobne tehnike kot tiste, ki jih uporablja NIDA, pri čemer bi ljudi pri iskanju usmerili k rehabilitacijskim virom. Kot pri vsaki inovaciji obstajajo tako tveganja kot priložnosti.