Umělá inteligence otevírá nové cesty v boji proti nelegálním prodejem opioidů a jiným kyberzločinem

Americké ministerstvo zdravotnictví a sociálních služeb (HHS) a Národní institut pro výzkum drog (NIDA) investují do využití umělé inteligence (AI) pro potlačování nelegálního prodeje opioidů a snížení zneužívání drog. Jak uvádí Vox, nástroj AI vyvinutý NIDA bude snažit se sledovat nelegální internetové farmaceutické trhy, ale přístupy používané AI lze snadno aplikovat i na jiné formy kyberzločinu.

Jeden z výzkumníků odpovědných za vývoj nástroje, Timothy Mackey, nedávno hovořil s Voxem, kde vysvětlil, že algoritmy AI používané pro sledování nelegálního prodeje opioidů lze použít také pro detekci jiných forem nelegálních prodejů, jako je prodej padělaných produktů a nelegální obchod s divokými zvířaty.

Nástroj AI NIDA musí být schopen rozlišovat mezi obecnou diskusí o opioidích a pokusy o prodej opioidů. Podle Mackeyho je pouze relativně malý procentní podíl tweetů, které odkazují na opioidy, skutečně spojen s nelegálním prodejem opioidů. Mackey vysvětlil, že z přibližně 600 000 tweetů, které odkazují na jednu z několika různých opioidů, pouze asi 2 000 skutečně inzerují tyto léky nějakým způsobem. Nástroj AI musí být také dostatečně robustní, aby dokázal držet krok s změnami v jazyku používaném pro nelegální prodej opioidů. Lidé, kteří nelegálně prodávají drogy, často používají kódovaný jazyk a nejasné klíčové slovo, a rychle mění strategie. Mackey vysvětluje, že často se používají chybně napsané aliasy pro názvy drog a že se na webových stránkách, jako je Instagram, používají obrázky věcí, které nejsou přímo spojeny s drogami, pro vytváření inzerátů.

Zatímco Instagram a Facebook (META ) zakazují marketing drog a vyzývají uživatele, aby hlásili případy zneužívání, nelegální obsah může být velmi obtížné odhalit, právě proto, že prodejci drog mění strategie a kódová slova rychle. Mackey vysvětlil, že tyto kódované příspěvky a hashtagy na Instagramu obvykle obsahují informace o tom, jak kontaktovat dealera a koupit nelegální drogy od něj. Mackey také vysvětlil, že někteří nelegální prodejci se představují jako legální farmaceutické společnosti a odkazují na e-commerce platformy. Zatímco FDA se často snaží potlačit tyto stránky, zůstávají problémem.

Při navrhování nástrojů AI pro detekci nelegálního marketingu drog, Mackey a zbytek výzkumného týmu využili kombinaci hlubokého učení a modelování témat. Výzkumný tým navrhl model hlubokého učení, který využívá Long Short-Term Memory síť školenou na textu příspěvků na Instagramu, s cílem vytvořit textový klasifikátor, který by mohl automaticky označit příspěvky, které by mohly být spojeny s nelegálním prodejem drog. Výzkumný tým také využil modelování témat, aby umožnil svému modelu AI rozpoznat klíčová slova spojená s opioidy, jako je Fentanyl a Percocet. To může učinit model více robustním a sofistikovaným, a je schopen rozpoznat témata a konverzace, ne jen jednotlivá slova. Modelování témat pomohlo výzkumnému týmu snížit datovou sadu asi 30 000 tweetů týkajících se fentanylu na pouhý handful tweetů, které se zdály inzerovat ho.

Markey a zbytek výzkumného týmu možná vyvinuli svou aplikaci AI pro použití NIDA, ale sociální média, jako je Facebook, Twitter, Reddit a YouTube, také investují značně do využití AI pro označení obsahu, který porušuje jejich zásady. Podle Markeyho, on již dříve jednal s Twitterem a Facebookem o takové aplikaci, ale nyní se zaměřuje na vytvoření komerčně dostupné aplikace založené na jeho výzkumu pro NIDA, a doufá, že nástroj by mohl být použit sociálními médii, regulátory a dalšími.

Markey vysvětlil, že přístup vyvinutý pro výzkum NIDA lze zobecnit pro boj proti jiným formám kyberzločinu, jako je obchod s divokými zvířaty nebo nelegální prodej zbraní. Instagram měl problémy s nelegálním obchodem s divokými zvířaty dříve, a v roce 2017 zakázal inzerování všech prodejů zvířat jako odpověď. Společnost se také snaží odstranit všechny příspěvky související s obchodem s divokými zvířaty, jakmile se objeví, ale navzdory tomu existuje stále černý trh s exotickými zvířaty a inzeráty na ně se stále objevují v hledání na Instagramu.

Existují některé etické otázky, které budou muset být vyřešeny, pokud se nástroj NIDA bude implementovat. Odborníci na drogovou politiku varují, že by to mohlo umožnit nadměrnou kriminalizaci prodejů nízkoúrovňovými prodejci drog a že by to mohlo také vytvořit falešný dojem, že se problém řeší, i když takové nástroje AI nemusí snížit celkovou poptávku po substance. Přesto, pokud se bude nástroj AI používat správně, mohl by pomoci orgánům činným v trestním řízení stanovit spojení mezi online prodejci a offline dodavatelskými řetězci, a pomoci jim kvantifikovat rozsah problému. Kromě toho by se podobné techniky, jako ty, které používá NIDA, mohly použít k boji proti opioidní závislosti, a směrovat lidi na rehabilitační zdroje, když jsou vyhledávány. Jako u každé inovace, existují zde rizika i příležitosti.