AI otevřela nové cesty k boji proti nelegálním prodejem opioidů a jiným kyberzločinům

Ministerstvo zdravotnictví USA (US HHS) a Národní institut pro výzkum drog (NIDA) investují do využití umělé inteligence (AI) k potlačení nelegálního prodeje opioidů a doufají, že sníží zneužívání drog. Jak uvedl Vox, nástroj AI od NIDA se bude snažit sledovat nelegální internetové farmaceutické trhy, ale přístupy používané AI by se snadno mohly aplikovat i na jiné formy kyberzločinu.

Jeden z výzkumníků odpovědných za vývoj nástroje, Timothy Mackey, nedávno hovořil s Voxem, kde vysvětlil, že algoritmy AI používané ke sledování nelegálního prodeje opioidů by se mohly použít i k odhalování jiných forem nelegálních prodejů, jako jsou padělané produkty a nelegální obchodování se zvířaty.

Nástroj AI od NIDA musí být schopen rozlišovat mezi obecnou diskusí o opioidích a pokusy o vyjednání prodeje opioidů. Podle Mackeyho je pouze relativně malý procentní podíl tweetů, které odkazují na opioidy, skutečně spojen s nelegálním prodejem opioidů. Mackey vysvětlil, že z přibližně 600 000 tweetů, které odkazují na jeden z několika různých opioidů, pouze asi 2 000 skutečně inzerovaly tyto drogy nějakým způsobem. Nástroj AI musí být také dostatečně robustní, aby dokázal sledovat změny v jazyce používaném k nelegálnímu prodeji opioidů. Lidé, kteří nelegálně prodávají drogy, často používají kódovaný jazyk a nejasné klíčové slovo, aby je prodávali, a rychle mění strategie. Mackey vysvětluje, že často se používají chybně napsané aliasy pro názvy drog a že se na webech, jako je Instagram, používají obrázky jiných věcí než drog, aby se vytvořily inzeráty.

Zatímco Instagram a Facebook zakazují inzerování drog a vyzývají uživatele, aby hlásili případy zneužívání, nelegální obsah může být velmi obtížné odhalit, přesně protože prodejci drog mění strategie a kódová slova rychle. Mackey vysvětlil, že tyto kódované příspěvky a hashtagy na Instagramu obvykle obsahují informace o tom, jak kontaktovat dealera a koupit od něj nelegální drogy. Mackey také vysvětlil, že někteří nelegální prodejci se představují jako legitimní farmaceutické společnosti a odkazují na e-commerce platformy. Zatímco FDA se často snaží potlačit tyto stránky, zůstávají problémem.

Při navrhování nástrojů AI pro odhalování nelegálního prodeje drog využil Mackey a zbytek výzkumného týmu kombinaci hlubokého učení a modelování témat. Výzkumný tým navrhl model hlubokého učení, který využil Long Short-Term Memory síť školenou na textu příspěvků na Instagramu, s cílem vytvořit textový klasifikátor, který by mohl automaticky označit příspěvky, které by mohly být spojeny s nelegálním prodejem drog. Výzkumný tým také využil modelování témat, aby umožnil svému modelu AI rozlišit klíčová slova spojená s opioidy, jako je Fentanyl a Percocet. To může učinit model více robustním a sofistikovaným a je schopen odpovídat na témata a konverzace, nejen na jednotlivá slova. Modelování témat pomohlo výzkumnému týmu zredukovat dataset asi 30 000 tweetů týkajících se fentanylu na pouhých několik tweetů, které se zdály inzerovat ho.

Mackey a zbytek výzkumného týmu možná vyvinuli své aplikace AI pro použití NIDA, ale sociální média, jako je Facebook, Twitter, Reddit a YouTube, také investují značně do využití AI pro označení obsahu, který porušuje jejich zásady. Podle Mackeyho již dříve jednal s Twitterem a Facebookem o takové aplikaci, ale nyní se zaměřuje na vytvoření komerčně dostupné aplikace na základě svého výzkumu pro NIDA a doufá, že nástroj by mohl být použit sociálními médii, regulačními orgány a dalšími.

Mackey vysvětlil, že přístup vyvinutý pro výzkum NIDA by se mohl zobecnit pro boj proti jiným formám kyberzločinu, jako je obchodování se zvířaty nebo nelegální prodej zbraní. Instagram měl problémy s nelegálním obchodováním se zvířaty dříve, zákaz inzerování všech prodejů zvířat v roce 2017 jako reakci. Společnost se také snaží odstranit všechny příspěvky související s obchodováním se zvířaty, jakmile se objeví, ale navzdory tomu existuje pokračující černý trh s exotickými zvířaty a inzeráty na ně se stále objevují v hledání na Instagramu.

Existují některé etické otázky, které budou muset být vyřešeny, pokud má být nástroj NIDA implementován. Odborníci na drogovou politiku varují, že by to mohlo umožnit nadměrnou kriminalizaci prodejů nízkoúrovňovými prodejci drog a že by to mohlo také vytvořit falešný dojem, že se problém řeší, i když takové nástroje AI nemusí snížit celkovou poptávku po této látce. Přesto, pokud se správně použije, nástroje AI by mohly pomoci orgánům činným v trestním řízení stanovit souvislosti mezi online prodejci a offline dodavatelskými řetězci, což jim pomůže kvantifikovat rozsah problému. Kromě toho by se podobné techniky, jako ty, které používá NIDA, mohly použít k boji proti závislosti na opioidích, směrováním lidí na rehabilitační zdroje, když jsou vyhledávány. Jako u každé inovace existují rizika i příležitosti.