L’IA apre nuove strade per combattere le vendite illegali di oppioidi e altri crimini informatici

Il Dipartimento della Salute e dei Servizi Umani degli Stati Uniti (US HHS) e il National Institute on Drug Abuse (NIDA) stanno investendo nell’utilizzo dell’IA per limitare la vendita illegale di oppioidi e ridurre l’abuso di droghe. Come riportato da Vox, lo strumento AI di NIDA tenterà di tracciare i mercati farmaceutici illegali su Internet, ma gli approcci utilizzati dall’IA potrebbero essere facilmente applicati ad altre forme di crimine informatico.

Uno dei ricercatori responsabili dello sviluppo dello strumento, Timothy Mackey, ha recentemente parlato con Vox, dove è stato spiegato che gli algoritmi AI utilizzati per tracciare la vendita illegale di oppioidi potrebbero anche essere utilizzati per rilevare altre forme di vendite illegali, come prodotti contraffatti e traffico di fauna selvatica.

Lo strumento AI di NIDA deve essere in grado di distinguere tra discussioni generali sugli oppioidi e tentativi di negoziare la vendita di oppioidi. Secondo Mackey, solo una piccola percentuale di tweet che menzionano gli oppioidi è effettivamente legata alle vendite illegali di oppioidi. Mackey ha spiegato che su circa 600.000 tweet che menzionano uno degli oppioidi, solo circa 2.000 hanno effettivamente commercializzato tali farmaci in qualche modo. Lo strumento AI deve anche essere abbastanza robusto da tenere il passo con i cambiamenti nel linguaggio utilizzato per commercializzare illegalmente gli oppioidi. Le persone che vendono droghe illegalmente utilizzano frequentemente un linguaggio codificato e parole chiave non ovvie per venderle, e cambiano rapidamente strategia. Mackey spiega che gli alias con errori di ortografia per i nomi dei farmaci sono comunemente utilizzati e che le immagini di cose diverse dai farmaci in questione sono spesso utilizzate per creare elenchi su siti come Instagram.

Mentre Instagram e Facebook vietano la commercializzazione di droghe e incoraggiano gli utenti a segnalare casi di abuso, il contenuto illegale può essere molto difficile da individuare, proprio perché i venditori di droghe tendono a cambiare strategie e parole chiave rapidamente. Mackey ha spiegato che questi post e hashtag codificati su Instagram contengono generalmente informazioni su come contattare il rivenditore e acquistare droghe illegali da loro. Mackey ha anche spiegato che alcuni venditori illegali si spacciano per aziende farmaceutiche legittime e collegano a piattaforme di e-commerce. Mentre la FDA ha spesso cercato di reprimere questi siti, essi rimangono un problema.

Nel progettare strumenti AI per rilevare la commercializzazione di droghe illegali, Mackey e il resto del team di ricerca hanno utilizzato una combinazione di deep learning e topic modeling. Il team di ricerca ha progettato un modello di deep learning che utilizza una rete Long Short-Term Memory addestrata sul testo dei post di Instagram, con l’obiettivo di creare un classificatore di testo che possa automaticamente segnalare post che potrebbero essere legati a vendite di droghe illegali. Il team di ricerca ha anche utilizzato il topic modeling, permettendo al modello AI di discernere parole chiave associate agli oppioidi come Fentanyl e Percocet. Ciò può rendere il modello più robusto e sofisticato, e può abbinare argomenti e conversazioni, non solo singole parole. Il topic modeling ha aiutato il team di ricerca a ridurre un set di dati di circa 30.000 tweet riguardanti il fentanyl a solo un pugno di tweet che sembravano commercializzarlo.

Markey e il resto del team di ricerca possono aver sviluppato la loro applicazione AI per l’uso di NIDA, ma le aziende di social media come Facebook, Twitter, Reddit e YouTube stanno anche investendo molto nell’utilizzo dell’AI per segnalare contenuti che violano le loro politiche. Secondo Markey, ha avuto colloqui con Twitter e Facebook su tale applicazione in precedenza, ma attualmente la focalizzazione è sulla creazione di un’applicazione commercialmente disponibile basata sulla sua ricerca per NIDA, e spera che lo strumento possa essere utilizzato da piattaforme di social media, regolatori e altro.

Markey ha spiegato che l’approccio sviluppato per la ricerca di NIDA potrebbe essere generalizzato per combattere altre forme di crimine informatico, come il traffico di animali o la vendita illegale di armi da fuoco. Instagram ha avuto problemi con il traffico di animali selvatici in precedenza, vietando la pubblicità di tutte le vendite di animali nel 2017 come risposta. L’azienda cerca anche di rimuovere tutti i post relativi al traffico di animali non appena appaiono, ma nonostante ciò esiste un mercato nero per animali esotici e le pubblicità per essi continuano a comparire nelle ricerche di Instagram.

Ci sono alcune questioni etiche che dovranno essere negoziate se lo strumento di NIDA dovrà essere implementato. Gli esperti di politica delle droghe avvertono che potrebbe consentire la sovracriminalizzazione delle vendite da parte di venditori di droghe a basso livello e che potrebbe anche dare l’impressione falsa che il problema stia venendo risolto, anche se tali strumenti AI potrebbero non ridurre la domanda complessiva della sostanza. Tuttavia, se utilizzato correttamente, lo strumento AI potrebbe aiutare le agenzie di applicazione della legge a stabilire collegamenti tra venditori online e catene di approvvigionamento offline, aiutandoli a quantificare l’entità del problema. Inoltre, tecniche simili a quelle utilizzate da NIDA potrebbero essere utilizzate per aiutare a combattere la dipendenza da oppioidi, dirigendo le persone verso fonti riabilitative quando vengono effettuate ricerche. Come per ogni innovazione, ci sono sia rischi che opportunità.