L’IA apre nuove strade per combattere le vendite illegali di oppioidi e altri crimini informatici

Il Dipartimento della Salute e dei Servizi Umani degli Stati Uniti (HHS) e l’Istituto Nazionale sulla Droga (NIDA) stanno investendo nell’uso dell’IA per limitare la vendita illegale di oppioidi e ridurre l’abuso di droghe. Come riportato da Vox, lo strumento di IA di NIDA cercherà di tracciare i mercati farmaceutici illegali su Internet, ma gli approcci utilizzati dall’IA potrebbero essere facilmente applicati ad altre forme di crimini informatici.

Uno dei ricercatori responsabili dello sviluppo dello strumento, Timothy Mackey, ha recentemente parlato con Vox, spiegando che gli algoritmi di IA utilizzati per tracciare la vendita illegale di oppioidi potrebbero anche essere utilizzati per rilevare altre forme di vendite illegali, come prodotti contraffatti e traffico di animali selvatici.

Lo strumento di IA di NIDA deve essere in grado di distinguere tra discussioni generali sugli oppioidi e tentativi di negoziare la vendita di oppioidi. Secondo Mackey, solo una piccola percentuale di tweet che menzionano gli oppioidi è effettivamente legata alla vendita illegale di oppioidi. Mackey ha spiegato che su circa 600.000 tweet che menzionano uno degli oppioidi, solo circa 2.000 hanno effettivamente commercializzato quei farmaci in qualche modo. Lo strumento di IA deve anche essere abbastanza robusto da tenere il passo con i cambiamenti nel linguaggio utilizzato per commercializzare illegalmente gli oppioidi. Le persone che vendono droghe illegalmente utilizzano frequentemente un linguaggio codificato e parole chiave non ovvie per venderle, e cambiano rapidamente strategia. Mackey spiega che gli alias dei nomi dei farmaci sono comunemente utilizzati e che le immagini di cose diverse dai farmaci in questione sono spesso utilizzate per creare elenchi su siti come Instagram.

Mentre Instagram e Facebook (META ) vietano la commercializzazione di droghe e incoraggiano gli utenti a segnalare casi di abuso, il contenuto illegale può essere molto difficile da rilevare, proprio perché i venditori di droghe tendono a cambiare strategia e parole chiave rapidamente. Mackey ha spiegato che questi post e hashtag codificati su Instagram contengono generalmente informazioni su come contattare il venditore e acquistare droghe illegali da loro. Mackey ha anche spiegato che alcuni venditori di droghe illegali si spacciano per aziende farmaceutiche legittime e collegano a piattaforme di e-commerce. Anche se la FDA ha cercato di reprimere questi siti, essi rimangono un problema.

Nel progettare strumenti di IA per rilevare la commercializzazione di droghe illegali, Mackey e il resto del team di ricerca hanno utilizzato una combinazione di apprendimento profondo e topic modeling. Il team di ricerca ha progettato un modello di apprendimento profondo che utilizza una rete Long Short-Term Memory addestrata sul testo dei post di Instagram, con l’obiettivo di creare un classificatore di testo che possa automaticamente segnalare post che potrebbero essere legati alla vendita di droghe illegali. Il team di ricerca ha anche utilizzato il topic modeling, permettendo al loro modello di IA di discernere parole chiave associate agli oppioidi come Fentanyl e Percocet. Ciò può rendere il modello più robusto e sofisticato, e in grado di abbinare argomenti e conversazioni, non solo singole parole. Il topic modeling ha aiutato il team di ricerca a ridurre un set di dati di circa 30.000 tweet relativi al fentanyl a solo una manciata di tweet che sembravano commercializzarlo.

Markey e il resto del team di ricerca possono aver sviluppato la loro applicazione di IA per l’uso di NIDA, ma società di social media come Facebook, Twitter, Reddit e YouTube stanno anche investendo molto nell’uso dell’IA per segnalare contenuti che violano le loro politiche. Secondo Markey, ha discusso con Twitter e Facebook su tale applicazione in precedenza, ma attualmente la focalizzazione è sulla creazione di un’applicazione commercialmente disponibile basata sulla sua ricerca per NIDA, e spera che lo strumento possa essere utilizzato da piattaforme di social media, regolatori e altro.

Markey ha spiegato che l’approccio sviluppato per la ricerca di NIDA potrebbe essere generalizzato per combattere altre forme di crimini informatici, come il traffico di animali o la vendita illegale di armi da fuoco. Instagram ha avuto problemi con il traffico di animali selvatici in precedenza, vietando la pubblicità di tutte le vendite di animali nel 2017 come risposta. La società cerca anche di rimuovere qualsiasi post relativo al traffico di animali non appena si verificano, ma nonostante ciò, esiste ancora un mercato nero per animali esotici e le inserzioni per essi continuano a comparire nelle ricerche di Instagram.

Esistono alcune questioni etiche che dovranno essere negoziate se lo strumento di NIDA dovrà essere implementato. Gli esperti di politiche sulla droga avvertono che potrebbe consentire la criminalizzazione eccessiva di venditori di droghe a basso livello e che potrebbe anche dare l’impressione falsa che il problema stia essere risolto, anche se tali strumenti di IA potrebbero non ridurre la domanda complessiva della sostanza. Tuttavia, se utilizzato correttamente, lo strumento di IA potrebbe aiutare le agenzie di applicazione della legge a stabilire collegamenti tra venditori online e catene di approvvigionamento offline, aiutandoli a quantificare l’entità del problema. Inoltre, tecniche simili a quelle utilizzate da NIDA potrebbero essere utilizzate per aiutare a combattere la dipendenza da oppioidi, indirizzando le persone verso fonti riabilitative quando vengono effettuate ricerche. Come per qualsiasi innovazione, esistono sia rischi che opportunità.