AI abre nuevas formas de luchar contra las ventas ilegales de opioides y otros delitos cibernéticos

El HHS (Departamento de Salud y Servicios Humanos) de EE. UU. y el Instituto Nacional sobre el Abuso de Drogas (NIDA) están invirtiendo en el uso de IA para frenar la venta ilegal de opioides y, con suerte, reducir el abuso de drogas. Como informó Vox, la herramienta de IA de NIDA se esforzará por rastrear los mercados farmacéuticos ilegales en Internet, pero los enfoques utilizados por la IA podrían aplicarse fácilmente a otras formas de ciberdelincuencia.

Uno de los investigadores responsables del desarrollo de la herramienta, Timothy Mackey, habló recientemente con Vox, donde se explicó que los algoritmos de IA utilizados para rastrear la venta ilegal de opioides también podrían usarse para detectar otras formas de venta ilegal, como productos falsificados y tráfico ilegal de vida silvestre.

La herramienta de inteligencia artificial de NIDA debe poder distinguir entre la discusión general sobre los opioides y los intentos de negociar la venta de opioides. Según Mackey, solo un porcentaje relativamente pequeño de los tuits que hacen referencia a los opioides están realmente relacionados con las ventas ilegales de opioides. Mackey explicó que de aproximadamente 600,000 2,000 tuits que hacen referencia a uno de varios opiáceos diferentes, solo unos XNUMX comercializaron esos medicamentos de alguna manera. La herramienta de IA también debe ser lo suficientemente robusta para mantenerse al día con los cambios en el lenguaje utilizado para comercializar ilegalmente los opioides. Las personas que venden drogas ilegalmente utilizan con frecuencia lenguaje codificado y palabras clave no obvias para venderlas, y cambian rápidamente de estrategia. Mackey explica que los alias mal escritos para los nombres de las drogas se usan comúnmente y que las imágenes de cosas distintas a las drogas en cuestión a menudo se usan para crear listados en sitios web como Instagram.

Si bien Instagram y Facebook prohíben la comercialización de drogas y alientan a los usuarios a denunciar los casos de abuso, el contenido ilegal puede ser muy difícil de detectar, precisamente porque los vendedores de drogas tienden a cambiar las estrategias y las palabras clave rápidamente. Mackey explicó que estas publicaciones codificadas y hashtags en Instagram generalmente contienen información sobre cómo contactar al traficante y comprarle drogas ilegales. Mackey también explicó que algunos vendedores ilegales se representan a sí mismos como compañías farmacéuticas legítimas y se vinculan a plataformas de comercio electrónico. Si bien la FDA a menudo ha tratado de tomar medidas enérgicas contra estos sitios, siguen siendo un problema.

Al diseñar herramientas de IA para detectar el marketing de drogas ilegales, Mackey y el resto del equipo de investigación utilizaron una combinación de deep learning y modelado de temas. El equipo de investigación diseñó un modelo de aprendizaje profundo que hizo uso de una red de memoria a corto y largo plazo entrenada en el texto de publicaciones de Instagram, con el objetivo de crear un clasificador de texto que pudiera marcar automáticamente las publicaciones que pudieran estar relacionadas con la venta ilegal de drogas. El equipo de investigación también hizo uso del modelado de temas, lo que permitió que su modelo de IA discerniera palabras clave asociadas con opioides como Fentanyl y Percocet. Esto puede hacer que el modelo sea más sólido y sofisticado, y es capaz de hacer coincidir temas y conversaciones, no solo palabras sueltas. El modelado de temas ayudó al equipo de investigación a reducir un conjunto de datos de alrededor de 30,000 tweets sobre fentanilo a solo un puñado de tweets que parecían promocionarlo.

Es posible que Markey y el resto del equipo de investigación hayan desarrollado su aplicación de IA para que la use el NIDA, pero las empresas de redes sociales como Facebook, Twitter, Reddit y YouTube también están invirtiendo mucho en el uso de la IA para señalar el contenido que viola sus políticas. Según Markey, ha estado en conversaciones con Twitter y Facebook sobre dicha aplicación antes, pero en este momento se enfoca en crear una aplicación disponible comercialmente basada en su investigación para NIDA, y espera que la herramienta pueda ser utilizada por las redes sociales. plataformas, reguladores y más.

Markey explicó que el enfoque desarrollado para la investigación del NIDA podría generalizarse para combatir otras formas de ciberdelincuencia, como el tráfico de animales o la venta ilegal de armas de fuego. Instagram ha tenido problemas con el tráfico ilegal de animales antes, prohibiendo la publicidad de todas las ventas de animales en 2017 como respuesta. La compañía también intenta eliminar cualquier publicación relacionada con el tráfico de animales tan pronto como aparece, pero a pesar de esto, existe un mercado negro continuo para mascotas exóticas y los anuncios de ellas todavía aparecen en las búsquedas de Instagram.

Hay algunas cuestiones éticas que deberán negociarse si se va a implementar la herramienta NIDA. Los expertos en políticas de drogas advierten que podría permitir la criminalización excesiva de las ventas por parte de vendedores de drogas de bajo nivel y que también podría dar la falsa impresión de que el problema se está resolviendo, aunque tales herramientas de IA no reduzcan la demanda general de la sustancia. No obstante, si se usan correctamente, las herramientas de IA podrían ayudar a las agencias de aplicación de la ley a establecer vínculos entre los vendedores en línea y las cadenas de suministro fuera de línea, ayudándolos a cuantificar el alcance del problema. Además, se podrían utilizar técnicas similares a las utilizadas por NIDA para ayudar a combatir la adicción a los opioides, dirigiendo a las personas hacia fuentes de rehabilitación cuando se realizan búsquedas. Como con cualquier innovación, existen tanto riesgos como oportunidades.