La IA abre nuevas vías para combatir las ventas ilegales de opioides y otros cibercrímenes

El Departamento de Salud y Servicios Humanos de EE. UU. (HHS) y el Instituto Nacional sobre el Abuso de Drogas (NIDA) están invirtiendo en el uso de la IA para frenar la venta ilegal de opioides y reducir el abuso de drogas. Como informó Vox, la herramienta de IA de NIDA se esfuerza por rastrear los mercados farmacéuticos ilegales en Internet, pero los enfoques utilizados por la IA podrían aplicarse fácilmente a otras formas de cibercrimen.

Uno de los investigadores responsables del desarrollo de la herramienta, Timothy Mackey, habló recientemente con Vox, donde se explicó que los algoritmos de IA utilizados para rastrear la venta ilegal de opioides también podrían utilizarse para detectar otras formas de ventas ilegales, como productos falsificados y tráfico de vida silvestre.

La herramienta de IA de NIDA debe ser capaz de distinguir entre la discusión general de los opioides y los intentos de negociar la venta de opioides. Según Mackey, solo un porcentaje relativamente pequeño de tweets que hacen referencia a los opioides están realmente relacionados con la venta ilegal de opioides. Mackey explicó que de aproximadamente 600,000 tweets que hacen referencia a varios opioides, solo alrededor de 2,000 realmente comercializan esos medicamentos de alguna manera. La herramienta de IA también debe ser lo suficientemente robusta como para mantenerse al día con los cambios en el lenguaje utilizado para comercializar opioides ilegalmente. Las personas que venden drogas ilegalmente a menudo utilizan un lenguaje codificado y palabras clave no obvias para venderlas, y cambian rápidamente de estrategia. Mackey explica que los alias mal escritos para los nombres de los medicamentos se utilizan comúnmente y que las imágenes de cosas que no son los medicamentos en cuestión se utilizan a menudo para crear listados en sitios web como Instagram.

Mientras que Instagram y Facebook (META ) prohíben la comercialización de drogas y animan a los usuarios a informar casos de abuso, el contenido ilegal puede ser muy difícil de detectar, precisamente porque los vendedores de drogas tienden a cambiar de estrategia y de palabras clave rápidamente. Mackey explicó que estos mensajes codificados y hashtags en Instagram suelen contener información sobre cómo contactar al vendedor y comprar drogas ilegales de ellos. Mackey también explicó que algunos vendedores ilegales se presentan como empresas farmacéuticas legítimas y enlazan a plataformas de comercio electrónico. Aunque la FDA ha intentado frenar a estos sitios, siguen siendo un problema.

Al diseñar herramientas de IA para detectar la comercialización ilegal de drogas, Mackey y el resto del equipo de investigación utilizaron una combinación de aprendizaje profundo y modelado de temas. El equipo de investigación diseñó un modelo de aprendizaje profundo que utilizó una red de memoria a corto plazo entrenada en el texto de las publicaciones de Instagram, con el objetivo de crear un clasificador de texto que pudiera marcar automáticamente las publicaciones que podrían estar relacionadas con la venta ilegal de drogas. El equipo de investigación también utilizó el modelado de temas, lo que permitió que su modelo de IA discerniera palabras clave asociadas con los opioides como Fentanyl y Percocet. Esto puede hacer que el modelo sea más robusto y sofisticado, y puede emparejar temas y conversaciones, no solo palabras individuales. El modelado de temas ayudó al equipo de investigación a reducir un conjunto de datos de alrededor de 30,000 tweets sobre fentanyl a solo un puñado de tweets que parecían estar comercializando el medicamento.

Markey y el resto del equipo de investigación pueden haber desarrollado su aplicación de IA para su uso por NIDA, pero las empresas de redes sociales como Facebook, Twitter, Reddit y YouTube también están invirtiendo mucho en el uso de la IA para marcar el contenido que viola sus políticas. Según Markey, ha estado en conversaciones con Twitter y Facebook sobre dicha aplicación antes, pero ahora se centra en crear una aplicación comercial disponible basada en su investigación para NIDA, y espera que la herramienta pueda ser utilizada por plataformas de redes sociales, reguladores y más.

Markey explicó que el enfoque desarrollado para la investigación de NIDA podría generalizarse para combatir otros tipos de cibercrimen, como el tráfico de animales o la venta ilegal de armas de fuego. Instagram ha tenido problemas con el tráfico ilegal de animales antes, prohibiendo la publicidad de todas las ventas de animales en 2017 como respuesta. La empresa también intenta eliminar cualquier publicación relacionada con el tráfico de animales tan pronto como aparecen, pero a pesar de esto, sigue habiendo un mercado negro para mascotas exóticas y anuncios para ellas siguen apareciendo en las búsquedas de Instagram.

Hay algunos problemas éticos que tendrán que ser negociados si la herramienta de NIDA se va a implementar. Los expertos en políticas de drogas advierten que podría permitir la criminalización excesiva de las ventas por parte de vendedores de drogas de bajo nivel y que también podría dar una impresión falsa de que el problema se está resolviendo, aunque tales herramientas de IA pueden no reducir la demanda general del medicamento. Sin embargo, si se utiliza adecuadamente, las herramientas de IA podrían ayudar a las agencias de aplicación de la ley a establecer vínculos entre vendedores en línea y cadenas de suministro fuera de línea, ayudándolos a cuantificar el alcance del problema. Además, técnicas similares a las utilizadas por NIDA podrían utilizarse para ayudar a combatir la adicción a los opioides, dirigiendo a las personas hacia fuentes de rehabilitación cuando se realizan búsquedas. Como con cualquier innovación, hay riesgos y oportunidades.