Expertos en Inteligencia Artificial Clasifican a Deepfakes y 19 Otros Delitos Basados en IA por Nivel de Peligro

Un nuevo informe publicado por la Universidad College de Londres tenía como objetivo identificar las diversas formas en que la IA podría potencialmente ayudar a los delincuentes en los próximos 15 años. El informe hizo que 31 expertos en IA tomaran 20 métodos diferentes para utilizar la IA para cometer delitos y los clasificaran según various factores. Los expertos en IA clasificaron los delitos según variables como la facilidad con la que se podría cometer el delito, el daño social potencial que el delito podría causar, la cantidad de dinero que un delincuente podría ganar y la dificultad para detener el delito. Según los resultados del informe, los Deepfakes representaban la mayor amenaza para los ciudadanos y la sociedad en general, ya que su potencial para ser explotados por delincuentes y terroristas es alto.

Los expertos en IA clasificaron a los Deepfakes en el primer lugar de la lista de posibles amenazas de la IA porque son difíciles de identificar y contrarrestar. Los Deepfakes están mejorando constantemente para engañar incluso a los ojos de los expertos en Deepfakes y otros métodos de detección de Deepfakes basados en la IA a menudo son poco fiables. En términos de su capacidad para causar daño, los Deepfakes pueden ser utilizados fácilmente por malas personas para desacreditar a figuras expertas y de confianza o para intentar estafar a las personas haciéndose pasar por seres queridos o otras personas de confianza. Si los Deepfakes son abundantes, las personas podrían comenzar a perder la confianza en cualquier medio de audio o video, lo que podría hacer que pierdan la fe en la validez de los hechos y eventos reales.

El Dr. Matthew Caldwell, de la Facultad de Ciencias de la Computación de la UCL, fue el primer autor del artículo. Caldwell subraya el creciente peligro de los Deepfakes a medida que más y más de nuestra actividad se traslada a línea. Según lo citado por UCL News:

“A diferencia de muchos delitos tradicionales, los delitos en el ámbito digital pueden ser compartidos, repetidos y incluso vendidos con facilidad, lo que permite que las técnicas delictivas sean comercializadas y que el delito sea proporcionado como un servicio. Esto significa que los delincuentes pueden ser capaces de subcontratar los aspectos más desafiantes de su delito basado en la IA”.

El equipo de expertos clasificó cinco tecnologías de IA emergentes como posibles catalizadores de nuevos tipos de delitos: vehículos sin conductor utilizados como armas, ataques de piratería a sistemas y dispositivos controlados por la IA, recolección de datos en línea para fines de chantaje, phishing basado en la IA con mensajes personalizados y noticias falsas/desinformación en general.

Según Shane Johnson, el Director del Centro Dawes para Delitos Futuros de la UCL, el objetivo del estudio fue identificar posibles amenazas asociadas con tecnologías emergentes y teorizar formas de anticiparse a estas amenazas. Johnson dice que a medida que aumenta la velocidad del cambio tecnológico, es fundamental que “anticipemos las amenazas delictivas futuras para que los formuladores de políticas y otros actores con la capacidad de actuar puedan hacerlo antes de que ocurran nuevos ‘cosechas de delitos’”.

En cuanto a los catorce delitos posibles restantes en la lista, se clasificaron en una de dos categorías: preocupación moderada y baja preocupación.

Los delitos de IA de preocupación moderada incluyen el mal uso de robots militares, envenenamiento de datos, drones de ataque automatizados, ciberataques basados en el aprendizaje, ataques de denegación de servicio para actividades en línea, manipulación de mercados financieros/accionarios, venta de servicios fraudulentos disfrazados de IA/ML y engaño de reconocimiento facial.

Los delitos basados en la IA de baja preocupación incluyen la falsificación de arte o música, acoso asistido por la IA, reseñas falsas escritas por la IA, evasión de métodos de detección de la IA y “bots de ladrones” (bots que entran en las casas de las personas para robar cosas).

Por supuesto, los modelos de IA pueden ser utilizados para ayudar a combatir algunos de estos delitos. Recientemente, los modelos de IA se han desplegado para ayudar en la detección de esquemas de lavado de dinero, detectando transacciones financieras sospechosas. Los resultados se analizan con operadores humanos que luego aprueban o deniegan la alerta, y la retroalimentación se utiliza para mejorar el modelo. Es probable que el futuro involucre a las IA compitiendo entre sí, con delincuentes que intentan diseñar las mejores herramientas asistidas por la IA y la seguridad, las fuerzas del orden y otros diseñadores de IA éticos que intentan diseñar sus propios sistemas de IA mejores.