¿Hasta dónde y qué tan oscuro pueden llegar los deepfakes?

À medida que la inteligencia artificial se integra más profundamente en nuestras vidas diarias, la tecnología de deepfakes se ha convertido en una creciente preocupación para muchos, particularmente para aquellos que gustan de compartir momentos personales en las redes sociales. Ya sea una noche con amigos o un pícnic familiar en las Bahamas, las fotos compartidas en plataformas como Instagram, Facebook y Snapchat no están necesariamente a salvo de un posible mal uso.

Una joven de Corea recientemente recurrió a las redes sociales para expresar su angustia por un video de deepfake creado como un acto de venganza. En el video, parecía estar desnuda. Pidió apasionadamente que se eliminara el video generado por IA y urgió a la persona a detener su distribución.

En octubre de 2023, figuras renombradas como la co-presentadora de CBS Mornings, Gayle King, el actor Tom Hanks y la personalidad de YouTube, MrBeast, fueron víctimas de videos de deepfake no autorizados que se extendieron por las plataformas de redes sociales. Otro video que presentaba a la periodista de CNN, Clarissa Ward, cerca de la frontera entre Israel y Gaza, fue manipulado para sembrar dudas sobre su informe.

Estos videos, creados con la tecnología de deepfake de última generación, tienen el poder de sustituir a las personas en contenido existente. Su naturaleza realista es inquietante, lo que lleva a muchos a creer en su autenticidad. Esto incluye canciones generadas por IA que imitan a famosos, algunas de las cuales se han convertido en éxitos en las listas de éxitos.

Estos eventos han generado preocupaciones globales sobre el potencial de humillación pública, acoso y chantaje, lo que destaca aún más el potencial siniestro de los deepfakes.

¿Por qué la tecnología de deepfake es más peligrosa de lo que crees?

El aumento de incidentes perturbadores indica la urgencia de medidas proactivas contra los deepfakes. Actualmente, no hay una ley universal que aborde los deepfakes o el contenido generado por IA no autorizado, ni siquiera en los Estados Unidos. Si bien no se pueden erradicar por completo, se pueden tomar medidas de protección.

Para aquellos que no están familiarizados, la tecnología de deepfake utiliza la IA para crear imágenes, videos o clips de audio realistas pero fabricados. Esta tecnología engañosa ganó prominencia alrededor de 2017 cuando un usuario anónimo de Reddit introdujo un algoritmo para generar videos falsos pero creíbles.

Aunque inicialmente estaba destinada al entretenimiento, la educación o el activismo, el rápido avance de la IA, combinado con las capacidades de deepfake, plantea una multitud de preocupaciones de seguridad y ética. Esto incluye:

1. Violación de la privacidad: Una preocupación principal es el uso no autorizado de la apariencia de una persona. Casos notables incluyen videos de deepfake para adultos de celebridades, que empañan su imagen. Por ejemplo, en 2017, un video inapropiado que falsamente retrataba a la actriz Gal Gadot se extendió ampliamente.
2. Desinformación y manipulación: Los deepfakes pueden distorsionar la verdad, influyendo en la opinión pública. Un ejemplo notable es un video de deepfake que presenta al ex presidente Obama, creado por BuzzFeed y Jordan Peele. Aunque estaba destinado a ser un anuncio de servicio público contra la desinformación, subraya el potencial de mal uso de la tecnología.

1. Estafa y chantaje: Esta tecnología puede producir pruebas falsas o engañar a través de la duplicación de voz o imagen. Los delincuentes podrían utilizar deepfakes para extorsión o incluso fraude financiero, como se vio cuando una empresa de energía del Reino Unido fue engañada para transferir una cantidad significativa, posiblemente a través de un deepfake de voz.
2. Sesgo y discriminación: Los deepfakes pueden perpetuar o amplificar prejuicios sociales, potencialmente malrepresentando a determinadas demografías.

Deepfakes: Amenazas a la democracia, las relaciones y la identidad

Si bien la tecnología de deepfake en sí no es inherentemente maliciosa, su mal uso puede ser dañino. Puede distorsionar los resultados electorales, tensar las relaciones personales y violar la identidad personal, como se muestra en programas de entretenimiento como “DeepFake Love” y “Clickbait” de Netflix.

Pensamientos finales

Los deepfakes están transformando el ámbito digital, abriendo caminos innovadores mientras plantean desafíos éticos. La ausencia de regulación global y herramientas de detección efectivas hace que este sea un tema crítico. Si bien la conciencia pública y la alfabetización mediática son esenciales, forman solo parte de la solución.

Es vital reflexionar: ¿Vemos los deepfakes como maravillas tecnológicas o como amenazas al bienestar individual y social? La conversación debe continuar, ya que la conciencia colectiva y la acción son cruciales para mitigar los impactos perjudiciales de la tecnología de deepfake.