¿Hasta dónde y oscuros llegarán los deepfakes?

A medida que la IA se integra cada vez más en nuestra vida diaria, la tecnología deepfake se ha convertido en una preocupación creciente para muchos, especialmente para quienes disfrutan compartiendo momentos personales en redes sociales. Ya sea una salida nocturna con amigos o un picnic familiar en las Bahamas, las fotos compartidas en plataformas como Instagram, Facebook y Snapchat no están necesariamente a salvo de un posible uso indebido.

Una joven de Corea recientemente recurrió a las redes sociales para expresar su angustia por un video deepfake realizado como acto de venganza. En el video, ella parecía estar desnuda. Ella abogó apasionadamente por la eliminación del vídeo generado por IA e instó al individuo a detener su distribución.

En octubre de 2023, figuras reconocidas como la copresentadora de CBS Mornings, Gayle King, el actor Tom Hanks y la personalidad de YouTube MrBeast fueron víctimas de videos deepfake no autorizados que se difundieron en las plataformas de redes sociales. Otro vídeo que mostraba a la periodista de CNN Clarissa Ward cerca de la frontera entre Israel y Gaza fue manipulado para arrojar dudas sobre sus informes.

Estos videos, elaborados con tecnología deepfake de vanguardia, tienen el poder de sustituir a personas dentro del contenido existente. Su naturaleza realista es inquietante y lleva a muchos a creer en su autenticidad. Esto incluye Canciones generadas por IA imitando a estrellas famosas, algunas de las cuales se han convertido en éxitos de las listas de éxitos.

Eventos como este han despertado preocupaciones globales sobre el potencial de humillación pública, acoso y chantaje, resaltando aún más el siniestro potencial de los deepfakes.

Por qué la tecnología Deepfake es más peligrosa de lo que crees

El aumento de incidentes alarmantes indica la urgencia de tomar medidas proactivas contra los deepfakes. Actualmente, no existe una ley universal que aborde los deepfakes ni el contenido no autorizado generado por IA, ni siquiera en Estados Unidos. Si bien no se pueden erradicar por completo, se pueden tomar medidas de protección.

Para aquellos que no están familiarizados, la tecnología deepfake emplea inteligencia artificial para crear imágenes, videos o clips de audio realistas pero fabricados. Esta tecnología engañosa ganó prominencia alrededor de 2017 cuando un usuario anónimo de Reddit introdujo un algoritmo para generar videos falsos realistas.

Aunque inicialmente estaba destinado al entretenimiento, la educación o el activismo, el rápido avance de la IA, junto con las capacidades de deepfake, presenta una multitud de preocupaciones éticas y de seguridad. Esto incluye:

1. Violación de privacidadUna preocupación principal es el uso no autorizado de la imagen de una persona. Casos notables incluyen videos para adultos ultrafalsos de celebridades, que manchan su imagen. Por ejemplo, en 2017, un video inapropiado que representaba falsamente a la actriz Gal Gadot circuló ampliamente.
2. Desinformación y manipulaciónLos deepfakes pueden distorsionar la verdad e influir en la opinión pública. Un ejemplo notable es un video deepfake del expresidente Obama, creado por BuzzFeed y Jordan Peele. Aunque se concibió como un anuncio de servicio público contra la desinformación, subraya el posible uso indebido de esta tecnología.

1. Fraude y chantaje: Esta tecnología puede producir pruebas falsas o engañar mediante la duplicación de voz/imagen. Los delincuentes podrían utilizar deepfakes para extorsión o incluso fraude financiero, como se vio cuando una empresa de energía del Reino Unido fue engañada para que transfiriera una cantidad significativa, potencialmente a través de deepfake de voz.
2. Sesgo y discriminación: Los deepfakes pueden perpetuar o amplificar los prejuicios sociales, tergiversando potencialmente datos demográficos específicos.

Deepfakes: amenazas a la democracia, las relaciones y la identidad

Si bien la tecnología deepfake en sí no es inherentemente maliciosa, su uso indebido puede ser perjudicial. Puede distorsionar los resultados electorales, tensar las relaciones personales y violar la identidad personal, como se muestra en programas de entretenimiento como "DeepFake Love" y "Clickbait" de Netflix.

Pensamientos Finales

Los deepfakes están transformando el ámbito digital, abriendo caminos innovadores y planteando desafíos éticos. La ausencia de una regulación global y de herramientas de detección efectivas hace que este sea un tema crítico. Si bien la concienciación pública y la alfabetización mediática son esenciales, forman sólo una parte de la solución.

Es fundamental reflexionar: ¿Consideramos las deepfakes como maravillas tecnológicas o como amenazas para el bienestar individual y social? El debate debe continuar, ya que la concienciación y la acción colectivas son cruciales para mitigar los efectos negativos de la tecnología deepfake.