¿Hasta dónde y oscuros llegarán los deepfakes?

A medida que la IA se integra más profundamente en nuestra vida diaria, la tecnología deepfake se ha convertido en una preocupación creciente para muchos, en particular para aquellos aficionados a compartir momentos personales en las redes sociales. Ya sea una salida nocturna con amigos o un picnic familiar en las Bahamas, las fotos compartidas en plataformas como Instagram, Facebook y Snapchat no están necesariamente a salvo de un posible uso indebido.

Una joven de Corea recientemente recurrió a las redes sociales para expresar su angustia por un video deepfake realizado como acto de venganza. En el video, ella parecía estar desnuda. Ella abogó apasionadamente por la eliminación del vídeo generado por IA e instó al individuo a detener su distribución.

En octubre de 2023, figuras reconocidas como la copresentadora de CBS Mornings, Gayle King, el actor Tom Hanks y la personalidad de YouTube MrBeast fueron víctimas de videos deepfake no autorizados que se difundieron en las plataformas de redes sociales. Otro vídeo que mostraba a la periodista de CNN Clarissa Ward cerca de la frontera entre Israel y Gaza fue manipulado para arrojar dudas sobre sus informes.

Estos videos, elaborados con tecnología deepfake de vanguardia, tienen el poder de sustituir a personas dentro del contenido existente. Su naturaleza realista es inquietante y lleva a muchos a creer en su autenticidad. Esto incluye Canciones generadas por IA imitando a estrellas famosas, algunas de las cuales se han convertido en éxitos de las listas de éxitos.

Eventos como este han despertado preocupaciones globales sobre el potencial de humillación pública, acoso y chantaje, resaltando aún más el siniestro potencial de los deepfakes.

Por qué la tecnología Deepfake es más peligrosa de lo que crees

El aumento de incidentes perturbadores indica la urgencia de tomar medidas proactivas contra los deepfakes. Actualmente, no existe una ley universal que aborde los deepfakes o el contenido no autorizado generado por IA, ni siquiera en Estados Unidos. Si bien no se pueden erradicar por completo, se pueden tomar medidas protectoras.

Para aquellos que no están familiarizados, la tecnología deepfake emplea inteligencia artificial para crear imágenes, videos o clips de audio realistas pero fabricados. Esta tecnología engañosa ganó prominencia alrededor de 2017 cuando un usuario anónimo de Reddit introdujo un algoritmo para generar videos falsos realistas.

Aunque inicialmente estaba destinado al entretenimiento, la educación o el activismo, el rápido avance de la IA, junto con las capacidades de deepfake, presenta una multitud de preocupaciones éticas y de seguridad. Esto incluye:

1. Violación de privacidad: Una preocupación principal es el uso no autorizado de la imagen de una persona. Los casos notables incluyen videos para adultos deepfake de celebridades, que empañan su imagen. Por ejemplo, en 2017, circuló ampliamente un vídeo inapropiado que retrataba falsamente a la actriz Gal Gadot.
2. Desinformación y manipulación: Los deepfakes pueden distorsionar las verdades e influir en la opinión pública. Un ejemplo notable es un vídeo deepfake del expresidente Obama, creado por BuzzFeed y Jordan Peele. Aunque pretende ser un anuncio de servicio público contra la desinformación, subraya el posible uso indebido de la tecnología.

1. Fraude y chantaje: Esta tecnología puede producir pruebas falsas o engañar mediante la duplicación de voz/imagen. Los delincuentes podrían utilizar deepfakes para extorsión o incluso fraude financiero, como se vio cuando una empresa de energía del Reino Unido fue engañada para que transfiriera una cantidad significativa, potencialmente a través de deepfake de voz.
2. Sesgo y discriminación: Los deepfakes pueden perpetuar o amplificar los prejuicios sociales, tergiversando potencialmente datos demográficos específicos.

Deepfakes: amenazas a la democracia, las relaciones y la identidad

Si bien la tecnología deepfake en sí misma no es intrínsecamente malévola, su uso indebido puede ser perjudicial. Puede distorsionar los resultados electorales, tensar las relaciones personales y violar la identidad personal, como se muestra en programas de entretenimiento como “DeepFake Love” y “Clickbait” de Netflix.

Pensamientos Finales

Los deepfakes están transformando el ámbito digital, abriendo caminos innovadores y planteando desafíos éticos. La ausencia de una regulación global y de herramientas de detección efectivas hace que este sea un tema crítico. Si bien la concienciación pública y la alfabetización mediática son esenciales, forman sólo una parte de la solución.

Es vital reflexionar: ¿consideramos los deepfakes como maravillas tecnológicas o amenazas al bienestar individual y social? La conversación debe persistir, ya que la conciencia y la acción colectivas son cruciales para mitigar los impactos perjudiciales de la tecnología deepfake.