¿Qué son los Deepfakes?

A medida que los deepfakes se vuelven más fáciles de crear y más prolíficos, se les presta más atención. Los deepfakes se han convertido en el centro de las discusiones sobre ética de la inteligencia artificial, desinformación, apertura de la información y la internet, y regulación. Es importante estar informado sobre los deepfakes y tener una comprensión intuitiva de qué son los deepfakes. Este artículo aclarará la definición de un deepfake, examinará sus casos de uso, discutirá cómo se pueden detectar los deepfakes y examinará las implicaciones de los deepfakes para la sociedad.

¿Qué son los Deepfakes?

Antes de seguir discutiendo sobre los deepfakes, sería útil tomar un momento para aclarar qué son los “deepfakes” en realidad. Hay una gran cantidad de confusión sobre el término Deepfake, y a menudo el término se aplica incorrectamente a cualquier medio falsificado, independientemente de si es un verdadero deepfake o no. Para calificar como un Deepfake, el medio falsificado en cuestión debe ser generado con un sistema de aprendizaje automático, específicamente una red neuronal profunda.

El ingrediente clave de los deepfakes es el aprendizaje automático. El aprendizaje automático ha hecho posible que las computadoras generen video y audio de manera automática y relativamente rápida y fácil. Las redes neuronales profundas se entrenan con imágenes de una persona real para que la red aprenda cómo lucen y se mueven las personas en condiciones ambientales objetivo. La red entrenada se utiliza luego en imágenes de otra persona y se combina con técnicas de gráficos computacionales adicionales para combinar a la nueva persona con las imágenes originales. Un algoritmo de codificador se utiliza para determinar las similitudes entre la cara original y la cara objetivo. Una vez que se han aislado las características comunes de las caras, se utiliza un segundo algoritmo de inteligencia artificial llamado decodificador. El decodificador examina las imágenes codificadas (comprimidas) y las reconstruye en función de las características de las imágenes originales. Se utilizan dos decodificadores, uno en la cara del sujeto original y el segundo en la cara de la persona objetivo. Para realizar el intercambio, el decodificador entrenado en imágenes de la persona X se alimenta con imágenes de la persona Y. El resultado es que la cara de la persona Y se reconstruye sobre las expresiones faciales y la orientación de la persona X.

Actualmente, todavía se necesita un tiempo considerable para crear un deepfake. El creador del medio falsificado debe pasar mucho tiempo ajustando manualmente los parámetros del modelo, ya que los parámetros subóptimos pueden llevar a imperfecciones y glitches de imagen que revelan la verdadera naturaleza del medio falsificado.

Aunque a menudo se asume que la mayoría de los deepfakes se crean con un tipo de red neuronal llamada red neuronal generativa adversaria (GAN), muchos (quizás la mayoría) de los deepfakes creados en la actualidad no dependen de GAN. Si bien las GAN desempeñaron un papel destacado en la creación de los primeros deepfakes, la mayoría de los videos de deepfakes se crean a través de métodos alternativos, según Siwei Lyu de la Universidad de Búfalo.

Se necesita una cantidad desproporcionadamente grande de datos de entrenamiento para entrenar una GAN, y las GAN a menudo tardan mucho más en renderizar una imagen en comparación con otras técnicas de generación de imágenes. Las GAN también son mejores para generar imágenes estáticas que video, ya que las GAN tienen dificultades para mantener la coherencia de un marco a otro. Es mucho más común utilizar un codificador y múltiples decodificadores para crear deepfakes.

¿Para qué se utilizan los Deepfakes?

Muchos de los deepfakes que se encuentran en línea son de naturaleza pornográfica. Según una investigación realizada por Deeptrace, una empresa de inteligencia artificial, de una muestra de aproximadamente 15.000 videos de deepfakes tomados en septiembre de 2019, aproximadamente el 95% de ellos eran de naturaleza pornográfica. Una implicación inquietante de este hecho es que, a medida que la tecnología se vuelve más fácil de usar, pueden aumentar los incidentes de venganza pornográfica falsa.

Sin embargo, no todos los deepfakes son de naturaleza pornográfica. Hay usos más legítimos para la tecnología de deepfakes. La tecnología de deepfakes de audio podría ayudar a las personas a transmitir sus voces regulares después de que hayan sido dañadas o perdidas debido a una enfermedad o lesión. Los deepfakes también se pueden utilizar para ocultar las caras de las personas que se encuentran en situaciones sensibles y potencialmente peligrosas, mientras aún permiten que se lean sus labios y expresiones. La tecnología de deepfakes puede utilizarse potencialmente para mejorar el doblaje de películas en idiomas extranjeros, ayudar en la reparación de medios antiguos y dañados, e incluso crear nuevos estilos de arte.

Deepfakes no de video

Aunque la mayoría de las personas piensan en videos falsos cuando escuchan el término “deepfake”, los videos falsos no son de ninguna manera el único tipo de medio falsificado producido con tecnología de deepfakes. La tecnología de deepfakes se utiliza para crear fotos y audio falsos. Como se mencionó anteriormente, las GAN se utilizan con frecuencia para generar imágenes falsas. Se cree que ha habido muchos casos de perfiles falsos de LinkedIn y Facebook (META ) que tienen imágenes de perfil generadas con algoritmos de deepfakes.

También es posible crear audio deepfakes. Las redes neuronales profundas se entrenan para producir clones de voz/piel de voz de diferentes personas, incluidos celebridades y políticos. Un ejemplo famoso de un audio Deepfake es cuando la empresa de inteligencia artificial Dessa utilizó un modelo de inteligencia artificial, respaldado por algoritmos no de inteligencia artificial, para recrear la voz del presentador de podcast Joe Rogan.

¿Cómo detectar los Deepfakes?

A medida que los deepfakes se vuelven más y más sofisticados, distinguirlos de los medios genuinos se volverá más difícil. Actualmente, hay algunos signos reveladores que las personas pueden buscar para determinar si un video es potencialmente un deepfake, como una mala sincronización de los labios, movimientos no naturales, parpadeo alrededor del borde de la cara y deformación de detalles finos como el cabello, los dientes o los reflejos. Otros signos potenciales de un deepfake incluyen partes de menor calidad del mismo video y parpadeo irregular de los ojos.

Aunque estos signos pueden ayudar a detectar un deepfake en este momento, a medida que la tecnología de deepfakes mejora, la única opción para la detección confiable de deepfakes puede ser otros tipos de inteligencia artificial entrenados para distinguir entre medios falsos y reales.

Empresas de inteligencia artificial, incluidas muchas de las grandes empresas de tecnología, están investigando métodos para detectar deepfakes. El pasado diciembre, se inició un desafío de detección de deepfakes, respaldado por tres gigantes de la tecnología: Amazon (AMZN ), Facebook y Microsoft. Equipos de investigación de todo el mundo trabajaron en métodos para detectar deepfakes, compitiendo para desarrollar los mejores métodos de detección. Otros grupos de investigadores, como un grupo de investigadores combinados de Google (GOOGL ) y Jigsaw, están trabajando en un tipo de “forensia facial” que puede detectar videos que han sido alterados, haciendo que sus conjuntos de datos sean de código abierto y animando a otros a desarrollar métodos de detección de deepfakes. La mencionada Dessa ha trabajado en la mejora de las técnicas de detección de deepfakes, tratando de asegurarse de que los modelos de detección funcionen en videos de deepfakes que se encuentran en la red (en Internet) en lugar de solo en conjuntos de datos de entrenamiento y prueba precompuestos, como el conjunto de datos de código abierto que proporcionó Google.

También se están investigando otras estrategias para hacer frente a la proliferación de deepfakes. Por ejemplo, se pueden verificar los videos para comprobar su concordancia con otras fuentes de información. Se pueden realizar búsquedas de videos de eventos potencialmente tomados desde otros ángulos, o se pueden comprobar los detalles de fondo del video (como patrones climáticos y ubicaciones) para detectar incongruencias. Más allá de esto, un sistema de registro en línea de Blockchain podría registrar los videos cuando se crean inicialmente, manteniendo su audio y imágenes originales para que los videos derivados siempre puedan verificarse para detectar manipulaciones.

En última instancia, es importante que se creen métodos confiables para detectar los deepfakes y que estos métodos de detección sigan el ritmo de los últimos avances en tecnología de deepfakes. Aunque es difícil saber exactamente qué efectos tendrán los deepfakes, si no hay métodos confiables para detectar los deepfakes (y otras formas de medios falsos), la desinformación podría potencialmente propagarse y degradar la confianza de las personas en la sociedad y las instituciones.

Implicaciones de los Deepfakes

¿Cuáles son los peligros de permitir que los deepfakes se propaguen sin control?

Uno de los problemas más grandes que los deepfakes crean actualmente es la pornografía no consensual, creada combinando las caras de las personas con videos y imágenes pornográficas. Los éticos de la inteligencia artificial están preocupados por que los deepfakes se utilicen más en la creación de venganza pornográfica falsa. Más allá de esto, los deepfakes podrían utilizarse para acosar y dañar la reputación de casi cualquier persona, ya que podrían utilizarse para colocar a las personas en situaciones controvertidas y comprometedoras.

Las empresas y los especialistas en ciberseguridad han expresado su preocupación por el uso de deepfakes para facilitar estafas, fraude y extorsión. Presuntamente, el audio deepfake se ha utilizado para convencer a los empleados de una empresa para que transfieran dinero a estafadores

Es posible que los deepfakes tengan efectos perjudiciales incluso más allá de los mencionados anteriormente. Los deepfakes podrían potencialmente erosionar la confianza de las personas en los medios en general y hacer que sea difícil para las personas distinguir entre noticias reales y falsas. Si muchos videos en la web son falsos, se vuelve más fácil para los gobiernos, las empresas y otras entidades cuestionar la legitimidad de controversias y prácticas poco éticas legítimas.

Cuando se trata de gobiernos, los deepfakes pueden incluso plantear amenazas para el funcionamiento de la democracia. La democracia requiere que los ciudadanos puedan tomar decisiones informadas sobre los políticos basadas en información confiable. La desinformación socava los procesos democráticos. Por ejemplo, el presidente de Gabón, Ali Bongo, apareció en un video intentando tranquilizar a la ciudadanía de Gabón. Se asumió que el presidente había estado enfermo durante mucho tiempo, y su repentina aparición en un video probablemente falso desencadenó un intento de golpe. El presidente Donald Trump afirmó que una grabación de audio de él jactándose de agarrar a las mujeres por los genitales era falsa, a pesar de también describirla como “charla de vestuario”. El príncipe Andrew también afirmó que una imagen proporcionada por el abogado de Emily Maitilis era falsa, aunque el abogado insistió en su autenticidad.

En última instancia, aunque hay usos legítimos para la tecnología de deepfakes, hay muchos peligros potenciales que pueden surgir del mal uso de esa tecnología. Por esa razón, es extremadamente importante que se creen métodos para determinar la autenticidad de los medios y que se mantengan.