Deepfakes y Navegando la Nueva Era de los Medios Sintéticos

Recuerda “noticias falsas”? El término ha sido utilizado (y abusado) tan extensivamente que puede ser difícil recordar a qué se refería inicialmente. Pero el concepto tiene un origen muy específico. Hace diez años, los periodistas comenzaron a sonar la alarma sobre una afluencia de sitios web de “noticias” que lanzaban afirmaciones falsas, a menudo extravagantes, sobre políticos y celebridades. Muchos podían reconocer instantáneamente que estos sitios eran ilegítimos.

Pero muchos más carecían de las herramientas críticas para reconocer esto. El resultado fue el primer movimiento de una crisis epistemológica que ahora está abarcando la internet, una que ha alcanzado su manifestación más aterradora con el surgimiento de deepfakes.

Al lado de incluso un deepfake mediocre, los sitios web de “noticias falsas” de antaño parecen inofensivos. Peor aún, incluso aquellos que creen poseer niveles relativamente altos de alfabetización mediática están en riesgo de ser engañados. Los medios sintéticos creados con el uso de algoritmos de aprendizaje profundo y IA generativa tienen el potencial de causar estragos en los cimientos de nuestra sociedad. Según Deloitte, este año solo podrían costar a las empresas más de $250 millones a través de transacciones falsas y otros tipos de fraude. Mientras tanto, el Foro Económico Mundial ha llamado a los deepfakes “uno de los usos más preocupantes de la IA”, señalando el potencial de “chatbots y avatares de IA en tiempo real con agendas” para facilitar nuevas cepas de manipulación personalizada (y ultraeficaz).

La respuesta sugerida por el Foro Económico Mundial a este problema es sensata: abogan por una “mentalidad de confianza cero“, una que lleva un grado de escepticismo a cada encuentro con los medios digitales. Si queremos distinguir entre lo auténtico y lo sintético en el futuro, especialmente en entornos en línea inmersivos, dicha mentalidad será cada vez más esencial.

Dos enfoques para combatir la crisis de los deepfakes

Combatir la desinformación rampante generada por los medios sintéticos requerirá, en mi opinión, dos enfoques distintos.

El primero implica la verificación: proporcionar una forma sencilla para que los usuarios habituales de internet determinen si el video que están viendo es auténtico. Estas herramientas ya son comunes en industrias como los seguros, dado el potencial de actores maliciosos para presentar reclamaciones falsas apoyadas por videos, fotografías y documentos manipulados. Democratizar estas herramientas, hacerlas gratuitas y fáciles de acceder, es un paso crucial en esta lucha, y ya estamos viendo un movimiento significativo en este frente.

El segundo paso es menos tecnológico y, por lo tanto, más desafiante: aumentar la conciencia y fomentar las habilidades de pensamiento crítico. Después del escándalo de las “noticias falsas” original, en 2015, las organizaciones sin fines de lucro en todo el país crearon programas de alfabetización mediática y trabajaron para difundir las mejores prácticas, a menudo en colaboración con instituciones cívicas locales para empoderar a los ciudadanos comunes para detectar falsedades. Por supuesto, las “noticias falsas” tradicionales son juego de niños en comparación con los deepfakes más avanzados, por lo que necesitamos redoblar nuestros esfuerzos en este frente y invertir en educación a todos los niveles.

Los deepfakes avanzados requieren un pensamiento crítico avanzado

Por supuesto, estas iniciativas educativas fueron algo más fáciles de llevar a cabo cuando la desinformación en cuestión era basada en texto. Con los sitios web de “noticias falsas”, los signos de fraude eran a menudo obvios: diseño web de mala calidad, errores de ortografía rampantes, fuentes extrañas. Con los deepfakes, los signos son mucho más sutiles y, a menudo, imposibles de notar a primera vista.

En consecuencia, los usuarios de internet de todas las edades necesitan reentrenarse efectivamente para examinar los videos digitales en busca de indicadores de deepfakes. Eso significa prestar atención a una serie de factores. Para los videos, podría significar áreas borrosas y sombras irreales, movimientos y expresiones faciales poco naturales, tonos de piel demasiado perfectos, patrones inconsistentes en la ropa y los movimientos, errores de sincronización de labios, y así sucesivamente. Para el audio, podría significar voces que suenan demasiado puras (o claramente digitalizadas), una falta de tono emocional humano, patrones de habla extraños o frases inusuales.

A corto plazo, este tipo de autotrainamiento puede ser muy útil. Al preguntarnos una y otra vez, ¿Esto parece sospechoso?, afilamos no solo nuestra capacidad para detectar deepfakes, sino también nuestras habilidades de pensamiento crítico en general. Dicho esto, nos estamos acercando rápidamente a un punto en el que ni siquiera el ojo mejor entrenado podrá separar el hecho de la ficción sin asistencia externa. Los indicadores visuales, las irregularidades mencionadas anteriormente, serán tecnológicamente suavizados, de modo que los clips completamente fabricados serán indistinguibles del artículo genuino. Lo que nos quedará es nuestra intuición situacional, nuestra capacidad para hacernos preguntas como ¿Un político o celebridad realmente diría eso? ¿Es plausible el contenido de este video?

Es en este contexto que las plataformas de detección de IA se vuelven esenciales. Con el ojo desnudo ya no relevante para la detección de deepfakes, estas plataformas pueden servir como árbitros definitivos de la realidad, guardrail contra el abismo epistemológico. Cuando un video parece real pero de alguna manera parece sospechoso, como ocurrirá cada vez más en los próximos meses y años, estas plataformas pueden mantenernos anclados en los hechos confirmando la veracidad básica de lo que estamos viendo. En última instancia, con tecnología tan poderosa, lo único que puede salvarnos es la IA misma. Necesitamos luchar contra el fuego con fuego, lo que significa usar la buena IA para erradicar los peores abusos de la tecnología.

Realmente, la adquisición de estas habilidades en absoluto necesita ser un proceso cínico o negativo. Fomentar una mentalidad de confianza cero puede ser visto en cambio como una oportunidad para afilar nuestro pensamiento crítico, intuición y conciencia. Al preguntarnos una y otra vez, ciertas preguntas clave, ¿Esto tiene sentido? ¿Esto es sospechoso?, aumentamos nuestra capacidad para confrontar no solo los medios falsos, sino el mundo en general. Si hay un lado positivo en la era de los deepfakes, este es. Estamos siendo obligados a pensar por nosotros mismos y a ser más empíricos en nuestra vida diaria, y eso solo puede ser algo bueno.