Deepfakes y navegando la nueva era de los medios sintéticos

Recuerda “noticias falsas”? El término ha sido utilizado (y abusado) tan extensamente en este punto que puede ser difícil recordar a qué se refería inicialmente. Pero el concepto tiene un origen muy específico. Hace diez años, los periodistas comenzaron a sonar la alarma sobre una afluencia de sitios web de “noticias” que lanzaban afirmaciones falsas, a menudo extravagantes, sobre políticos y celebridades. Muchos podían decir instantáneamente que estos sitios eran ilegítimos.

Pero muchos más carecían de las herramientas críticas para reconocer esto. El resultado fue el primer movimiento de una crisis epistemológica que ahora está abarcando la internet, una que ha alcanzado su manifestación más aterradora con el surgimiento de deepfakes.

Al lado de incluso un deepfake pasable, los sitios web de “noticias falsas” de antaño parecen inofensivos. Peor aún, incluso aquellos que creen poseer niveles relativamente altos de alfabetización mediática están en riesgo de ser engañados. Los medios sintéticos creados con el uso de algoritmos de aprendizaje profundo y IA generativa tienen el potencial de causar estragos en los cimientos de nuestra sociedad. Según Deloitte, este año solo podrían costar a las empresas más de $250 millones a través de transacciones falsas y otros tipos de fraude. Mientras tanto, el Foro Económico Mundial ha llamado a los deepfakes “uno de los usos más preocupantes de la IA”, señalando el potencial de “chatbots y avatares de IA en tiempo real con una agenda” para facilitar nuevas cepas de manipulación ultra-personalizada (y ultra-efectiva).

La respuesta sugerida por el Foro Económico Mundial a este problema es sensata: abogan por una “mentalidad de confianza cero“, una que traiga un grado de escepticismo a cada encuentro con medios digitales. Si queremos distinguir entre lo auténtico y lo sintético en el futuro, especialmente en entornos en línea inmersivos, dicha mentalidad será cada vez más esencial.

Dos enfoques para combatir la crisis de los deepfakes

Combatir la desinformación rampante generada por los medios sintéticos requerirá, en mi opinión, dos enfoques distintos.

El primero implica verificación: proporcionar una forma sencilla para que los usuarios habituales de internet determinen si el video que están mirando es en realidad auténtico. Tales herramientas ya son ampliamente utilizadas en industrias como los seguros, dado el potencial de actores maliciosos para presentar reclamaciones falsas ayudados por videos, fotografías y documentos manipulados. Democratizar estas herramientas, hacerlas gratuitas y fáciles de acceder, es un paso crucial en esta lucha, y ya estamos viendo un movimiento significativo en este frente.

El segundo paso es menos tecnológico y, por lo tanto, más desafiante: aumentar la conciencia y fomentar las habilidades de pensamiento crítico. En el aftermath del escándalo original de “noticias falsas”, en 2015, organizaciones sin fines de lucro en todo el país elaboraron programas de alfabetización mediática y trabajaron para difundir las mejores prácticas, a menudo en colaboración con instituciones cívicas locales para empoderar a los ciudadanos comunes para detectar falsedades. Por supuesto, las “noticias falsas” de la vieja escuela son juego de niños en comparación con los deepfakes más avanzados, por lo que necesitamos redoblar nuestros esfuerzos en este frente e invertir en educación a todos los niveles.

Deepfakes avanzados requieren pensamiento crítico avanzado

Por supuesto, estas iniciativas educativas fueron algo más fáciles de emprender cuando la desinformación en cuestión era basada en texto. Con los sitios web de “noticias falsas”, los signos reveladores de fraude a menudo eran obvios: un diseño web tosco, errores de ortografía rampantes, fuentes extrañas. Con los deepfakes, los signos son mucho más sutiles, y a menudo imposibles de notar a primera vista.

En consecuencia, los usuarios de internet de todas las edades necesitan reentrenarse efectivamente para examinar el video digital en busca de indicadores de deepfakes. Eso significa prestar mucha atención a una serie de factores. Para el video, eso podría significar áreas borrosas y sombras irreales; movimientos y expresiones faciales poco naturales; tonos de piel demasiado perfectos; patrones inconsistentes en la ropa y los movimientos; errores de sincronización de labios; y así sucesivamente. Para el audio, eso podría significar voces que suenan demasiado perfectas (o claramente digitalizadas), una falta de tono emocional humano, patrones de habla extraños o frases inusuales.

A corto plazo, este tipo de autoentrenamiento puede ser muy útil. Al preguntarnos una y otra vez, ¿Este parece sospechoso?, afilamos no solo nuestra capacidad para detectar deepfakes, sino también nuestras habilidades de pensamiento crítico en general. Dicho eso, estamos llegando rápidamente a un punto en el que ni siquiera el ojo mejor entrenado podrá separar el hecho de la ficción sin asistencia externa. Los visuales, las irregularidades mencionadas anteriormente, serán tecnológicamente suavizados, de modo que los clips completamente fabricados serán indistinguibles del artículo genuino. Lo que nos quedará es nuestra intuición situacional, nuestra capacidad para hacernos preguntas como ¿Un político o celebridad realmente diría eso? ¿Es plausible el contenido de este video?

Es en este contexto que las plataformas de detección de IA se vuelven esenciales. Con el ojo desnudo ya no relevante para la detección de deepfakes, estas plataformas pueden servir como árbitros definitivos de la realidad, guardabarros contra el abismo epistemológico. Cuando un video parece real pero de alguna manera parece sospechoso, como ocurrirá cada vez más en los próximos meses y años, estas plataformas pueden mantenernos anclados en los hechos confirmando la veracidad básica de lo que estamos mirando. En última instancia, con tecnología tan poderosa, lo único que puede salvarnos es la IA en sí. Necesitamos luchar contra el fuego con fuego, lo que significa utilizar una buena IA para erradicar los peores abusos de la tecnología.

Realmente, la adquisición de estas habilidades en absoluto necesita ser un proceso cínico o negativo. Fomentar una mentalidad de confianza cero puede ser pensada como una oportunidad para afilar nuestro pensamiento crítico, intuición y conciencia. Al preguntarnos una y otra vez ciertas preguntas clave, ¿Tiene sentido? ¿Es esto sospechoso?, aumentamos nuestra capacidad para confrontar no solo los medios falsos, sino el mundo en general. Si hay un lado positivo en la era de los deepfakes, este es. Estamos siendo forzados a pensar por nosotros mismos y a volvernos más empíricos en nuestras vidas diarias, y eso solo puede ser algo bueno.