Cómo las deepfakes impulsadas por IA amenazan la integridad electoral — Y qué hacer al respecto

Los anuncios de campaña ya pueden ser un poco confusos y polémicos.

Imagina que estás dirigido a un anuncio de campaña en el que un candidato expresa posiciones fuertes que influyen en tu voto — y el anuncio ni siquiera es real. Es una deepfake.

Esto no es un hipotético futurista; las deepfakes son un problema real y generalizado. Ya hemos visto “apoyos” generados por IA que han hecho titulares, y lo que hemos escuchado apenas araña la superficie.

A medida que nos acercamos a las elecciones presidenciales de EE. UU. de 2024, estamos entrando en un territorio inexplorado en ciberseguridad e integridad de la información. He trabajado en la intersección de la ciberseguridad y la IA desde que ambos conceptos eran nacientes, y nunca he visto nada como lo que está sucediendo ahora.

La evolución rápida de la inteligencia artificial — específicamente la IA generativa y, por supuesto, la facilidad resultante de crear deepfakes realistas — ha transformado el panorama de las amenazas electorales. Esta nueva realidad requiere un cambio en los supuestos básicos sobre la seguridad electoral y la educación del votante.

IA armada

No necesitas tomar mi experiencia personal como prueba; hay suficiente evidencia de que los desafíos de ciberseguridad que enfrentamos hoy están evolucionando a un ritmo sin precedentes. En el transcurso de apenas unos años, hemos presenciado una transformación dramática en las capacidades y metodologías de los actores potenciales de amenazas. Esta evolución refleja el desarrollo acelerado que hemos visto en las tecnologías de IA, pero con un giro preocupante.

Por ejemplo:

• Armadura rápida de vulnerabilidades. Los atacantes de hoy pueden explotar rápidamente las vulnerabilidades recién descubiertas, a menudo más rápido de lo que se pueden desarrollar y desplegar parches. Las herramientas de IA aceleran aún más este proceso, reduciendo la ventana entre el descubrimiento de la vulnerabilidad y la explotación.
• Superficie de ataque expandida. La adopción generalizada de tecnologías en la nube ha ampliado significativamente la superficie de ataque potencial. La infraestructura distribuida y el modelo de responsabilidad compartida entre proveedores de nube y usuarios crean nuevos vectores de explotación si no se gestionan adecuadamente.
• Medidas de seguridad tradicionales obsoletas. Las herramientas de seguridad heredadas como firewalls y software antivirus luchan por mantener el ritmo con estas amenazas en evolución, especialmente cuando se trata de detectar y mitigar contenido generado por IA.

Mira quién habla

En este nuevo panorama de amenazas, las deepfakes representan un desafío particularmente insidioso a la integridad electoral. Una investigación reciente de Ivanti pone algunos números a la amenaza: más de la mitad de los trabajadores de oficina (54%) no son conscientes de que la IA avanzada puede impersonar la voz de cualquiera. Esta falta de conciencia entre los votantes potenciales es profundamente preocupante a medida que nos acercamos a un ciclo electoral crítico.

Hay mucho en juego.

La sofisticación de la tecnología de deepfakes de hoy permite a los actores de amenazas, tanto extranjeros como nacionales, crear contenido falso convincente de audio, video y texto con un esfuerzo mínimo. Un simple prompt de texto puede generar una deepfake que es cada vez más difícil de distinguir del contenido real. Esta capacidad tiene serias implicaciones para la difusión de desinformación y la manipulación de la opinión pública.

Desafíos en atribución y mitigación

La atribución es uno de los desafíos más significativos que enfrentamos con la interferencia electoral generada por IA. Si bien históricamente hemos asociado la interferencia electoral con actores estatales, la democratización de las herramientas de IA significa que los grupos nacionales, impulsados por diversas motivaciones ideológicas, pueden aprovechar estas tecnologías para influir en las elecciones.

Esta difusión de actores de amenazas potenciales complica nuestra capacidad para identificar y mitigar las fuentes de desinformación. También subraya la necesidad de un enfoque multifacético para la seguridad electoral que vaya más allá de las medidas de ciberseguridad tradicionales.

Un esfuerzo coordinado para mantener la integridad electoral

Abordar el desafío de las deepfakes impulsadas por IA en las elecciones requerirá un esfuerzo coordinado en múltiples sectores. Aquí hay áreas clave donde debemos centrar nuestros esfuerzos:

• Seguridad de izquierda para sistemas de IA. Necesitamos aplicar los principios de “seguridad de izquierda” al desarrollo de los sistemas de IA en sí. Esto significa incorporar consideraciones de seguridad desde las primeras etapas del desarrollo del modelo de IA, incluyendo consideraciones para el uso potencial en la interferencia electoral.
• Aplicación de configuraciones seguras. Los sistemas y plataformas de IA que podrían potencialmente utilizarse para generar deepfakes deben tener configuraciones seguras y robustas por defecto. Esto incluye medidas de autenticación fuertes y restricciones sobre los tipos de contenido que se pueden generar.
• Seguridad de la cadena de suministro de IA. Al igual que nos enfocamos en la seguridad de la cadena de suministro de software, necesitamos extender esta vigilancia a la cadena de suministro de IA. Esto incluye examinar los conjuntos de datos utilizados para entrenar los modelos de IA y los algoritmos empleados en los sistemas de IA generativa.
• Capacidades de detección mejoradas. Necesitamos invertir en y desarrollar herramientas de detección avanzadas que puedan identificar contenido generado por IA, particularmente en el contexto de información relacionada con las elecciones. Esto probablemente implicará aprovechar la IA misma para combatir la desinformación generada por IA.
• Educación y conciencia del votante. Un componente crucial de nuestra defensa contra las deepfakes es un electorado informado. Necesitamos programas de educación comprehensivos para ayudar a los votantes a entender la existencia y el impacto potencial del contenido generado por IA, y para proporcionarles herramientas para evaluar críticamente la información que encuentran.
• Colaboración entre sectores. El sector tecnológico, particularmente las empresas de TI y ciberseguridad, deben trabajar en estrecha colaboración con las agencias gubernamentales, los funcionarios electorales y las organizaciones de medios para crear un frente unido contra la interferencia electoral impulsada por IA.

Qué hay ahora, y qué hay después

A medida que implementamos estas estrategias, es crucial que continuamente midamos su efectividad. Esto requerirá nuevas métricas y herramientas de seguimiento diseñadas específicamente para rastrear el impacto del contenido generado por IA en el discurso electoral y el comportamiento del votante.

Debemos estar preparados para adaptar nuestras estrategias rápidamente. El campo de la IA está evolucionando a un ritmo vertiginoso, y nuestras medidas defensivas deben evolucionar igual de rápido. Esto puede implicar aprovechar la IA misma para crear medidas de seguridad más robustas y adaptables.

El desafío de las deepfakes impulsadas por IA en las elecciones representa un nuevo capítulo en la ciberseguridad y la integridad de la información. Para abordarlo, debemos pensar más allá de los paradigmas de seguridad tradicionales y fomentar la colaboración entre sectores y disciplinas. El objetivo: aprovechar el poder de la IA para el beneficio de los procesos democráticos mientras se mitiga su potencial para causar daño. Esto no es solo un desafío técnico, sino también uno social que requerirá vigilancia, adaptación y cooperación continuas.

La integridad de nuestras elecciones — y, por extensión, la salud de nuestra democracia — depende de nuestra capacidad para enfrentar este desafío de frente. Es una responsabilidad que recae en todos nosotros: tecnólogos, formuladores de políticas y ciudadanos por igual.