Facebook elimina cuentas generadas por IA y utilizadas para perpetuar teorías de la conspiración

Las empresas de medios sociales han estado tratando de controlar la desinformación antes de la temporada electoral de 2020 de diversas maneras. Mientras que Twitter recientemente prohibió los anuncios políticos en su plataforma, Facebook (META ) acaba de anunciar que ha cerrado cientos de cuentas, grupos y páginas falsas. Muchas de estas cuentas parecen tener imágenes de perfil generadas por inteligencia artificial, y muchas han sido utilizadas para difundir desinformación y teorías de la conspiración.

Según informa Forbes, Facebook declaró que las cuentas y páginas prohibidas estaban vinculadas a la red “Beauty of Life” o “TheBL”, que Facebook dijo que estaba vinculada al grupo de publicación de noticias conservadoras, Epoch Times. Según Facebook, Epoch Media Group ha gastado casi $9,5 millones en publicidad a través de muchas de las páginas y grupos ahora prohibidos, con muchos de los posts que contienen teorías de la conspiración pro-Trump. Aunque Epoch Media Group niega los cargos, Facebook ha declarado que trabajó en estrecha colaboración con investigadores independientes como Graphika y el Laboratorio de Investigación Digital del Consejo Atlántico (DFRLab) para determinar la naturaleza de las cuentas y páginas antes de tomar medidas en su contra.

Según Facebook, las cuentas fueron eliminadas por “comportamiento inauténtico coordinado”, por engañar intencionalmente a otros sobre sus identidades y por intentar interferir en la política. Según CNET, Facebook dijo que las cuentas a menudo publicaban contenido que promovía a candidatos políticos específicos y una ideología, centrándose en elecciones conservadoras, políticas conservadoras y un fuerte apoyo al presidente Trump.

Facebook publicó un informe de 39 páginas sobre el evento que cubre muchos de sus hallazgos. Uno de los aspectos notables del informe de Facebook fue que muchas de las cuentas prohibidas fueron creadas con la ayuda de la IA. Los investigadores de Facebook afirman en el informe:

“Decenas de estas cuentas falsas tenían imágenes de perfil generadas por inteligencia artificial, en el primer despliegue a gran escala de caras falsas conocido por los autores de este informe”.

Según los hallazgos del informe, las imágenes generadas por IA no eran perfectas, con detalles que a menudo revelaban su verdadera naturaleza. Los elementos contiguos de una imagen, como los lentes o el cabello de una persona, a menudo eran asimétricos. Además, los detalles de fondo a menudo estaban borrosos y distorsionados. Sin embargo, estos elementos pueden no ser notables a primera vista, especialmente dado el pequeño tamaño de las fotos de perfil en una cadena de comentarios de Facebook. Muchas de las perfiles falsos también parecían tener información de perfil falsa e incluso publicaciones falsas, potencialmente generadas por IA.

Según NBC, el jefe de políticas de seguridad de Facebook, Nathaniel Gleicher, declaró que el comportamiento de las cuentas es lo que las delató como inauténticas y que los intentos de utilizar imágenes y información de perfil falsas no ayudan a proteger las cuentas del descubrimiento. Gleicher declaró que las imágenes generadas por IA en realidad hacían que las cuentas fueran más propensas a ser detectadas. Dijo Gleicher:

“Detectamos estas cuentas porque estaban involucradas en un comportamiento falso. Utilizar perfiles generados por IA como una forma de hacerse ver más real no les ayuda en realidad. La principal conclusión aquí es la gravedad de la red al utilizar identidades falsas… Lo que es nuevo aquí es que esta es supuestamente una empresa de medios con sede en EE. UU. que utiliza actores extranjeros que se hacen pasar por estadounidenses para promover contenido político. Lo hemos visto mucho con actores estatales en el pasado”.

Aun así, los investigadores independientes de Graphika y el Consejo Atlántico declararon que la facilidad con la que los actores maliciosos pudieron crear tantas imágenes y dar a sus cuentas una apariencia de autenticidad “es una preocupación”. Facebook y otras empresas de medios sociales están bajo presión para aumentar los esfuerzos para combatir la proliferación de la desinformación política, una tarea que requerirá mantenerse por delante tecnológicamente de aquellos que buscan difundir desinformación.

Antes de que Facebook cerrara las cuentas, páginas y grupos, el contenido publicado por estas entidades llegó a millones de personas. Según informes, al menos 55 millones de cuentas habían seguido una de las 89 páginas prohibidas. La mayoría de los seguidores eran cuentas no estadounidenses. En total, se eliminaron alrededor de 600 cuentas, 90 páginas y 150 grupos de Facebook. Aproximadamente 70 cuentas también fueron eliminadas de Instagram.

La noticia llega justo cuando Facebook está iniciando un desafío de detección de DeepFake, que se llevará a cabo hasta marzo de 2020. Twitter también ha prohibido recientemente casi 6000 cuentas que sospecha que se originaron en Arabia Saudita y publicaron contenido engañoso intencionalmente.