Facebook elimina cuentas generadas por IA y utilizadas para perpetuar teorías de conspiración

Las empresas de redes sociales han estado tratando de controlar la información errónea antes de la temporada electoral de 2020 de varias maneras. Si bien Twitter prohibió recientemente los anuncios políticos en su plataforma, Facebook acaba de anunciar que cerró cientos de cuentas, grupos y páginas falsas. Muchas de estas cuentas parecen tener imágenes de perfil generadas por inteligencia artificial y, según los informes, muchas se han utilizado para difundir información errónea y teorías de conspiración.

Según lo informado por Forbes, Facebook declaró que las cuentas y páginas prohibidas estaban vinculadas a la red “Beauty of Life”, o “TheBL”, que según Facebook estaba vinculada al grupo conservador de publicación de noticias Epoch Times. Según Facebook, Epoch Media Group ha gastado casi $ 9.5 millones en publicidad a través de muchas de las páginas y grupos ahora prohibidos, y muchas de las publicaciones contienen teorías de conspiración a favor de Trump. Si bien Epoch Media Group niega los cargos, Facebook ha declarado que trabajó en estrecha colaboración con investigadores independientes como Graphika y el Laboratorio de Investigación Forense Digital (DFRLab) del Atlantic Council para determinar la naturaleza de las cuentas y páginas antes de tomar medidas contra ellas.

Según Facebook, las cuentas fueron eliminadas por "comportamiento inauténtico coordinado", engañar deliberadamente a otros sobre sus identidades y por intentar interferir políticamente.  Según CNETFacebook dijo que las cuentas a menudo publicaban contenido que promocionaba candidatos e ideologías políticas específicas, centrándose en elecciones conservadoras, políticas conservadoras y un fuerte apoyo al presidente Trump.

Facebook publicó un informe de 39 páginas sobre el evento que cubre muchos de sus hallazgos. Uno de los aspectos notables del informe de Facebook fue que muchas de las cuentas prohibidas se crearon con la ayuda de AI. Los investigadores de Facebook afirman en el informe:

“Docenas de estas cuentas falsas tenían imágenes de perfil generadas por inteligencia artificial, en el primer despliegue a gran escala de rostros falsos conocido por los autores de este informe”.

Según los hallazgos del informe, las imágenes generadas por IA no eran perfectas, y los detalles a menudo revelaban su verdadera naturaleza. Los elementos contiguos de una imagen, como las gafas o el cabello de una persona, a menudo eran asimétricos. Además, los detalles de fondo a menudo estaban borrosos y distorsionados. Sin embargo, es posible que estos elementos no se noten a primera vista, especialmente dado el pequeño tamaño de las imágenes de las fotos de perfil en una cadena de comentarios de Facebook. Muchos de los perfiles falsos también parecían tener información de perfil falsa e incluso publicaciones falsas, potencialmente generadas por IA.

Como informó NBC, el jefe de política de seguridad de Facebook, Nathaniel Gleicher, afirmó que el comportamiento de las cuentas es lo que las delató como no auténticas y que los intentos de usar imágenes e información de perfil falsas no ayudan a proteger las cuentas del descubrimiento. Gleicher dijo que las imágenes generadas por IA en realidad estaban haciendo que las cuentas fueran más propensas a ser atrapadas. Gleicher dijo:

“Detectamos estas cuentas porque estaban involucradas en un comportamiento falso. Usar perfiles generados por IA como una forma de verse más reales no los ayuda en realidad. La conclusión más importante aquí es la atroz de la red en el uso de identidades falsas... Lo nuevo aquí es que supuestamente se trata de una empresa de medios con sede en los EE. UU. que aprovecha a los actores extranjeros que se hacen pasar por estadounidenses para impulsar el contenido político. Lo hemos visto mucho con actores estatales en el pasado”.

No obstante, los investigadores independientes de Graphika y el Atlantic Council afirmaron que la facilidad con la que los malos actores pudieron crear tantas imágenes y dar a sus cuentas autenticidad percibida "es una preocupación". Facebook y otras compañías de redes sociales están bajo presión para intensificar los esfuerzos para combatir la proliferación de información política errónea, una tarea que requerirá mantenerse tecnológicamente a la vanguardia de quienes buscan difundir información errónea.

Antes de que Facebook cerrara cuentas, páginas y grupos, el contenido publicado por estas entidades llegaba a millones de personas. Según se informa, al menos 55 millones de cuentas habían seguido una de las 89 páginas prohibidas diferentes. La mayoría de los seguidores eran cuentas fuera de los EE. UU. En total, se eliminaron de Facebook alrededor de 600 cuentas, 90 páginas y 150 grupos. También se eliminaron aproximadamente 70 cuentas de Instagram.

La noticia llega justo cuando Facebook está lanzando un desafío de detección de DeepFake, que se extenderá hasta marzo de 2020. Twitter también prohibió recientemente casi 6000 cuentas que sus sospechosos se originaron en Arabia Saudita y publicaron contenido engañoso a propósito.