Cómo el AI de Facebook se propaga la desinformación y amenaza la democracia

Dan Tunkelang, quien supervisó la investigación de IA en LinkedIn, declaró: “En el momento en que las recomendaciones tienen el poder de influir en las decisiones, se convierten en un objetivo para los spammers, estafadores y otras personas con motivos menos que nobles”.

Este es el dilema que experimentan las empresas de medios sociales como Facebook. Facebook utiliza retroalimentación implícita para rastrear clics, vistas y otros comportamientos de usuario medibles. Esto se utiliza para diseñar lo que se identifica como un “motor de recomendación”, un sistema de IA que tiene el poder último para decidir quién ve qué contenido y cuándo.

Facebook ha optimizado su motor de recomendación para maximizar la participación del usuario, que se mide por la cantidad de tiempo que se pasa pegado a la plataforma de Facebook. La maximización del tiempo tiene prioridad sobre cualquier otra variable, incluida la calidad o precisión de lo que se recomienda.

El sistema está diseñado para recompensar titulares sensacionalistas que involucran a los usuarios explotando los sesgos cognitivos, incluso si esos titulares fueron escritos por trolls rusos con la intención de dividir a la sociedad o influir en las elecciones políticas.

Cómo utiliza Facebook el AI

Hay una falta de conciencia sobre cómo Facebook utiliza el AI para decidir qué contenido ven y con qué interactúan sus usuarios. Primero, es necesario entender qué es el sesgo de confirmación. Psychology Today lo describe como:

El sesgo de confirmación es la tendencia a buscar, interpretar, favorecer y recordar información de una manera que confirme o apoye las creencias o valores previos de uno.

Facebook entiende que los usuarios son más propensos a hacer clic en noticias que alimentan la tendencia humana a buscar el sesgo de confirmación. Esto establece un precedente peligroso tanto para la propagación de teorías de la conspiración como para la creación de cámaras de eco donde los usuarios se alimentan exclusivamente de lo que quieren ver, independientemente de la precisión o del impacto social de lo que se ve.

Un estudio de MIT pudo demostrar que las noticias falsas en Twitter se propagan 6 veces más rápido que las noticias reales.

Esto significa que tanto Twitter como Facebook pueden ser utilizados como armas. Mientras que Twitter permite a cualquiera seguir intencionalmente flujos con puntos de vista estrechos o sesgados, Facebook lo lleva un paso más allá. Un usuario de Facebook actualmente no tiene forma de controlar o medir qué es lo que se ve, esto es controlado enteramente por el motor de recomendación de Facebook, cómo mide la participación del usuario y cómo se optimiza para esta misma participación del usuario.

Facebook intenta moldear y predecir los deseos de sus usuarios. Facebook estima hasta qué grado un usuario gustará o no gustará de un artículo de noticias que no ha experimentado el usuario. Para evitar una pérdida en la participación del usuario, Facebook elige entonces omitir artículos de noticias que pueden reducir el nivel de participación, y elige en cambio involucrar al usuario alimentándolo con artículos de noticias que alimentan el sesgo de confirmación, asegurando más clics, comentarios, gustos y compartidos.

Facebook también utiliza un filtro de colaboración automático de acciones y opiniones históricas de los usuarios para emparejar automáticamente a los participantes (amigos) con opiniones similares. Facebook utiliza una función de utilidad que predice y clasifica automáticamente y matemáticamente las preferencias del usuario para artículos que el usuario quiere ver.

Esto hace que los usuarios caigan en un agujero de conejo, están atrapados en noticias falsas, se les alimenta con contenido que refuerza su sesgo. El contenido que se presenta está inherentemente diseñado con el objetivo de influir en lo que se hace clic. Después de todo, si se cree en la conspiración de que Bill Gates está intentando microchipar a la población humana mediante el uso de vacunas, ¿por qué debería Facebook presentar evidencia contradictoria que podría hacer que el usuario se desenganche de la plataforma? Si se apoya a un candidato político en particular, ¿por qué debería Facebook ofrecer noticias que puedan contradecir las opiniones positivas de ese mismo candidato?

Como si esto no fuera suficiente, Facebook también utiliza lo que se conoce como “prueba social”. La prueba social es el concepto de que las personas seguirán las acciones de las masas. La idea es que, como muchas otras personas se comportan de una cierta manera, debe ser el comportamiento correcto.

Facebook proporciona esta prueba social en el contexto de gustos, comentarios o compartidos. Dado que solo ciertos amigos pueden ver el elemento de la fuente de noticias (a menos que busquen específicamente la fuente de noticias de un usuario), la prueba social simplemente sirve para reforzar el sesgo de confirmación.

Facebook también utiliza burbujas de filtro para limitar la exposición a puntos de vista contradictorios, contradictorios y desafiantes.

Anuncios de Facebook

Los usuarios de Facebook pueden estar haciendo clic en anuncios sin ser conscientes de que se les está presentando con anuncios. La razón de esto es simple, si hay un anuncio solo la primera persona que se le presenta el anuncio verá el aviso del anuncio. Si ese usuario comparte el anuncio, todos en su lista de amigos simplemente ven el “compartir” como un elemento de la fuente de noticias, ya que Facebook intencionalmente deja caer el aviso del anuncio. Inmediatamente, los usuarios bajan su guardia, no pueden diferenciar entre lo que es un anuncio y lo que habría aparecido orgánicamente en su fuente de noticias.

Compartidos de Facebook

Desafortunadamente, las cosas empeoran. Si un usuario tiene 1000 amigos que comparten contenido simultáneamente, el motor de recomendación priorizará el contenido de la minoría que comparte las mismas opiniones, incluso si estas a menudo consisten en teorías de la conspiración no probadas. El usuario entonces estará bajo la ilusión de que estos elementos de la fuente de noticias son vistos por todos. Al interactuar con esta fuente de noticias, estos usuarios están optimizando la prueba social de cada uno.

Si un usuario intenta iluminar a otro usuario sobre un elemento de noticias engañoso o falso, el acto mismo de comentar o interactuar con la fuente de noticias simplemente aumenta el tiempo de participación del usuario original. Este bucle de retroalimentación hace que Facebook refuerce la participación de ese usuario con noticias falsas adicionales.

Esto causa una cámara de eco, una burbuja de filtro donde un usuario es entrenado para creer solo en lo que ve. La verdad es simplemente una ilusión.

Gravedad del problema

Más de 10 millones de personas interactuaron con una fuente de noticias que afirmaba que el Papa Francisco salió en favor de la elección de Trump en 2016. No había evidencia de esto, era simplemente una historia de noticias falsa que salió de Rusia, sin embargo, esta fue la historia de noticias más compartida en Facebook en los tres meses previos a la elección de 2016.

El elemento de la fuente de noticias fue generado por una granja de trolls rusos que se hace llamar la “Agencia de Investigación de Internet”. Esta misma organización fue responsable de promover y compartir en Twitter y Facebook artículos de cebo racial, a favor de demonizar a Black Lives Matter, y armas de noticias falsas que difundían afirmaciones falsas sobre políticos estadounidenses.

El Comité Selecto de Inteligencia lanzó un informe de 85 páginas que detalla las campañas de medidas activas rusas y la interferencia, la mayor parte de las cuales involucraron la difusión de noticias falsas divisivas y propaganda que tenían la intención única de influir en la elección de EE. UU. de 2016.

Avanzando hacia la elección de 2020, el problema solo se ha intensificado. En septiembre de 2020, después de una pista del FBI, Facebook y Twitter terminaron las cuentas de redes sociales para una organización de noticias que se hace llamar PeaceData, que está vinculada a los esfuerzos de propaganda estatal de Rusia.

Desafortunadamente, cerrar cuentas es una solución temporal e ineficaz. Las cuentas rusas a menudo toman la forma de solicitudes de amistad, a menudo disgustadas por mujeres con perfiles atractivos que apuntan a los hombres, o cuentas de usuarios secuestradas con un historial de publicaciones regulares. Estas cuentas secuestradas cambian lentamente a publicaciones más políticas, hasta que están dominadas por propaganda o teorías de la conspiración.

Un usuario desprevenido puede no ser consciente de que la cuenta de un amigo ha sido comprometida. Si ese usuario es vulnerable a las teorías de la conspiración, puede interactuar con el elemento de la fuente de noticias falsa, el troll ruso que a menudo es un bot, entonces proporciona prueba social adicional en la forma de gustos o comentarios.

Los usuarios vulnerables a menudo son aquellos que menos entienden cómo funcionan la tecnología y el AI. El grupo demográfico de más de 65 años, que es la población más probable de votar, también es la más probable de difundir noticias falsas, como informó el New York Times.

Según el estudio, los usuarios de Facebook de 65 años y mayores publicaron siete veces más artículos de sitios web de noticias falsas que los adultos de 29 años y menos. La falta de alfabetización en medios digitales tiene a este grupo demográfico sin preparación para una fuente de noticias que no se basa en hechos o precisión, sino exclusivamente en la participación del usuario.

Los actores maliciosos están aprovechando el motor de recomendación de Facebook, que explota nuestros sesgos cognitivos en nuestra contra. Estas mismas organizaciones han optimizado el abuso del AI de Facebook para difundir teorías de la conspiración y propaganda. Las teorías de la conspiración que pueden parecer inocentes al principio, a menudo se utilizan como embudos hacia el supremacismo blanco, el nacionalismo de derecha o QAnon una teoría de la conspiración extraña que involucra a Trump tratando de salvar al mundo de los pedófilos liberales, una conspiración que no tiene base en la realidad.

Resumen

Facebook está claramente consciente de que hay un problema y han anunciado públicamente una estrategia que se centra en eliminar contenido que viola las Normas de la Comunidad de Facebook. El problema es que eliminar cuentas es una medida temporal que es ineficaz cuando las cuentas se generan en masa por bots, o el hacking masivo de cuentas de usuarios. También no resuelve el problema de que la mayor parte de la compartición es por parte de usuarios regulares que no son conscientes de que están difundiendo información errónea.

Agregar etiquetas de advertencia simplemente sirve para reforzar las teorías de la conspiración de que los gigantes de los medios sociales están sesgados en contra de los conservadores, que son los más susceptibles a las noticias falsas.

La solución debe ser un nuevo motor de recomendación que no solo mida la participación del usuario, sino que se optimice para la felicidad del usuario al entregar la verdad y promover una mayor autoconciencia.

Mientras tanto, Facebook debería seguir el camino que Twitter tomó para prohibir anuncios políticos.

Finalmente, se debe hacer una pregunta importante. Si las personas ya no tienen elección sobre las noticias que ven, ¿cuándo deja de ser una recomendación y cuándo se convierte en control mental?

Lectura recomendada:

Campañas de medidas activas rusas y interferencia – Informe del Comité Selecto de Inteligencia del Senado de los Estados Unidos.

El papel impactante que predice el fin de la democracia – Por Rick Shenkman, fundador de la Red de Noticias de Historia de la Universidad George Washington.

Las personas mayores comparten más noticias falsas en Facebook – Por el New York Times