Investigación: Los algoritmos anti-spam mostraron sesgo político durante las elecciones de EE. UU. de 2020

Según un nuevo estudio, los algoritmos de filtrado de spam (SFAs) de tres de los principales proveedores de correo electrónico del mundo exhibieron sesgo político durante las elecciones de EE. UU. de 2020, con Gmail de Google inclinándose hacia la izquierda, y Microsoft Outlook y Yahoo Mail favoreciendo a los candidatos de derecha.

El documento establece:

‘Nuestras observaciones revelaron que todos los SFAs exhibieron sesgos políticos en los meses previos a las elecciones de EE. UU. de 2020. Gmail se inclinó hacia la izquierda (demócratas) mientras que Outlook y Yahoo se inclinaron hacia la derecha (republicanos). Gmail marcó un 59,3% más de correos electrónicos de los candidatos de derecha como spam en comparación con los candidatos de izquierda, mientras que Outlook y Yahoo marcaron un 20,4% y un 14,2% más de correos electrónicos de los candidatos de izquierda como spam en comparación con los candidatos de derecha, respectivamente.’

El análisis de los autores, afirman, demuestra ‘sesgos agregados’ en la actividad de los SFAs.

El documento también reconoce la posibilidad de ‘marcado de spam cultivado’, donde actores que buscan silenciar voces de oposición podrían solicitar o obtener acceso a comunicaciones oficiales de ‘partidos hostiles’ y afiliaciones con la intención de informar la comunicación como spam, influyendo así en los algoritmos que determinan la probabilidad de que un correo electrónico sea spam.

Sin embargo, los investigadores observan que esto no explica las marcadas variaciones en la forma en que los diferentes proveedores de correo electrónico parecen haber configurado acciones basadas en la retroalimentación de los usuarios:

‘Argumentablemente, también existe la posibilidad de que los SFAs de los servicios de correo electrónico hayan aprendido de las elecciones de algunos votantes que marcaron ciertos correos electrónicos de campaña como spam y comenzaron a marcar esos/similares correos electrónicos de campaña como spam para otros votantes. Si bien no tenemos razón para creer que hubo intentos deliberados por parte de estos servicios de correo electrónico para crear estos sesgos para influir en los votantes, el hecho es que sus SFAs han aprendido a marcar más correos electrónicos de una afiliación política como spam en comparación con la otra.

‘Como estos servicios de correo electrónico prominentes son activamente utilizados por una parte significativa de la población votante y como muchos de los votantes de hoy dependen de la información que ven (o no ven) en línea, dichos sesgos pueden tener un impacto inigorable en los resultados de una elección.’

El documento se titula Un vistazo a los sesgos políticos en los algoritmos de filtrado de spam de correo electrónico durante las elecciones de EE. UU. de 2020, y proviene de cuatro investigadores del Departamento de Ciencias de la Computación de la Universidad Estatal de Carolina del Norte.

Alrededor de las casas

El estudio de los investigadores abarca un período de cinco meses desde julio de 2020 hasta finales de noviembre del mismo año, durante el cual crearon 102 nuevas direcciones de correo electrónico en las tres plataformas de correo electrónico, y se suscribieron a dos listas de notificación de correo electrónico de candidatos presidenciales, 78 senadores y 156 candidatos a la Cámara de Representantes.

Para descartar factores demográficos, las cuentas de correo electrónico se crearon con factores demográficos variables para cada usuario (ficticio) y se dividieron en dos vertientes: la primera estudió las tendencias generales de sesgo en los algoritmos de filtrado de spam en todos los servicios de correo electrónico combinados para candidatos presidenciales, senadores y representantes; y la segunda examinó las formas en que las diversas interacciones de correo electrónico (como marcar o desmarcar como spam por parte del usuario) parecían afectar el comportamiento de los filtros de spam algorítmicos.

Varias observaciones clave surgieron durante el estudio. Los autores informan que Gmail ‘se inclinó hacia la izquierda’, mientras que Outlook y Yahoo se inclinaron hacia la derecha. Yahoo retuvo el 55,2% de todos los correos electrónicos políticos en la bandeja de entrada del usuario, mientras que Outlook filtró el 71,8% de los correos electrónicos de los candidatos políticos de todos los partidos.

‘Gmail, sin embargo, retuvo la mayoría de los correos electrónicos de los candidatos de izquierda en la bandeja de entrada (< 10,12% marcados como spam) mientras [enviaba] la mayoría de los correos electrónicos de los candidatos de derecha a la carpeta de spam (hasta un 77,2% marcados como spam).

‘También observamos que el porcentaje de correos electrónicos marcados por Gmail como spam de los candidatos de derecha aumentó constantemente a medida que se acercaba la fecha de la elección, mientras que el porcentaje de correos electrónicos marcados como spam de los candidatos de izquierda permaneció más o menos igual.’

Selección de candidatos

Mientras que los candidatos presidenciales suscritos para el estudio se limitaron a Joe Biden y Donald Trump, los investigadores se esforzaron por hacer elecciones representativas al considerar suscribirse a comunicaciones por correo electrónico de senadores y representantes, por varias razones.

En primer lugar, los estados tienen diferentes números de escaños en la Cámara de Representantes, basados en el recuento de población del estado. En segundo lugar, el número de senadores y representantes a través de los dos principales partidos políticos varía a través de los estados. Además, ciertos candidatos solo estaban representados por sitios web oficiales.gov, que están prohibidos por ley de enviar correos electrónicos de campaña; y finalmente, algunas de las listas de suscripción de los candidatos estaban protegidas por CAPTCHAs, que no podían ser automatizadas por el marco de recopilación de datos personalizado de los investigadores.

Distribución de la afiliación política de las suscripciones de correo electrónico de los candidatos al Senado y la Cámara de Representantes. Fuente: https://arxiv.org/pdf/2203.16743.pdf

Para igualar el resultado desequilibrado entre candidatos demócratas y republicanos, los investigadores se suscribieron a la información de correo electrónico de campaña del mayor número de candidatos en cualquier estado donde los candidatos de izquierda y derecha fueran iguales en número, excepto en estados como Alaska, que solo tenía un candidato republicano al Senado.

En total, los autores tuvieron que dar cuenta de 11 estados de esta manera, y finalmente terminaron con todos los 50 estados representados. 78 suscripciones a través de 36 estados equivalían a 44 listas de senadores demócratas y 34 republicanos, mientras que había 156 suscripciones a través de 42 estados para candidatos a la Cámara de Representantes – 81 demócratas y 75 republicanos.

Análisis de los datos

Los investigadores recopilaron 318.108 correos electrónicos a través de los tres servicios de correo electrónico en el período de recopilación de datos activo del estudio, que se truncó después del 20 de noviembre debido al rápido descenso en el volumen de correos electrónicos después de esa fecha. Los datos recopilados para cada correo electrónico incluyeron versión MIME, tipo de contenido, asunto, de, para, fecha, identificador de mensaje, entregado a, SPF recibido y recibido por.

Debido a los desafíos involucrados en representar de manera justa las comunicaciones de ambos partidos políticos, se eligió el Análisis de Puntuación de Propensión (PSA) como el método estadístico para los datos. El PSA genera covariables a partir de datos no equilibrados que igualan las distribuciones en circunstancias excepcionales donde los grupos de control y las divisiones estadísticas tradicionales no son fácilmente aplicables.

Los autores concluyen que los SFAs de los servicios de correo electrónico estudiados exhiben sesgo político, y que la consistencia relativa temprana en los servicios se desvía en un comportamiento más específico con el tiempo.

Gmail marca un porcentaje más alto (67,6%) de correos electrónicos políticos de derecha como spam, en comparación con un mero 8,2% de correos electrónicos afiliados a la izquierda, pero responde más dinámicamente a las interacciones del usuario que desmarcan correos electrónicos como spam que sus cohortes. Outlook, en cambio, marca el 95,8% de los correos electrónicos políticos de izquierda como spam, en comparación con el 75,4% para los correos electrónicos de derecha, y Yahoo marca un 14,2% más de correos electrónicos de izquierda como spam que los correos electrónicos de derecha.

Distribución acumulada del porcentaje de correos electrónicos demócratas (azul) y republicanos (rojo) que fueron marcados como spam en las cuentas de correo electrónico de cada servicio.

Además, los resultados sugieren que a lo largo del período del estudio, Gmail responde de manera genérica a un aumento en el volumen de correos electrónicos en todas las afiliaciones políticas, marcándolos cada vez más como spam, independientemente de su procedencia. Yahoo informó consistentemente correos electrónicos de izquierda como spam a medida que avanzaban las campañas, al mismo tiempo que disminuía la cantidad de correos electrónicos de derecha marcados como spam. Outlook parecía ser el menos afectado por el aumento del volumen de correos electrónicos de cualquier partido político, manteniendo un sesgo general hacia la derecha.

Porcentaje de correos electrónicos marcados como spam en ambos partidos políticos y los tres proveedores de correo electrónico durante los 153 días del período de estudio.

Respuesta a la interacción del usuario

Cuando marcamos un correo electrónico de spam como ‘No es spam’, la intención es entrenar al sistema de correo electrónico para que no marque correos electrónicos similares en el futuro, aunque el tipo subyacente de regla (basada en correo electrónico, basada en contenido, etc.) no siempre es completamente claro.

Los resultados del estudio encontraron que de los tres proveedores de correo electrónico examinados, solo Gmail respondió notablemente a una entrada de ‘no es spam’ del usuario. Por el contrario, esta interacción de spam a bandeja de entrada (S→I) del usuario tuvo un efecto a largo plazo muy limitado en Outlook y Yahoo.

Los investigadores observan:

‘[Debido] a la interacción S→I, el sesgo político en Gmail se redujo significativamente. Sin embargo, inesperadamente, aumentó en ambos Outlook y Yahoo porque ninguno de los dos servicios reaccionó notablemente al deseo del usuario de no marcar los correos electrónicos como spam que los dos servicios estaban marcando como spam.’

Conclusión

Los autores concluyen que Gmail responde ‘significativamente’ a la interacción del usuario en comparación con Outlook y Yahoo, a pesar de su propia inclinación hacia la izquierda.

Los autores establecen:

‘Mientras que el sesgo político en Gmail permaneció sin cambios después de la interacción de lectura, disminuyó significativamente debido a las interacciones I→S y S→I.’

Y continúan:

‘Mientras que los sesgos políticos cambiaron en respuesta a varias interacciones, Gmail mantuvo su inclinación hacia la izquierda mientras que Outlook y Yahoo mantuvieron su inclinación hacia la derecha en todos los escenarios.’

Los investigadores reconocen una expectativa general por parte del usuario final de que los filtros de spam pueden y deben adaptar su comportamiento en función de la intervención del usuario (como mover un correo electrónico de una carpeta de spam a la bandeja de entrada, o marcar un correo electrónico como ‘no es spam’), pero que este mecanismo no es confiable, y ciertamente no es consistente en los tres proveedores de correo electrónico estudiados.

El documento establece:

‘[No] encontramos acciones consistentes que se puedan recomendar a los usuarios para ayudarlos a reducir el sesgo en la forma en que el SFA trata los correos electrónicos políticos que se les envían.’

Publicado por primera vez el 4 de abril de 2022.