Modelo Estadístico Ayuda a Detectar Desinformación en las Redes Sociales

Un profesor de matemáticas de la Universidad de América, junto con su equipo de colaboradores, desarrolló un modelo estadístico que puede detectar desinformación en las publicaciones de las redes sociales.

El aprendizaje automático se está utilizando cada vez más para detener la propagación de la desinformación, pero todavía existe un obstáculo importante relacionado con el problema de las cajas negras que ocurren. Esto se refiere a cuando los investigadores no entienden cómo una máquina llega a la misma decisión que los entrenadores humanos.

Detectar Desinformación con Modelos Estadísticos

Zois Boukouvalas, profesor asistente en el Departamento de Matemáticas y Estadística de la Universidad de América, utilizó un conjunto de datos de Twitter con tweets de desinformación sobre el COVID-19 para demostrar cómo los modelos estadísticos pueden detectar la desinformación en las redes sociales durante eventos importantes como una pandemia o desastre.

Boukouvalas y sus colegas, que incluyen a la estudiante de la Universidad de América Caitlin Moroney y la profesora de Ciencias de la Computación Nathalie Japkowics, demostraron cómo las decisiones del modelo se alinean con las de los humanos en la investigación publicada recientemente.

“Nos gustaría saber qué está pensando una máquina cuando toma decisiones, y cómo y por qué está de acuerdo con los humanos que la entrenaron”, dijo Boukouvalas. “No queremos bloquear la cuenta de redes sociales de alguien porque el modelo tome una decisión sesgada”.

El método utilizado por el equipo es un tipo de aprendizaje automático que se basa en estadísticas. Los modelos estadísticos son efectivos y proporcionan otra forma de combatir la desinformación.

El modelo logró un alto rendimiento de predicción y clasificó un conjunto de prueba de 112 tweets reales y de desinformación con una precisión del 90%.

“Lo que es significativo sobre este hallazgo es que nuestro modelo logró la precisión mientras ofrecía transparencia sobre cómo detectó los tweets que eran desinformación”, continuó Boukouvalas. “Los métodos de aprendizaje profundo no pueden lograr este tipo de precisión con transparencia”.

Entrenar y Preparar el Modelo

Los investigadores prepararon el modelo para entrenarlo antes de probarlo en un conjunto de datos, ya que la información proporcionada por los humanos puede introducir sesgos y cajas negras.

Los tweets fueron etiquetados por los investigadores como desinformación o reales según un conjunto de reglas preestablecidas sobre el lenguaje utilizado en la desinformación. El equipo también consideró matices en el lenguaje humano y características lingüísticas relacionadas con la desinformación.

Antes de entrenar el modelo, la profesora de socio-lingüística Christine Mallinson de la Universidad de Maryland Baltimore County identificó los tweets para estilos de escritura asociados con la desinformación, el sesgo y fuentes menos confiables en los medios de comunicación.

“Una vez que agregamos esas entradas al modelo, está tratando de entender los factores subyacentes que llevan a la separación de la buena y la mala información”, dijo Japkowicz. “Está aprendiendo el contexto y cómo interactúan las palabras”.

Los investigadores ahora buscarán mejorar la interfaz de usuario para el modelo, así como su capacidad para detectar la desinformación en las publicaciones de las redes sociales que incluyen imágenes u otros medios multimedia. El modelo estadístico deberá aprender cómo interactúan una variedad de elementos diferentes para crear la desinformación.

Tanto Boukouvalas como Japkowicz dicen que la inteligencia humana y la alfabetización en noticias son clave para detener la propagación de la desinformación.

“A través de nuestro trabajo, diseñamos herramientas basadas en el aprendizaje automático para alertar y educar al público con el fin de eliminar la desinformación, pero creemos firmemente que los humanos deben desempeñar un papel activo en no propagar la desinformación en primer lugar”, dijo Boukouvalas.