La IA puede combatir la desinformación y el sesgo en las noticias

La desinformación y el sesgo en las noticias se han convertido en uno de los mayores desafíos que la sociedad ha enfrentado en los últimos años. Cosas como operaciones de información, deepfakes, influencia financiera y la explotación de tensiones sociales son nuevas herramientas utilizadas por individuos y actores estatales en todo el mundo.

La desinformación es un término general para la información falsa, y está jugando un papel importante en la manipulación de la opinión pública. Al mismo tiempo, se utiliza como un ataque contra los líderes políticos y está empeorando las separaciones entre grupos en varios países. Más que nunca, la desinformación está llegando a la urna electoral, y se ha vuelto increíblemente efectiva.

La desinformación, que es ligeramente diferente de la desinformación, es información engañosa o sesgada. Puede incluir narrativas y hechos manipulados. En otras palabras, es propaganda.

Un informe de 2019 de investigadores de la Universidad de Oxford detalló campañas de desinformación organizadas en 70 países diferentes, incluyendo Rusia, China, Vietnam y Guatemala.

La economía digital ha llevado a un aumento de la desinformación y el sesgo en las noticias, con tecnologías de inteligencia artificial y plataformas de redes sociales convirtiéndose en formas de difundirla a las masas.

Hemos visto muchos ejemplos de esto. Por ejemplo, las dos últimas elecciones presidenciales de EE. UU. estuvieron llenas de desinformación y sesgo, y esto seguramente continuará en el futuro. Los mercados financieros también han sido objeto de manipulación a corto plazo a través de la desinformación y el sesgo, y los asuntos exteriores se están volviendo más tensos como resultado de su uso. Las tensiones sociales se producen por información falsa contra partidarios y opositores de causas específicas, y las noticias falsas son rampantes en casi todas las naciones.

Nuestra dependencia de las redes sociales y los algoritmos nos ha hecho increíblemente vulnerables a la desinformación y el sesgo, y se ha vuelto fácil manipular a grandes grupos de personas.

Según un ensayo titulado “Sesgos hacen que las personas sean vulnerables a la desinformación difundida por las redes sociales“, publicado por The Conversation, una red de medios de comunicación sin fines de lucro, hay tres tipos de sesgo que hacen que el ecosistema de las redes sociales sea vulnerable a la desinformación intencional y accidental. Es importante reconocer que la mayoría de nuestras noticias provienen de las redes sociales.

Los tres tipos de sesgo son:

1. Sesgo en el cerebro: “Los sesgos cognitivos se originan en la forma en que el cerebro procesa la información que cada persona encuentra todos los días.”
2. Sesgo en la sociedad: “Cuando las personas se conectan directamente con sus pares, los sesgos sociales que guían su selección de amigos influyen en la información que ven.”
3. Sesgo en la máquina: “El tercer grupo de sesgos surge directamente de los algoritmos utilizados para determinar qué ven las personas en línea. Tanto las plataformas de redes sociales como los motores de búsqueda los emplean.”

Esta combinación de sesgos ha creado el entorno perfecto para que actores maliciosos utilicen nuestras plataformas de noticias actuales como una forma de difundir desinformación. Pero es importante reconocer que el sesgo también está presente fuera de este ámbito. Los informes de noticias regulares y los artículos corren el riesgo de estar sesgados debido a las inclinaciones particulares de un autor o una publicación. Esto no es nada nuevo.

Soluciones de IA para la desinformación y el sesgo

El auge de la inteligencia artificial nos ha proporcionado muchas herramientas nuevas e innovadoras que se pueden utilizar para combatir la desinformación y el sesgo en las noticias.

Por ejemplo, cuando se diseña adecuadamente, la IA puede detectar y eliminar efectivamente cierta desinformación y otro contenido problemático en línea. Ya se está utilizando para identificar bots falsos por empresas como Google (GOOGL ), Twitter y Facebook. Y los bots falsos a menudo se utilizan para difundir desinformación y noticias sesgadas.

Se deben explorar nuevos marcos de IA para combatir este problema, y los existentes deben mejorarse, ya que muchos han demostrado ser problemáticos. Estos problemas comienzan a volverse aún más peligrosos cuando surgen conflictos. Por ejemplo, los conflictos militares, como el actual conflicto entre Rusia y Ucrania, llevan a la difusión de desinformación a un ritmo increíblemente rápido.

Están surgiendo varias herramientas impulsadas por IA. Por ejemplo, NT CONNECT, un desarrollador de tecnología internacional, ha anunciado recientemente el lanzamiento de su aplicación de agregador de noticias, NOOZ.AI. El motor de análisis de lenguaje de IA tiene como objetivo traer transparencia al sesgo polarizador que se encuentra en los medios de comunicación de hoy en día. Intenta lograrlo manteniendo a los lectores informados sobre la influencia de los medios de comunicación antes de leer un artículo.

“Los autores o periodistas tienden a inclinarse hacia un sesgo particular, a menudo sin que el lector lo sepa”, dice el comunicado de prensa de la empresa. “Al conocer el sesgo histórico del autor y las fuentes de noticias, los consumidores pueden examinar el artículo con una mente más objetiva y resistir ser manipulados para pensar de una cierta manera sobre un tema en particular”.

La herramienta NOOZ.AI se basa en cuatro pilares clave:

• Análisis de opinión: Ayuda a los lectores a determinar la presencia de sentimientos personales, opiniones, creencias o juicios en la escritura de un periodista.
• Análisis de sentimiento: La herramienta utiliza el análisis de sentimiento para ayudar a los lectores a evaluar el apoyo o la oposición de un escritor a la información general o a un tema específico.
• Análisis de propaganda: Puede detectar la desinformación potencial al identificar el uso de hasta 18 técnicas de persuasión posibles.
• Análisis de revisión: Los lectores pueden investigar la evolución de una noticia y su manipulación de la opinión y el sentimiento con el tiempo.

La aplicación proporciona puntuaciones para cada artículo, con puntuaciones de opinión que van de 0 a 100 y puntuaciones de sentimiento que van de -100 a 100. También rastrea todos los ediciones de texto para cada revisión y da a los lectores la capacidad de comparar diferentes versiones.

Según Garry Paxinos, CTO en NT CONNECT:

“La informática sesgada es una preocupación importante en la sociedad de hoy. La desinformación es la palabra más comúnmente (mal)utilizada. Pero la realidad es que el lenguaje en sí puede ser utilizado para manipular y persuadir al lector casual. Al analizar objetivamente el lenguaje, evitamos el sesgo subjetivo que se encuentra en otros enfoques. En lugar de etiquetar subjetivamente la desinformación, nuestro enfoque es iluminar cómo se puede ser manipulado con titulares exagerados, historial de revisiones y texto de artículos”.