Ética
La IA puede combatir la desinformación y el sesgo en las noticias
La desinformación y el sesgo en las noticias se han convertido en uno de los mayores desafíos que la sociedad ha enfrentado en los últimos años. Cosas como las operaciones de información, los deepfakes, la influencia financiera y la explotación de las tensiones sociales son nuevas herramientas utilizadas por individuos y actores estatales de todo el mundo.
La desinformación es un término general para la información falsa, y está jugando un papel importante en la manipulación de la opinión pública. Al mismo tiempo, se utiliza como un ataque contra los líderes políticos y está empeorando las separaciones entre grupos en varios países. Más que nunca, la desinformación está llegando a la urna electoral, y se ha vuelto increíblemente efectiva.
La desinformación, que es ligeramente diferente a la desinformación, es información engañosa o sesgada. Puede incluir narrativas y hechos manipulados. En otras palabras, es propaganda.
Un informe de 2019 de investigadores de la Universidad de Oxford detalló campañas de desinformación organizadas en 70 países diferentes, incluyendo Rusia, China, Vietnam y Guatemala.
La economía digital ha llevado a un aumento en la desinformación y el sesgo en las noticias, con las tecnologías de IA y las plataformas de medios sociales convirtiéndose en formas de difundirla a las masas.
Hemos visto muchos ejemplos de esto. Por ejemplo, las dos últimas elecciones presidenciales de EE. UU. estuvieron llenas de desinformación y sesgo, y esto seguro continuará en el futuro. Los mercados financieros también han sido objeto de manipulación a corto plazo a través de la desinformación y el sesgo, y los asuntos exteriores se están volviendo más tensos como resultado de su uso. Las tensiones sociales se producen por información falsa contra partidarios y opositores de causas específicas, y las noticias falsas son rampantes en casi todas las naciones.
Nuestra dependencia de los medios sociales y los algoritmos nos ha hecho increíblemente vulnerables a la desinformación y el sesgo, y se ha vuelto fácil manipular a grandes grupos de personas.
Según un ensayo titulado “Los sesgos hacen que las personas sean vulnerables a la desinformación difundida por los medios sociales”, publicado por The Conversation, una red de medios de comunicación sin fines de lucro, hay tres tipos de sesgo que hacen que el ecosistema de los medios sociales sea vulnerable a la desinformación intencional y accidental. Es importante reconocer que la mayoría de nuestras noticias provienen ahora de los medios sociales.
Los tres tipos de sesgo son:
- Sesgo en el cerebro: “Los sesgos cognitivos se originan en la forma en que el cerebro procesa la información que cada persona encuentra todos los días.”
- Sesgo en la sociedad: “Cuando las personas se conectan directamente con sus pares, los sesgos sociales que guían su selección de amigos influyen en la información que ven.
- Sesgo en la máquina: “El tercer grupo de sesgos surge directamente de los algoritmos utilizados para determinar qué ven las personas en línea. Tanto las plataformas de medios sociales como los motores de búsqueda los emplean.”
Esta combinación de sesgos ha creado el entorno perfecto para que actores maliciosos utilicen nuestras plataformas de noticias actuales como una forma de difundir desinformación. Pero es importante reconocer que el sesgo también está presente fuera de este ámbito. Los informes de noticias regulares y los artículos corren el riesgo de ser sesgados debido a las inclinaciones particulares de un autor o una publicación. Esto no es nada nuevo.
Soluciones de IA para la desinformación y el sesgo
El surgimiento de la inteligencia artificial nos ha proporcionado muchas herramientas nuevas e innovadoras que se pueden utilizar para combatir la desinformación y el sesgo en las noticias.
Por ejemplo, cuando se diseña adecuadamente, la IA puede detectar y eliminar efectivamente cierta desinformación y otro contenido problemático en línea. Ya se está utilizando para identificar bots falsos por empresas como Google, Twitter y Facebook. Y los bots falsos a menudo se utilizan para difundir desinformación y noticias sesgadas.
Se deben explorar nuevos marcos de IA para combatir este problema, y los existentes deben mejorarse, ya que muchos han demostrado ser problemáticos. Estos problemas comienzan a ser aún más peligrosos cuando surgen conflictos. Por ejemplo, los conflictos militares, como el conflicto actual entre Rusia y Ucrania, llevan a la difusión de desinformación a un ritmo increíblemente rápido.
Hay varias herramientas impulsadas por IA que están en camino. Por ejemplo, NT CONNECT, un desarrollador de tecnología internacional, ha anunciado recientemente el lanzamiento de su aplicación de agregador de noticias, NOOZ.AI. El motor de análisis de lenguaje de IA tiene como objetivo llevar transparencia al sesgo polarizador encontrado en los medios de comunicación de hoy en día. Intenta lograr esto manteniendo a los lectores informados sobre la influencia de los medios de comunicación antes de leer un artículo.
“Los autores o periodistas tienden a inclinarse hacia un sesgo particular – a menudo sin el conocimiento del lector”, dice el comunicado de prensa de la empresa. “Al conocer el sesgo histórico del autor y las fuentes de noticias, los consumidores pueden examinar el artículo con una mente más objetiva y resistir ser manipulados para pensar de una cierta manera sobre un tema en particular.”
La herramienta NOOZ.AI se basa en cuatro pilares clave:
- Análisis de opinión: Ayuda a los lectores a determinar la presencia de sentimientos, puntos de vista, creencias o juicios personales en la escritura de un periodista.
- Análisis de sentimiento: La herramienta utiliza el análisis de sentimiento para ayudar a los lectores a evaluar el apoyo o la oposición de un escritor al contenido de noticias general o a un tema específico.
- Análisis de propaganda: Puede detectar la desinformación potencial identificando el uso de hasta 18 técnicas de persuasión posibles.
- Análisis de revisión: Los lectores pueden investigar la evolución de una noticia y su manipulación de la opinión y el sentimiento con el tiempo.
La aplicación proporciona puntuaciones para cada artículo, con puntuaciones de opinión que van de 0 a 100 y puntuaciones de sentimiento que van de -100 a 100. También rastrea todos los editados de texto para cada revisión y da a los lectores la capacidad de comparar diferentes versiones.
Según Garry Paxinos, CTO en NT CONNECT:
“La informação sesgada es una preocupación importante en la sociedad de hoy. La desinformación es la palabra más (mal)utilizada. Pero la realidad es que el lenguaje en sí puede ser utilizado para manipular y persuadir al lector casual. Al analizar objetivamente el lenguaje, evitamos el sesgo subjetivo encontrado en otros enfoques. En lugar de etiquetar subjetivamente la desinformación, nuestro enfoque es iluminar cómo se puede manipular con titulares exagerados, historial de revisiones y texto de artículos.”
