Ingenieros de IA desarrollan un método que puede detectar la intención de quienes difunden información falsa

Tratar con información falsa en la era digital es un problema complejo. No solo la información falsa tiene que ser identificada, etiquetada y corregida, sino que también se debe distinguir la intención de los responsables de hacer la afirmación. Una persona puede difundir información falsa sin darse cuenta, o simplemente estar dando su opinión sobre un tema, incluso si más tarde se informa como un hecho. Recientemente, un equipo de investigadores y ingenieros de IA en Dartmouth creó un marco que se puede utilizar para derivar la opinión de los informes de “noticias falsas”.

Según ScienceDaily, el estudio del equipo de Dartmouth se publicó recientemente en la Revista de Inteligencia Artificial Experimental y Teórica. Mientras que estudios anteriores han intentado identificar noticias falsas y luchar contra el engaño, este podría ser el primer estudio que se propuso identificar la intención del hablante en una pieza de noticias. Mientras que una historia verdadera puede ser distorsionada en varias formas engañosas, es importante distinguir si el engaño fue intencional. El equipo de investigación argumenta que la intención es importante al considerar la información falsa, ya que el engaño solo es posible si hubo intención de engañar. Si un individuo no se dio cuenta de que estaba difundiendo información falsa o si simplemente estaba dando su opinión, no puede haber engaño.

Eugene Santos Jr., profesor de ingeniería en la Escuela de Ingeniería Thayer de Dartmouth, explicó a ScienceDaily por qué su modelo intenta distinguir la intención engañosa:

“La intención engañosa de engañar intencionalmente a los oyentes supone una amenaza mucho mayor que los errores involuntarios. Hasta donde sabemos, nuestro algoritmo es el único método que detecta el engaño y al mismo tiempo discrimina actos maliciosos de actos benignos”.

Para construir su modelo, el equipo de investigación analizó las características del razonamiento engañoso. El algoritmo resultante podría distinguir la intención de engañar de otras formas de comunicación centrándose en las discrepancias entre los argumentos pasados de una persona y sus declaraciones actuales. El modelo construido por el equipo de investigación necesita grandes cantidades de datos que se pueden utilizar para medir cómo una persona se desvía de sus argumentos pasados. Los datos de entrenamiento que el equipo utilizó para entrenar su modelo consistieron en datos tomados de una encuesta de opiniones sobre temas controvertidos. Más de 100 personas dieron su opinión sobre estos temas controvertidos. También se extrajeron datos de reseñas de 20 hoteles diferentes, que consistían en 400 reseñas ficticias y 800 reseñas reales.

Según Santos, el marco desarrollado por los investigadores podría ser refinado y aplicado por organizaciones de noticias y lectores, para permitirles analizar el contenido de artículos de “noticias falsas”. Los lectores podrían examinar artículos en busca de opiniones y determinar por sí mismos si se ha utilizado un argumento lógico. Santos también dijo que el equipo quiere examinar el impacto de la información falsa y los efectos en cadena que tiene.

La cultura popular a menudo representa comportamientos no verbales como expresiones faciales como indicadores de que alguien está mintiendo, pero los autores del estudio señalan que estos indicios de comportamiento no siempre son indicadores confiables de mentira. Deqing Li, coautor del documento, explicó que su investigación encontró que los modelos basados en la intención de razonamiento son mejores indicadores de mentira que las diferencias de comportamiento y verbal. Li explicó que los modelos de intención de razonamiento “son mejores para distinguir mentiras intencionales de otros tipos de distorsión de la información”.

El trabajo de los investigadores de Dartmouth no es el único avance reciente en la lucha contra la información falsa con IA. Los artículos de noticias con títulos de clickbait a menudo ocultan información falsa. Por ejemplo, a menudo implican que algo sucedió cuando en realidad ocurrió otro evento.

Según AINews, un equipo de investigadores de la Universidad Estatal de Arizona y la Universidad Estatal de Pensilvania colaboraron para crear una IA que pudiera detectar títulos de clickbait. Los investigadores pidieron a las personas que escribieran sus propios títulos de clickbait y también escribieron un programa para generar títulos de clickbait. Ambas formas de títulos se utilizaron para entrenar un modelo que pudiera detectar títulos de clickbait de manera efectiva, independientemente de si fueron escritos por máquinas o personas.

Según los investigadores, su algoritmo fue alrededor de un 14,5% más preciso en la detección de títulos de clickbait que otras IA en el pasado. El investigador principal del proyecto y profesor asociado en la Facultad de Ciencias de la Información y Tecnología en la Universidad Estatal de Pensilvania, Dongwon Lee, explicó cómo su experimento demuestra la utilidad de generar datos con una IA y alimentarlos de nuevo en una tubería de entrenamiento.

“Este resultado es bastante interesante, ya que demostramos con éxito que los datos de entrenamiento de clickbait generados por máquina se pueden alimentar de nuevo en la tubería de entrenamiento para entrenar una amplia variedad de modelos de aprendizaje automático para tener un mejor rendimiento”, explicó Lee.