Herramientas de navegador de IA buscan reconocer Deepfakes y otros medios falsos

Los esfuerzos de las empresas de tecnología para abordar la desinformación y el contenido falso están aumentando en los últimos tiempos, ya que las tecnologías de generación de contenido falso sofisticadas como DeepFakes se vuelven más fáciles de usar y más refinadas. Uno de los intentos próximos para ayudar a las personas a detectar y combatir los deepfakes es RealityDefender, producido por la Fundación de IA, que se ha comprometido a desarrollar agentes y asistentes de IA éticos que los usuarios pueden entrenar para completar diversas tareas.

El proyecto más notable de la Fundación de IA es una plataforma que permite a las personas crear sus propias personas digitales que se parecen a ellos y los representan en espacios de reunión virtuales. La Fundación de IA está supervisada por el Consejo Global de IA y, como parte de su mandato, deben anticipar los posibles impactos negativos de las plataformas de IA, y luego tratar de adelantarse a estos problemas. Según VentureBeat, una de las herramientas que la Fundación de IA ha creado para ayudar en la detección de deepfakes se llama Reality Defender. Reality Defender es una herramienta que una persona puede usar en su navegador web, que analizará videos, imágenes y otros tipos de medios para detectar signos de que el medio ha sido falsificado o alterado de alguna manera. Se espera que la herramienta ayude a contrarrestar el flujo creciente de deepfakes en Internet, que, según algunas estimaciones, han aumentado aproximadamente el doble en el transcurso de los últimos seis meses.

Reality Defender opera utilizando una variedad de algoritmos basados en IA que pueden detectar pistas que sugieren que una imagen o video pueden haber sido falsificados. Los modelos de IA detectan signos sutiles de engaño y manipulación, y los falsos positivos que detecta el modelo se etiquetan como incorrectos por los usuarios de la herramienta. Los datos se utilizan luego para volver a entrenar el modelo. Las empresas de IA que crean deepfakes no engañosos tienen su contenido etiquetado con una etiqueta “IA honesta” o marca de agua que permite a las personas identificar fácilmente los falsos generados por IA.

Reality Defender es solo una de una serie de herramientas y una plataforma de responsabilidad de IA que la Fundación de IA está tratando de crear. La Fundación de IA está persiguiendo la creación de Guardian AI, una plataforma de responsabilidad construida sobre el principio de que las personas deben tener acceso a agentes de IA personales que trabajen para ellos y que puedan ayudar a protegerlos contra su explotación por actores maliciosos. Esencialmente, la Fundación de IA está tratando de ampliar el alcance de la IA en la sociedad, llevándola a más personas, mientras también protege contra los riesgos de la IA.

Reality Defender no es el único producto impulsado por IA que busca reducir la desinformación en los Estados Unidos. Un producto similar se llama SurfSafe, que fue creado por dos estudiantes de pregrado de la Universidad de California en Berkeley, Rohan Phadte y Ash Bhat. Según The Verge, SurfSafe opera permitiendo a sus usuarios hacer clic en un medio que les interesa y el programa realizará una búsqueda de imagen inversa y tratará de encontrar contenido similar de fuentes confiables en Internet, marcando las imágenes que se conocen que han sido manipuladas.

No está claro cuán efectivas serán estas soluciones a largo plazo. El profesor de la Universidad de Dartmouth y experto en forenses Hany Farid fue citado por The Verge como diciendo que es “extremadamente escéptico” de que los planes de sistemas como Reality Defender funcionen de manera significativa. Farid explicó que uno de los desafíos clave para detectar contenido falso es que los medios no son puramente falsos o reales. Farid explicó:

“Hay un continuum; un rango increíblemente complejo de problemas para abordar. Algunos cambios son insignificantes, y algunos alteran fundamentalmente la naturaleza de una imagen. Pretender que podemos entrenar a una IA para detectar la diferencia es increíblemente ingenuo. Y pretender que podemos hacer crowdsourcing es aún más así”.

Además, es difícil incluir elementos de crowdsourcing, como etiquetar falsos positivos, porque los humanos suelen ser bastante malos para identificar imágenes falsas. Los humanos a menudo cometen errores y pierden detalles sutiles que marcan una imagen como falsa. También no está claro cómo lidiar con actores de mala fe que trollean cuando marcan contenido.

Parece probable que, para ser máximamente efectivos, las herramientas de detección de falsos tengan que combinarse con esfuerzos de alfabetización digital que enseñen a las personas a razonar sobre el contenido con el que interactúan en línea.