¿Quién nos protegerá de la desinformación generada por IA?

La inteligencia artificial generativa ha pasado de cero a cien en menos de un año. Aunque es temprano, ha demostrado su potencial para transformar los negocios. En eso todos estamos de acuerdo. Donde divergemos es en cómo contener los peligros que plantea.

Para ser claro, soy partidario de la innovación y no soy un alarmista. Pero el reciente aumento de la desinformación, en gran medida dirigida a la polarización en torno a cuestiones controvertidas del momento, ha dejado claro que, si no se controla, la IA generativa podría causar estragos en las sociedades.

Hemos visto esta película antes con las redes sociales, pero tomó años y lecciones difíciles para que nos diéramos cuenta de sus defectos. Hemos (presumiblemente) aprendido algo. La pregunta de hoy es quién ayudará a contener la marea de distorsión de la realidad de la IA generativa, y cómo!

Predeciblemente, los gobiernos están comenzando a actuar. Europa está liderando el cargo, como han demostrado cada vez más en la regulación de la tecnología. Estados Unidos está justo detrás, con el Presidente Biden emitiendo una orden ejecutiva el pasado octubre.

Pero tomará una aldea global actuando juntos para “mantener a la IA generativa honesta”. Y antes de que el gobierno pueda ayudar, necesita entender las limitaciones de los enfoques disponibles.

El problema de la identidad ha empeorado mucho

En este nuevo mundo, la verdad se convierte en la aguja en un pajar de opiniones que se hacen pasar por hechos. Saber quién es el contenido es más importante que nunca.

Y no es tan fácil como decretar que todas las cuentas de redes sociales deben ser verificadas. Hay una oposición feroz a eso, y en algunos casos, la anonimidad es necesaria para proteger a los titulares de la cuenta. Además, muchos consumidores del peor contenido no se preocupan por si es creíble, ni de dónde viene.

A pesar de esas salvedades, el papel potencial de la identidad en la lucha contra la IA generativa es subestimado. Escépticos, escuchen mi argumento.

Imaginemos que la regulación o la conciencia social causan que las plataformas den a cada titular de cuenta estas opciones:

1. Verificar su identidad o no, y
2. Revelar públicamente su identidad verificada, o solo ser etiquetado como “Verificado”
   

Entonces, la audiencia de las redes sociales puede decidir mejor quién es creíble. Igualmente importante, si no más, la identidad apoya la rendición de cuentas. Las plataformas pueden decidir acciones contra “desinformadores” seriales y abusadores repetidos de contenido generado por IA, incluso si aparecen bajo diferentes nombres de cuenta.

Con la IA generativa aumentando las apuestas, creo que la identidad, saber exactamente quién publicó qué, es fundamental. Algunos se opondrán a ello, y la identidad no es una respuesta integral. De hecho, ninguna solución satisfará a todas las partes interesadas. Pero si la regulación obliga a las plataformas a ofrecer verificación de identidad a todas las cuentas, estoy convencido de que el impacto será enormemente positivo.

El dilema de la moderación

La moderación de contenido, automatizada y humana, es la última línea de defensa contra el contenido indeseable. La moderación humana es un trabajo difícil, con riesgo de daño psicológico por la exposición a lo peor que la humanidad puede ofrecer. También es costosa y a menudo se le acusa de censura sesgada que las plataformas intentan reducir.

La moderación automatizada se escala más allá de la capacidad humana para hacer frente a las torrentes de nuevo contenido, pero no entiende el contexto (los memes son un ejemplo común) y las nuances culturales. Ambas formas de moderación son cruciales y necesarias, pero solo son parte de la respuesta.

La prescripción convencional y frecuentemente escuchada para controlar la IA generativa es: “La colaboración entre líderes tecnológicos, gobiernos y sociedad civil es necesaria”. Claro, pero ¿qué específicamente?

Los gobiernos, por su parte, pueden empujar a las plataformas de redes sociales a ofrecer verificación de identidad y mostrarla prominentemente en todas las publicaciones. Los reguladores también pueden allanar el camino a las métricas de credibilidad que realmente ayuden a determinar si una fuente es creíble. La colaboración es necesaria para desarrollar estándares universales que den orientación y dirección específicas para que el sector privado no tenga que adivinar.

Finalmente, ¿debería ser ilegal crear contenido de IA malicioso? La legislación que prohíba el contenido destinado a actividades ilegales podría reducir el volumen de contenido tóxico y aliviar la carga sobre los moderadores. No veo la regulación y las leyes como capaces de derrotar la desinformación, pero son esenciales para enfrentar la amenaza.

El lado soleado de la calle: la innovación

La promesa de la innovación me hace un optimista aquí. No podemos esperar que los políticos o los propietarios de las plataformas nos protejan completamente contra el engaño generado por IA. Dejan un gran vacío, y eso es exactamente lo que inspirará la invención de nueva tecnología para autenticar contenido y detectar falsificaciones.

Dado que ahora sabemos el lado negativo de las redes sociales, hemos sido rápidos en darnos cuenta de que la IA generativa podría resultar ser una gran pérdida neta para la humanidad, con su capacidad para polarizar y engañar.

Optimistamente, veo beneficios en los enfoques multi-prong donde los métodos de control funcionan juntos, primero en la fuente, limitando la creación de contenido diseñado para uso ilegal. Luego, antes de la publicación, verificando la identidad de aquellos que declinan la anonimidad. A continuación, etiquetado claro para mostrar calificaciones de credibilidad y la identidad del publicador o la falta de ella. Finalmente, la moderación automatizada y humana pueden filtrar parte de lo peor. Anticiparía que la nueva tecnología de autenticación estará disponible pronto.

Sumándolo todo, tendremos una solución mucho mejor, aunque nunca perfecta. Mientras tanto, debemos desarrollar nuestras habilidades para determinar qué es real, quién dice la verdad y quién intenta engañarnos.