Sean Gourley, CEO y Fundador de Primer – Serie de Entrevistas

Sean Gourley es el CEO y Fundador de Primer, una empresa que proporciona aplicaciones de Procesamiento de Lenguaje Natural (NLP) de grado industrial para agencias gubernamentales, instituciones financieras, empresas Fortune 50 y muchas otras organizaciones.

Uno de los principales casos de uso de Primer es ayudar a las personas a detectar, comprender y responder a campañas de desinformación. En un esfuerzo por mejorar estos servicios, Primer adquirió recientemente Yonder para mejorar su capacidad para combatir los ataques de desinformación.

Nos sentamos con Sean para discutir la desinformación en la reciente conferencia Ai4 que se llevó a cabo en Las Vegas. Sean es un tesoro de información sobre campañas de desinformación y propaganda gubernamental. A continuación, se presenta nuestra entrevista.

¿Qué te atrajo inicialmente a aprender y comprender el ecosistema de la desinformación?

Hablé un poco sobre el comercio de alta frecuencia, y fue interesante. Estaba revisando ese espacio de algoritmos que intentaban entender si algo había sucedido en el mundo y luego operar sobre ello. Y era primitivo. Esto fue en 2012, y estábamos recogiendo ruido.

Estaban obteniendo cosas mal cuando las leían, o malinterpretando señales. Y luego hubo un tuit que salió, presuntamente, AP había sido pirateado. Y su cuenta de Twitter dijo: “Noticias: Explosión en la Casa Blanca, Barack Obama herido”. Y luego el mercado tomó esa información y cayó, perdiendo alrededor de $130 mil millones con ese tuit. No sé si estaba destinado a impulsar el mercado, si estaba destinado a crear caos, o si estaba destinado a hacer algo, pero fue solo esa conexión en ese momento, me dije: “Guau”. Es como esta mariposa batiendo sus alas y creando este tipo de impacto, porque está aprovechando el conjunto de actores algorítmicos que no son muy inteligentes.

Así que vi eso, y eso me hizo investigar y luego comencé a buscar… Y vi que había un montón de bots mexicanos, cuentas mexicanas que afirmaban que los periodistas no habían sido asesinados por cárteles de la droga. Y esto es, como, 2013. Y me dije: “Oh, Dios mío, tienes actores no estatales, cárteles de la droga, involucrados en esta cosa para crear una batalla de narrativa. Y parece que están ganando”. Y me dije: “Estos no son incluso actores estatales”. Y en ese punto, más o menos dije: “Bueno, ¿qué pasaría si un actor estatal obtuviera esto? ¿Qué aspecto tendría y qué haría?” Y luego publiqué un artículo en Wired en 2015. Fue escrito al final de 2014, pero se trataba de predicciones para 2015. Y dije: “Este es el año en que los bots tomarán el control y controlarán las elecciones”.

Y se convirtió en increíblemente profético, ya que ese artículo se hizo realidad, quizás incluso más de lo que originalmente pensé. Pero fue solo ver este tipo de arco de tecnología. Al mismo tiempo, también estábamos viendo cuán rudimentarios eran muchas de estas tecnologías. Era bastante primitivo. Así que todo eso comenzó a unirse, y luego nos encontramos en este tipo de espacio que hemos terminado, que es, ¡guau!, puedes controlar narrativas solo a través de la exposición repetida a la información de las fuentes que estás consumiendo ahora.

¿Crees que ha habido una elección que haya sido influenciada o que una elección futura pueda ser influenciada por este tipo de desinformación?

Enmarcándolo de esta manera. Primero, hemos tomado un enfoque muy estrecho en esto, que es la desinformación no es real. Y creo que eso es demasiado estrecho. Necesitamos ampliarlo a quién controla las narrativas. Ahora, la narrativa podría ser muy bien real, pero puede que no sea tan importante.

Podemos tomar una historia si te preocupa el crimen, y podemos difundir masivamente todos los crímenes a todos los canales, y volverás a través de esto y pensarás que tu ciudad ha pasado por la ola de crímenes más horrible que ha visto. Y todo lo que has hecho es tomar cada crimen que se haya reportado, que anteriormente no estaba en tu radar, y ponerlo en tu sistema.

Ahora creerás que el crimen es mucho más alto de lo que realmente es. No ha cambiado, pero estás expuesto más a él. Así que esto no se trata de si el crimen sucedió o no. Se trata de si estaba luchando por tu atención. Así que esto es una pieza. Nos metemos en esto, ¿sucedió o no? Como si eso fuera la batalla. Pero la batalla es realmente por las cosmovisiones de las personas. Así que, esa es una parte de ello.

La segunda parte de esto es, ¿cuánto puedes influir en esto? Bueno, si no tienes una percepción de si las vacunas causan que pierdas 37 puntos de coeficiente intelectual, o si no tenías previamente una creencia de que las vacunas y la inteligencia estaban vinculadas. Si te digo que lo hacen, ahora serás tres veces más propenso a creer eso, que si alguien vino y te dijo que las vacunas causan que tu coeficiente intelectual disminuya. Así que quienquiera que venga con el primer mensaje tiene la mejor oportunidad de que creas en esa creencia, si previamente no tenías una opinión sobre algo.

¿Es el sesgo en el cerebro humano lo que es vulnerable a esto?

Es el sesgo en el cerebro humano. La segunda parte, incluso si sabes que la información es falsa, si estás expuesto a ella, eres más propenso a creerla, incluso si sabes que es falsa. Así que hay esta repetición de información. Hay la primera pieza de información cuando previamente no tenías opinión sobre ella. Y luego hay otra pieza que sabemos, es que si la tienes de fuentes independientes, la confías más. Y si la tienes de personas que están en tu red de amigos, la confías más, se convierte en una metodología de afiliación. Y sabemos que alrededor del 25% es un punto de inflexión, si el 25% de las personas comienzan a creer algo, crea un punto de inflexión masivo por el cual luego es muy probable que el 75% o el 80% de las personas comiencen a creerlo.

Así que todo esto se reduce al mundo de la formación de opiniones y la mecánica de cómo los grupos llegan a un consenso. Hay una sub-rama de la física, que es la física computacional, que ha estado estudiando esto, y puedes ir a la literatura y entender estos modelos de cómo se forman, propagan y adoptan las opiniones.

Puedes ingenierizar estos sistemas si así lo deseas, y esto es lo que la gente está empezando a hacer. No creo que hayan sido muy sofisticados. Pero mira, China es una superpotencia de la IA. Saben que ganar las guerras de la información alrededor de la dinámica de Taiwán se vuelve increíblemente importante. Debemos esperar que tomen todos los pasos que la tecnología les permita para participar y ganar en ese conflicto.

¿Cómo detecta un AI la verdad real?

Necesitamos alejarnos de esta cosa de qué es cierto, y lo que quiero decir es que esto no se trata de llevar verificadores de hechos a todo. Porque dijimos, aquí, mira, un AI podría determinar que, sí, este crimen sucedió, pero no importa. Eso no es lo importante. Ahora crees que hay una ola de crímenes masiva en tu ciudad y algo necesita hacerse al respecto. ¿Right? Y ¿cuál es la verdad real sobre si Taiwán pertenece a China? Quiero decir, puedes ir hacia atrás históricamente. Podemos debatir eso, pero ¿sabe el AI exactamente dónde está?

Sabemos que ahora es un tema relativamente divisivo. Y los EE. UU. y Taiwán tienen estructuras de creencias. China tiene otra estructura de creencias. El trabajo del AI no es determinar quién tiene razón en eso. El trabajo del AI es determinar si alguien ha intentado activamente influirte para que creas en un lado u otro.

Y esa es la segunda parte, es que las personas usarán la inteligencia artificial para intentar persuadirte, para que creas en un lado u otro, utilizando los métodos de obtener la primera creencia, obtener la repetición continua de exposición a esto, obtener voces independientes que parecen venir de fuentes diferentes, controlar y elegir el 25% de tu red de influencia para intentar hacerte creer en el otro lado. Estas son todas técnicas que el AI puede mejorar, y el AI también puede defenderse contra ellas. Pero necesitamos alejarnos de esta cosa de si el AI puede determinar la verdad, porque a menudo, la verdad es menos importante que la batalla por la narrativa.

¿Y cómo ayuda Primer en esto?

Primariamente se trata de vigilancia y detección. Una de las cosas que surge es que la primera vez que a menudo escuchamos sobre campañas de desinformación es seis meses después de que sucedieron.

¿Significando que nunca podemos atrapar esto en tiempo real?

Bueno, no es ni siquiera en tiempo real. Es si nos ponemos en la cosa cinética, los misiles han pasado la frontera de los EE. UU., y seis meses después, nos damos cuenta de que han sido disparados hacia nosotros. Eso es donde estamos. Tenemos una brecha masiva que llenar en la vigilancia y el reconocimiento alrededor de la desinformación, o las operaciones de información que llamamos. Si se ha llevado a cabo una operación de información, necesitamos obtener una comprensión en tiempo real, o casi en tiempo real, de lo que parece, cuáles son las motivaciones, cuáles son las manipulaciones, y poner eso en un lugar donde podamos comenzar a actuar para cerrar esas redes de bots, o podemos buscar limitar la difusión de esa información.

¿Cuál es tu visión sobre la amenaza última que China representa en el mundo?

Es una gran pregunta para el mundo. Lo que sabemos es que estamos en una carrera armamentística de la IA con China, porque el ganador de eso tendrá una ventaja militar muy dominante sobre quienquiera que sea el segundo lugar en esa carrera. Así que China perseguirá los componentes de la inteligencia artificial muy agresivamente. La segunda parte de eso es la prominencia de la fabricación de chips y las GPUs avanzadas que tiene Taiwán. Y creo que si China está mirando eso, y podría tener los laboratorios de fabricación, las instalaciones y las fábricas de Taiwán, estarían en una posición muy, muy dominante en una carrera armamentística de la IA.

Ahora, si China toma eso por la fuerza, hay una buena posibilidad de que terminen destruyendo esas capacidades, o que sean destruidas por Taiwán y nadie las tenga. Lo cual estaría bien en algún nivel para China. Habría una gran disruptión global, pero no necesariamente crearía tanto problema para China si eso sucediera.

Pero si pueden tomarlo entero, entonces eso es una ventaja masiva para ellos. Y la forma en que lo hacen es como hemos visto en Hong Kong, es cómo, sabes, “Realmente eres parte de nosotros”. Y convencen al resto del mundo de que son parte de ellos. Y si intentas disentir contra esa creencia u opinión, entonces habrá problemas económicos u otros problemas. Así que lo que China está involucrada es una operación de influencia global para convencer al mundo de que Taiwán es parte de China, para convencer a los taiwaneses de que son parte de China. Y si pueden hacer eso, entonces de repente China tiene la torta y puede comérsela también.

Así que donde vamos a ver eso es que China va a proyectar operaciones de información para convencer al mundo de que Taiwán es parte de China. Y esto es reconocido por el Comité de Inteligencia de la Cámara. Como han puesto en su Ley de Autorización de Inteligencia, han llamado específicamente a los métodos para detectar operaciones de influencia china en el Caribe, América del Sur, América Central.

Es un llamado específico para que la comunidad de inteligencia trabaje en esto. La Ley de Autorización de Inteligencia también llamó a la capacidad de adoptar inteligencia artificial, la capacidad de utilizar tecnologías comerciales y la capacidad de desplegar entornos sin código en estas organizaciones. Ha habido algunas cosas muy constructivas que han salido del Capitolio. Algunas piezas están abiertas y disponibles para leer, han sido muy interesantes sobre la lucha contra las campañas de desinformación china, particularmente en países de América del Sur, América Central y el Caribe.

¿Cuánto crees que los motores de recomendación como YouTube, Facebook (META ), Twitter y TikTok tienen que ver en la amplificación de esta narrativa falsa?

Una cosa que sabemos sobre China es que detuvieron a Facebook de entrar. Facebook entró en China. En 2012, Mark Zuckerberg estaba como: “Voy a aprender mandarín. Se trata de China”. China estaba como: “Te dejaremos entrar y ahora adiós”.

Porque China estaba como: “Al infierno que vamos a dejar que una empresa estadounidense controle los flujos de información de nuestra población. Hemos trabajado muy duro, gracias, para controlar la información que nuestra población obtiene. Esto es lo que hacemos. Somos muy buenos en eso. Te dejaremos entrar, aprenderemos de ti. Pero después de eso, te vas”. Así que ahora Facebook no está allí.

Así que el Partido Comunista Chino tomó una decisión muy clara sobre cómo quería controlar la información. Ahora, como un régimen autoritario, tienes ese control. “No vas a pensar en estas ideas. No vas a decir estas cosas. No vas a hacer eso”. Como una democracia liberal, tenemos que participar en la capacidad de debatir y intercambiar ideas en un espacio relativamente libre y abierto. Hay ciertos límites, pero están en los bordes. Así que China, creo, pudo controlar la información. Los EE. UU. no pueden hacerlo en la misma medida, hay una democracia. Tenemos que dejar que la confusión de la información se resuelva sola. Lo cual es por qué hemos sido susceptibles a este tipo de ataques de información. Hay una gran asimetría en el sistema. “¿Quieres habilitar la discusión libre? Bueno, vamos a corromper eso. No puedes hacer eso con nosotros porque tenemos muy buen control sobre nuestros sistemas de información”.

Creo que eso es algo con lo que vamos a estar luchando a través de esto. Y su primer protocolo es identificar rápidamente si una operación de información se está ejecutando en la plataforma, alertar eso a los sistemas, lo mínimo es limitar la difusión de esa información, pero también, si hay redes de bots no bot, tomarlas rápidamente. El lado de recomendación de esto… Esto no ha sido utilizado maliciosamente por las empresas estadounidenses. No creo que eso sea donde está. ¿Podría ser utilizado maliciosamente por una empresa externa? Sí, potencialmente. Si estuvieras en guerra con alguien, y tenían control sobre una red de información que estaba alimentando narrativas a tu población, ¿confiarías en que fueran justos y objetivos?

Bueno, ya sabemos lo que ha sucedido con VK y Rusia, que es la red social. Dijeron: “Bueno, no vas a poner ninguna imagen de personas muertas que hayamos matado en Ucrania. Eso está prohibido. Y vamos a poner una barrera de información para detener la difusión de información de las redes occidentales a nuestras redes”. Así que lo que sucede cuando comienza un conflicto es que la gente pone barreras que dice: “No vas a tener el control de la influencia sobre nuestra población”.

Creo que la cosa de libro de texto es que tomó maybe tres o cuatro semanas para que VK lo hiciera. Hubo una ventana en la que creo que estaba relativamente abierto, pero luego lo cerraron, porque se dieron cuenta de que si no controlas la narrativa en tu población, y si dejas que vean el daño que los misiles y los ataques están teniendo en la población civil en Ucrania, tal vez no quieran luchar más.

Creo que una de las cosas que todos nos sorprendió sobre Ucrania fue lo fuerte que regresaron. Y no creo que estuviéramos equivocados al pensar que podría haber sido una guerra muy rápida, si la gente de Ucrania hubiera bajado las armas. Pero lo que sucedió fue lo contrario. Regresaron al país, recogieron los Kalashnikovs y comenzaron a luchar. Y eso fue porque la narrativa se invirtió, y se invirtió en algunas cosas clave. El Fantasma de Kiev, la Isla de la Serpiente, la mujer con las semillas de girasol en los bolsillos del soldado y diciendo: “Cuando mueras, las semillas de girasol crecerán”. Estos momentos, los memes, resonaron a través de esa población.

Ahora, mucha de esa información no era real. O fue fabricada. El Fantasma de Kiev y la Isla de la Serpiente se amplificaron. Sobrevivieron, pero fueron presentados como mártires que dijeron: “Que te jodan”, y fueron asesinados. Esta fue una guerra de información por excelencia que creó un espíritu de lucha, no solo en Ucrania, sino también en los países miembros de la OTAN y en los EE. UU. para que ondearan banderas de Ucrania y dijeran: “Necesitamos preocuparnos por esto”. Eso no tenía que ser el caso. La guerra más fácil de ganar es aquella en la que la oposición no quiere luchar. Y esa fue la apuesta y el riesgo que los rusos tomaron, y Putin tomó, y se equivocaron. Y se equivocaron porque nunca habíamos visto una operación de influencia que hubiera regresado para ganar una guerra de narrativa como la que vimos con Ucrania antes. Y fue excelente.

Creo que subestimamos el poder de las operaciones de información. Creo que China ha estado prestando mucha atención y creo que vamos a ver que se juega. Y lo estamos viendo, en relación con Taiwán, y lo que el resto del mundo piensa sobre eso. Y los EE. UU., creo, si quieren participar, necesitan tener el mismo conjunto de habilidades para combatir las operaciones de información.

¿Hay alguna última palabra que quieras compartir sobre Primer?

Estamos comprometidos con esta misión para ayudar a apoyar a los EE. UU. y a sus aliados a traer la mejor tecnología para poner en las manos de los combatientes, y creo que queremos que más empresas de tecnología se unan a esta lucha.

Gracias por esta entrevista iluminadora, los lectores que deseen aprender más se invitan a visitar Primer.