Sean Gourley, CEO & Gründer von Primer – Interview-Serie

Sean Gourley ist der CEO & Gründer von Primer, einem Unternehmen, das industrietaugliche Anwendungen für die Verarbeitung natürlicher Sprache (NLP) für Regierungsbehörden, Finanzinstitute, Fortune-50-Unternehmen und viele andere Organisationen bereitstellt.

Eines der Hauptanwendungsbereiche von Primer ist es, Menschen dabei zu helfen, Desinformationskampagnen zu erkennen, zu verstehen und darauf zu reagieren. Um diese Dienste zu verbessern, hat Primer kürzlich Yonder erworben, um seine Fähigkeit zur Bekämpfung von Desinformationsangriffen zu verstärken.

Wir haben uns mit Sean unterhalten, um über Desinformation auf der jüngsten Ai4-Konferenz zu sprechen, die in Las Vegas stattfand. Sean ist eine wahre Fundgrube an Informationen über Desinformationskampagnen und Regierungspropaganda. Hier ist unser Interview.

Was hat Sie ursprünglich dazu gebracht, sich mit dem gesamten Ökosystem der Desinformation zu beschäftigen?

Ich habe ein bisschen über Hochfrequenzhandel gesprochen, und es war interessant. Ich habe mich durch diesen Bereich gekämpft. Es gab diesen ganzen Raum von Algorithmen, die versuchten, zu verstehen, ob etwas in der Welt passiert war, und dann darauf zu handeln. Und es war primitiv. Das war 2012, und wir haben nur Rauschen aufgefangen.

Sie haben Dinge falsch interpretiert, als sie sie lasen, oder sie falsch interpretiert. Und dann kam ein Tweet, der angeblich von AP gehackt worden war. Und ihr Twitter-Account sagte: “Breaking: Explosion im Weißen Haus, Barack Obama verletzt.” Und dann verlor der Markt an Wert, verlor etwa 130 Milliarden Dollar durch diesen Tweet. Ich weiß nicht, ob es darauf abzielte, den Markt zu beeinflussen, ob es darauf abzielte, Chaos zu stiften, oder ob es darauf abzielte, etwas anderes zu tun, aber es war einfach diese Verbindung damals, ich dachte: “Wow.” Es ist wie das Flattern eines Schmetterlings, das einen solchen Einfluss ausübt, weil es die Menge der algorithmischen Akteure ausnutzt, die wirklich nicht sehr intelligent sind.

Ich sah das und es brachte mich dazu, tiefer zu graben, und dann sah ich, dass es eine Menge mexikanischer Bots und mexikanischer Konten gab, die behaupteten, dass Journalisten nicht von Drogenkartellen getötet worden seien. Und das war 2013. Und ich dachte: “Oh mein Gott, Sie haben nicht-staatliche Akteure, Drogenkartelle, die an diesem Ding teilnehmen, um eine Erzählungsschlacht zu schlagen. Und es sieht so aus, als ob sie gewinnen.” Und ich dachte: “Das sind noch nicht einmal staatliche Akteure.” Und zu diesem Zeitpunkt dachte ich: “Was passiert, wenn ein staatlicher Akteur in die Hände dieses Dings kommt? Wie würde es aussehen und was würde es tun?” Und dann veröffentlichte ich 2015 einen Artikel in Wired. Es war tatsächlich Ende 2014 geschrieben, aber es ging um Vorhersagen für 2015. Und ich sagte: “Dies wird das Jahr sein, in dem Bots Wahlen übernehmen und kontrollieren werden.”

Und es wurde unglaublich prophetisch, als dieser Artikel erschien, vielleicht sogar mehr, als ich ursprünglich dachte. Aber es war einfach das Sehen dieser Art von Technologie. Auf der gleichen Seite sahen wir auch, wie rudimentär viele dieser Technologien waren. Es war ziemlich primitiv. All das kam also zusammen, und dann kamen wir in diesen Raum, in dem wir jetzt sind, nämlich dass man Erzählungen einfach durch wiederholte Exposition gegenüber Informationen aus den Feeds, die man jetzt konsumiert, kontrollieren kann.

Glauben Sie, dass es eine Wahl gegeben hat, die durch diese Art von Desinformation beeinflusst oder dass eine zukünftige Wahl durch diese Art von Desinformation beeinflusst werden könnte?

Um dies in einem bestimmten Kontext zu betrachten, haben wir einen sehr engen Ansatz gewählt, nämlich dass Desinformation nicht real ist. Und ich denke, das ist zu eng. Wir müssen es erweitern auf die Frage, wer die Erzählungen kontrolliert. Im Moment könnte die Erzählung sehr gut real sein, aber es ist vielleicht nicht so wichtig.

Wir können eine Geschichte nehmen, wenn Sie sich um Kriminalität sorgen machen, und wir können einfach alle Kriminalitätsfälle an alle Kanäle senden, und Sie werden zurückkommen und denken, Ihre Stadt sei von der schlimmsten Kriminalitätswelle heimgesucht worden, die sie je gesehen hat. Und alles, was Sie getan haben, ist, alle Kriminalitätsfälle, die jemals gemeldet wurden und die zuvor nicht auf Ihrem Radar waren, in Ihr System zu bringen.

Jetzt werden Sie anfangen, zu glauben, dass die Kriminalität viel höher ist, als sie tatsächlich ist. Sie hat sich nicht geändert, aber Sie sind jetzt mehr damit konfrontiert. Also ist dies nicht die Frage, ob die Kriminalität passiert ist oder nicht, sondern ob sie um Ihre Aufmerksamkeit kämpft. Also ist dies ein Teil davon.

Der zweite Teil besteht darin, wie sehr man diese Dinge beeinflussen kann. Wenn Sie keine Vorstellung davon haben, ob Impfstoffe Ihre Intelligenz um 37 Punkte senken oder nicht, oder wenn Sie nicht vorher geglaubt haben, dass Impfstoffe und Intelligenz miteinander verknüpft sind. Wenn ich Ihnen sage, dass sie es tun, sind Sie jetzt dreimal eher bereit, das zu glauben, als wenn jemand zurückkommt und Ihnen sagt, dass Impfstoffe Ihre Intelligenz senken. Wer also mit der ersten Botschaft kommt, hat die beste Chance, dass Sie diese Überzeugung vertreten, wenn Sie vorher keine Meinung darüber hatten.

Ist es also eine Verzerrung im menschlichen Gehirn, die anfällig für diese Art von Desinformation ist?

Es ist eine Verzerrung im menschlichen Gehirn. Der zweite Teil ist, dass Sie, auch wenn Sie wissen, dass die Information falsch ist, wenn Sie ihr ausgesetzt sind, eher bereit sind, sie zu glauben, auch wenn Sie wissen, dass sie falsch ist. Es gibt also diese Wiederholung von Informationen. Es gibt den ersten Teil der Information, wenn Sie vorher keine Meinung darüber hatten. Und der andere Teil, den wir wissen, ist, dass Sie, wenn Sie es von unabhängigen Quellen erhalten, es mehr vertrauen, und wenn Sie es von Leuten in Ihrem Freundesnetzwerk erhalten, vertrauen Sie es mehr, es wird zu einer Affiliationsmethode. Und wir wissen, dass etwa 25% ein Wendepunkt ist, wenn 25% der Menschen an etwas glauben, entsteht ein massiver Wendepunkt, bei dem es dann sehr wahrscheinlich ist, dass 75% oder 80% der Menschen anfangen, daran zu glauben.

Also kommt all dies auf die Welt der Meinungsbildung und die Mechanik, wie Gruppen zu einem Konsens kommen, zurück. Es gibt einen Unterzweig der Physik, der computergestützte Physik ist, der dies studiert hat, und Sie können in die Literatur gehen und die Modelle verstehen, wie Meinungen entstehen, sich verbreiten und angenommen werden.

Man kann diese Systeme konstruieren, wenn man es so will, und das ist, was die Leute anfangen zu tun. Ich denke nicht, dass sie sehr sophistisch sind. Aber schauen Sie, China ist eine AI-Supermacht. Sie wissen, dass der Gewinner dieses Rennens einen sehr dominanten militärischen Vorteil gegenüber dem Zweitplatzierten haben wird. China wird also sehr aggressiv die Komponenten der künstlichen Intelligenz verfolgen. Der zweite Teil davon ist die Bedeutung der Herstellung von Chips und fortschrittlichen GPUs, die Taiwan hat. Und ich denke, wenn China das sieht, und sie könnten die Fertigungslabore, Einrichtungen und Fabriken von Taiwan haben, wären sie in einer sehr dominanten Position im AI-Wettrennen.

Jetzt, wenn China das mit Gewalt nimmt, besteht die Chance, dass sie diese Fähigkeiten zerstören oder dass sie von Taiwan zerstört werden, was für China in Ordnung wäre. Es gäbe eine enorme globale Störung, aber es würde nicht unbedingt ein großes Problem für China darstellen, wenn das passieren würde.

Wenn sie es jedoch ganz erhalten können, dann ist das ein massiver Vorteil für sie. Und die Art, wie sie das tun, ist, wie wir es in Hongkong gesehen haben, nämlich “Sie sind wirklich Teil von uns.” Und sie überzeugen den Rest der Welt, dass sie wirklich Teil von ihnen sind. Und wenn Sie versuchen, gegen diese Überzeugung oder Meinung zu opponieren, dann gibt es wirtschaftliche oder andere Probleme. Also, was China tut, ist ein globaler Einfluss, um die Welt zu überzeugen, dass Taiwan Teil von China ist, um die taiwanesischen Menschen zu überzeugen, dass sie Teil von China sind. Und wenn sie das tun können, dann haben sie den Kuchen und können ihn auch essen.

Also, wo wir das sehen werden, ist, dass China narrative Informationsoperationen projizieren wird, um die Welt zu überzeugen, dass Taiwan Teil von China ist. Und das wird vom House Intelligence Committee erkannt. Als sie ihren Intelligence Authorization Act zusammenstellten, nannten sie speziell Methoden zur Erkennung chinesischer Einflussoperationen in der Karibik, Südamerika, Mittelamerika.

Das ist ein spezifischer Aufruf an die Geheimdienstgemeinschaft, um an diesem zu arbeiten. Der Intelligence Authorization Act nannte auch die Fähigkeit, künstliche Intelligenz zu adoptieren, die Fähigkeit, kommerzielle Standardtechnologien zu verwenden, und die Fähigkeit, keine Code-Umgebungen in diese Organisationen zu deployen. Es gab einige sehr konstruktive Dinge, die vom Kongress kamen. Einige Stücke sind offen und können gelesen werden, sie waren sehr interessant, um chinesische Desinformationskampagnen, insbesondere in Ländern in Südamerika, Mittelamerika und der Karibik, zu bekämpfen.

Wie viel Rolle spielen Sie denken, dass Empfehlungs-Engines wie YouTube, Facebook (META ), Twitter und TikTok bei der Verstärkung dieser falschen Erzählung spielen?

Eines, was wir über China wissen, ist, dass sie Facebook daran gehindert haben, hereinzukommen. Facebook kam nach China. 2012 sagte Mark Zuckerberg: “Ich werde Mandarin lernen. Es geht um China.” China sagte: “Wir lassen Sie herein und dann auf Wiedersehen.”

Weil China sagte: “Wir werden nicht zulassen, dass ein amerikanisches Unternehmen die Informationsfeeds unserer Bevölkerung kontrolliert. Wir haben sehr hart daran gearbeitet, um die Informationen zu kontrollieren, die unsere Bevölkerung erhält. Das ist, was wir tun. Wir sind sehr gut darin. Wir lassen Sie herein, wir lernen von Ihnen. Aber nachdem Sie herein sind, sind Sie weg.” Also ist Facebook nicht mehr da.

Also hat die KPCh (Kommunistische Partei Chinas) eine sehr klare Entscheidung darüber getroffen, wie sie die Informationen kontrollieren wollte. Jetzt, als autoritärer Staat, haben Sie diese Kontrolle. “Sie werden nicht über diese Ideen nachdenken. Sie werden nicht diese Dinge sagen. Sie werden nicht das tun.” Als liberale Demokratie müssen wir an der Fähigkeit teilnehmen, Debatten zu führen und Ideen auszutauschen, in einem relativ freien und offenen Raum. Es gibt bestimmte Grenzen, aber sie sind am Rande. Also hat China die Informationen kontrolliert. Die USA können das nicht in demselben Ausmaß, es gibt eine Demokratie. Wir müssen die Komplexität der Informationen zulassen, um sich selbst zu bekämpfen. Was wir bekommen, ist eine große Asymmetrie im System. “Sie wollen die Diskussion über die Freiheit ermöglichen? Nun, wir werden das korrupt machen. Sie können das nicht mit uns tun, weil wir sehr gute Kontrollen über unsere InformationsSysteme haben.”

Ich denke, das ist etwas, mit dem wir zu kämpfen haben werden. Und es ist das erste Protokoll, und das ist, schnell zu identifizieren, ob eine Informationsoperation auf der Plattform läuft, dies den Systemen zu melden, und mindestens die Diffusion dieser Informationen zu begrenzen, aber auch, wenn es nicht-bot-Netzwerke gibt, sie schnell zu entfernen. Die Empfehlungsseite davon… Dies ist noch nicht bösartig von US-Unternehmen verwendet worden. Ich denke nicht, dass das der Fall ist. Könnte es von einem externen Unternehmen bösartig verwendet werden? Ja, potenziell. Wenn Sie im Krieg mit jemandem sind und sie die Kontrolle über ein Informationsnetzwerk haben, das Erzählungen an Ihre Bevölkerung liefert, würden Sie ihnen vertrauen, fair und unvoreingenommen zu sein?

Wir wissen bereits, was mit VK und Russland passiert ist, was das soziale Netzwerk ist. Sie sagten: “Nun, Sie werden keine Bilder von toten Menschen posten, die wir in der Ukraine getötet haben. Das ist einfach verboten. Und wir werden eine Informationsmauer errichten, um die Diffusion von Informationen aus westlichen Netzwerken in unsere Netzwerke zu stoppen.” Also, was passiert, wenn ein Konflikt beginnt, ist, dass die Leute Barrieren errichten, die sagen: “Sie werden keine Kontrolle über unsere Bevölkerung haben.”

Also denke ich, das Lehrbuch-Ding, es dauerte vielleicht drei oder vier Wochen, bis VK das getan hat. Es gab ein Fenster, in dem ich denke, es relativ offen war, aber dann schlossen sie es. Weil sie erkannten, dass sie die Kontrolle über die Erzählung in ihrer Bevölkerung nicht verlieren durften, und wenn sie die Schäden, die die Raketen und Angriffe auf die Zivilbevölkerung in der Ukraine verursachten, sehen ließen, vielleicht würden sie nicht mehr kämpfen.

Ich denke, eines der Dinge, die wir alle über die Ukraine überrascht haben, ist, wie stark sie zurückgekommen sind. Und ich denke nicht, dass wir falschlagen, als wir dachten, es könnte ein sehr schneller Krieg sein, wenn die Menschen in der Ukraine ihre Waffen niederlegten. Aber was passierte, war das Gegenteil. Sie kamen zurück in das Land, nahmen die Kalaschnikows und begannen zu kämpfen. Und das lag daran, dass die Erzählung umgekehrt wurde, und sie umgekehrt wurde, weil einige Schlüsseldinge passierten. Der Geist von Kiew, Snake Island, die Frau mit den Sonnenblumen-Samen in den Taschen des Soldaten und die Worte: “Wenn Sie sterben, werden die Sonnenblumen kommen.” Diese Momente, die Memes, sie resonierten durch diese Bevölkerung.

Jetzt waren viele von ihnen nicht wirklich wahr. Oder sie waren hergestellt. Der Geist von Kiew und Snake Island wurde verstärkt. Sie überlebten, aber sie wurden als Märtyrer dargestellt, die sagten: “F*** you,” und getötet wurden. Dies war ein Informationskrieg par excellence, der einen Kampfgeist nicht nur in der Ukraine, sondern auch in den NATO-Mitgliedsländern und den USA schuf, um die Ukraine-Flaggen zu hissen und zu sagen: “Wir müssen uns um das kümmern.” Das musste nicht der Fall sein. Der einfachste Krieg zu gewinnen ist der, bei dem die Opposition nicht kämpfen will. Und das war die Wette und der Einsatz, den die Russen gemacht haben, und Putin gemacht hat, und er lag falsch. Und er lag falsch, weil wir noch nie einen Einfluss gesehen haben, der einen narrativen Krieg wie den in der Ukraine gewonnen hat. Und es war exzellent.

Ich denke, wir unterschätzen die Macht von Informationsoperationen. Ich denke, China hat sehr genau darauf geachtet und ich denke, wir werden das sehen. Und wir sehen es bereits, was Taiwan und was die Welt über Taiwan denkt. Und die USA, ich denke, wenn sie sich engagieren wollen, müssen sie die gleichen Fähigkeiten haben, um Informationsoperationen zu bekämpfen.

Gibt es noch letzte Worte, die Sie über Primer teilen möchten?

Wir sind an dieser Mission beteiligt, um die USA und ihre Verbündeten zu unterstützen, um die beste Technologie zu liefern, um sie in die Hände der Kämpfer zu legen, und ich denke, wir wollen, dass mehr Technologie-Unternehmen zu diesem Kampf beitreten.

Vielen Dank für dieses aufschlussreiche Interview, Leser, die mehr erfahren möchten, werden aufgerufen, Primer zu besuchen.