Sean Gourley, CEO & Gründer von Primer – Interview-Reihe

Sean Gourley ist der CEO & Gründer von Primer, einem Unternehmen, das industrietaugliche Anwendungen für die Verarbeitung von natürlichen Sprachen (NLP) für Regierungsbehörden, Finanzinstitute, Fortune-50-Unternehmen und viele andere Organisationen bereitstellt.

Einer der Hauptanwendungsfälle von Primer ist es, Menschen dabei zu helfen, Desinformationskampagnen zu erkennen, zu verstehen und darauf zu reagieren. Im Rahmen der Bemühungen, diese Dienste zu verbessern, hat Primer kürzlich Yonder erworben, um seine Fähigkeit zur Bekämpfung von Desinformationsangriffen zu verbessern.

Wir haben uns mit Sean unterhalten, um über Desinformation auf der jüngsten Ai4-Konferenz zu sprechen, die in Las Vegas stattfand. Sean ist eine wahre Fundgrube an Informationen über Desinformationskampagnen und Regierungspropaganda. Nachfolgend finden Sie unser Interview.

Was hat Sie ursprünglich dazu gebracht, das gesamte Ökosystem der Desinformation zu lernen und zu verstehen?

Also, ich habe ein bisschen über Hochfrequenzhandel gesprochen, und es war interessant. Ich habe mich durch das hindurchgearbeitet. Es gab diesen ganzen Raum von Algorithmen, die versuchten, zu verstehen, ob etwas in der Welt passiert war, und dann darauf zu handeln. Und es war primitiv. Das war 2012, und wir haben nur Rauschen aufgefangen.

Sie haben Dinge falsch interpretiert, als sie sie lasen, oder sie haben falsche Signale gegeben. Und dann kam ein Tweet, der angeblich von AP gehackt worden war. Und ihr Twitter-Account sagte: “Breaking: Explosion im Weißen Haus, Barack Obama verletzt.” Und dann hat der Markt diese Information aufgenommen und etwa 130 Milliarden Dollar verloren. Jetzt weiß ich nicht, ob es darauf abzielte, den Markt zu beeinflussen, ob es darauf abzielte, nur Chaos zu verursachen, oder ob es darauf abzielte, etwas anderes zu tun, aber es war einfach diese Verbindung damals, ich dachte: “Wow.” Es ist wie das Flattern eines Schmetterlings, das einen solchen Einfluss hat, weil es diese Menge von algorithmischen Akteuren ausnutzt, die wirklich nicht sehr intelligent sind.

Also sah ich das und das brachte mich dazu, tiefer einzutauchen, und dann begann ich zu suchen… Und ich sah, dass es eine Menge mexikanischer Bots und mexikanischer Konten gab, die behaupteten, dass Journalisten nicht von Drogenkartellen getötet worden seien. Und das war 2013. Und ich dachte: “Oh mein Gott, Sie haben nicht-staatliche Akteure, Drogenkartelle, die an diesem Ding teilnehmen, um eine Erzählungsschlacht zu schlagen. Und es sieht so aus, als ob sie gewinnen.” Und ich dachte: “Das sind noch nicht einmal staatliche Akteure.” Und an diesem Punkt sagte ich mir: “Was passiert, wenn ein staatlicher Akteur in die Hände bekommt? Wie würde das aussehen und was würde es tun?” Und dann veröffentlichte ich einen Artikel in Wired im Jahr 2015. Er war tatsächlich Ende 2014 geschrieben, aber es ging um Vorhersagen für 2015. Und ich sagte: “Dies wird das Jahr sein, in dem Bots die Kontrolle über Wahlen übernehmen werden.”

Und es wurde unglaublich prophetisch, als dieser Artikel erschien, vielleicht sogar mehr, als ich ursprünglich dachte. Aber es war einfach diese Art von Bogen der Technologie. Auf der gleichen Seite sahen wir auch, wie rudimentär viele dieser Technologien waren. Es war ziemlich primitiv. Also kam all das zusammen, und dann kamen wir in diesen Raum, den wir jetzt haben, in dem man Erzählungen einfach durch wiederholte Exposition gegenüber Informationen aus den Feeds, die man jetzt konsumiert, kontrollieren kann.

Glauben Sie, dass es eine Wahl gegeben hat, die durch diese Art von Desinformation beeinflusst wurde oder dass eine zukünftige Wahl durch diese Art von Desinformation beeinflusst werden könnte?

Ich möchte das ein bisschen umformulieren. Zuerst haben wir einen sehr engen Ansatz gewählt, der darin besteht, dass Desinformation nicht real ist. Und ich denke, das ist zu eng. Wir müssen es erweitern auf die Frage, wer die Erzählungen kontrolliert. Im Moment kann die Erzählung sehr gut real sein, aber sie muss nicht unbedingt wichtig sein.

Wir können eine Geschichte nehmen, wenn Sie sich Sorgen um Kriminalität machen, und wir können einfach alle Kriminalitätsfälle an alle Kanäle senden, und Sie werden zurückkommen und denken, Ihre Stadt sei von der schlimmsten Kriminalitätswelle heimgesucht worden, die sie je gesehen hat. Und alles, was Sie getan haben, ist, dass Sie alle Kriminalitätsfälle, die jemals gemeldet wurden und die zuvor nicht auf Ihrem Radar waren, in Ihr System gebracht haben.

Jetzt werden Sie anfangen zu glauben, dass die Kriminalität viel höher ist, als sie tatsächlich ist. Sie hat sich nicht geändert, aber Sie sind jetzt mehr damit konfrontiert. Also ist dies nicht die Frage, ob diese Kriminalität tatsächlich stattgefunden hat, sondern ob sie um Ihre Aufmerksamkeit gekämpft hat. Also ist dies ein Teil davon. Wir lassen uns auf diese Frage ein, ob es passiert ist oder nicht? Als ob das der Kampf wäre. Aber der Kampf ist wirklich um die Weltanschauungen der Menschen. Also ist dies ein Teil davon.

Der zweite Teil davon ist, wie viel man diese Dinge beeinflussen kann? Wenn Sie keine Vorstellung davon haben, ob Impfstoffe Ihre Intelligenz um 37 Punkte verringern oder nicht, oder wenn Sie nicht zuvor die Vorstellung hatten, dass Impfstoffe und Intelligenz miteinander verbunden sind. Wenn ich Ihnen sage, dass sie dies tun, sind Sie jetzt dreimal eher bereit, das zu glauben, als wenn jemand Ihnen sagt, dass Impfstoffe Ihre Intelligenz verringern. Also hat die Person, die mit der ersten Botschaft kommt, die beste Chance, dass Sie diese Überzeugung behalten, wenn Sie zuvor keine Meinung darüber hatten.

Ist es also eine Voreingenommenheit im menschlichen Gehirn, die anfällig für diese Art von Desinformation ist?

Es ist eine Voreingenommenheit im menschlichen Gehirn. Der zweite Teil ist, dass Sie, auch wenn Sie wissen, dass die Information falsch ist, wenn Sie ihr ausgesetzt sind, eher bereit sind, sie zu glauben, auch wenn Sie wissen, dass sie falsch ist. Also gibt es diese Wiederholung von Informationen. Es gibt den ersten Teil der Information, wenn Sie zuvor keine Meinung darüber hatten. Und dann gibt es den anderen Teil, den wir wissen, dass unabhängige Quellen mehr vertrauenswürdig sind. Und wenn Sie es von Menschen in Ihrem Freundesnetzwerk hören, vertrauen Sie es mehr, es wird zu einer Affiliationsmethode. Und wir wissen, dass etwa 25% ein Wendepunkt sind, wenn 25% der Menschen an etwas glauben, entsteht ein massiver Wendepunkt, bei dem es dann sehr wahrscheinlich ist, dass 75% oder 80% der Menschen anfangen, daran zu glauben.

Also kommt all dies auf die Welt der Meinungsbildung und die Mechanismen, wie Gruppen zu einem Konsens kommen. Es gibt einen Unterzweig der Physik, der computergestützte Physik, der dies untersucht, und Sie können in die Literatur gehen und diese Modelle der Meinungsbildung, -verbreitung und -übernahme verstehen.

Man kann diese Systeme steuern, wenn man es so möchte, und das ist, was die Leute anfangen zu tun. Ich denke nicht, dass sie sehr sophistisch sind. Aber schauen Sie, China ist eine AI-Supermacht. Sie wissen, dass der Gewinner dieses Wettlaufs einen sehr dominanten militärischen Vorteil gegenüber dem Zweitplatzierten haben wird. Also wird China die Komponenten der künstlichen Intelligenz sehr aggressiv verfolgen. Der zweite Teil davon ist die Bedeutung der Herstellung von Chips und fortschrittlichen GPUs, die Taiwan hat. Und ich denke, wenn China das sieht, und sie könnten die Fertigungslabore, Einrichtungen und Fabriken von Taiwan haben, würden sie in einer sehr dominanten Position im AI-Wettlauf sein.

Nun, wenn China das mit Gewalt nimmt, besteht die Chance, dass sie diese Fähigkeiten zerstören oder dass sie von Taiwan zerstört werden. Was für China in Ordnung wäre. Es gäbe eine enorme globale Störung, aber es würde nicht unbedingt ein großes Problem für China darstellen, wenn das passieren würde.

Wenn sie es jedoch ganz erhalten können, dann ist das ein massiver Vorteil für sie. Und die Art, wie man das tut, ist, wie wir es in Hongkong gesehen haben, ist, wie man sagt: “Sie gehören wirklich zu uns.” Und man überzeugt den Rest der Welt, dass sie wirklich zu Ihnen gehören. Und wenn Sie versuchen, gegen diese Überzeugung oder Meinung zu opponieren, dann gibt es wirtschaftliche oder andere Probleme. Also ist das, was China tut, ein globaler Einfluss, um die Welt zu überzeugen, dass Taiwan zu China gehört, um die taiwanesischen Menschen zu überzeugen, dass sie zu China gehören. Und wenn sie das tun können, dann hat China den Kuchen und kann ihn auch essen.

Also werden wir das sehen, wenn China narrative Informationsoperationen startet, um die Welt zu überzeugen, dass Taiwan zu China gehört. Und das wird vom House Intelligence Committee erkannt. Sie haben ihren Intelligence Authorization Act zusammengestellt und haben speziell Methoden zur Erkennung chinesischer Einflussoperationen in der Karibik, Südamerika und Zentralamerika aufgerufen.

Das ist ein spezifischer Aufruf an die Geheimdienstgemeinschaft, um an diesem Thema zu arbeiten. Der Intelligence Authorization Act hat auch die Fähigkeit aufgerufen, künstliche Intelligenz zu nutzen, die Fähigkeit, kommerzielle Technologien aus dem Lager zu verwenden, und die Fähigkeit, keine Code-Umgebungen in diese Organisationen zu deployen. Es gibt einige wirklich konstruktive Dinge, die vom Kongress kommen. Einige Teile sind öffentlich und können gelesen werden, und sie sind sehr interessant, um chinesische Desinformationskampagnen, insbesondere in Ländern Südamerikas, Zentralamerikas und der Karibik, zu bekämpfen.

Wie viel Rolle spielen Empfehlungs-Engines wie YouTube, Facebook, Twitter und TikTok bei der Verstärkung dieser falschen Erzählung?

Eine Sache, die wir über China wissen, ist, dass sie Facebook daran gehindert haben, hereinzukommen. Facebook ist nach China gegangen. 2012 sagte Mark Zuckerberg: “Ich werde Mandarin lernen. Es geht um China.” China sagte: “Wir lassen Sie herein und dann goodbye.”

Weil China sagte: “Zum Teufel, dass wir einem amerikanischen Unternehmen erlauben, die Informationsflüsse unserer Bevölkerung zu kontrollieren. Wir haben sehr hart daran gearbeitet, danke schön, die Information zu kontrollieren, die unsere Bevölkerung bekommt. Das ist, was wir tun. Wir sind sehr gut darin.” Also ließ China Facebook herein, und dann sagte China: “Wir lernen von Ihnen, aber dann sind Sie weg.”

Also hat die KPCh (Kommunistische Partei Chinas) eine sehr klare Entscheidung darüber getroffen, wie sie die Information kontrollieren wollte. Nun, als autoritärer Staat, haben Sie diese Kontrolle. “Sie werden nicht über diese Ideen nachdenken. Sie werden nicht diese Dinge sagen. Sie werden nicht das tun.” Als liberale Demokratie müssen wir an der Fähigkeit teilnehmen, Debatten zu führen und Ideen auszutauschen, in einem relativ freien und offenen Raum. Es gibt bestimmte Grenzen, aber sie sind am Rande. Also kann China die Information kontrollieren. Die USA können das nicht in demselben Ausmaß, es gibt eine Demokratie. Wir müssen die Unordnung der Information zulassen, die sich selbst auskämpft. Was uns anfällig für diese Art von Informationsangriffen macht.

Ich denke, dass wir die Macht von Informationsoperationen unterschätzen. Ich denke, China hat sehr genau darauf geachtet, und ich denke, wir werden das sehen. Und wir sehen es bereits, in Bezug auf Taiwan und was der Rest der Welt darüber denkt. Und die USA, ich denke, wenn sie sich engagieren wollen, müssen sie die gleichen Fähigkeiten haben, um Informationsoperationen zu bekämpfen.

Gibt es noch letzte Worte, die Sie über Primer teilen möchten?

Wir sind in dieser Mission engagiert, um die USA und ihre Verbündeten zu unterstützen, um die beste Technologie in die Hände der Kämpfer zu legen, und ich denke, wir wollen, dass mehr Technologie-Unternehmen zu diesem Kampf beitreten.

Vielen Dank für dieses aufschlussreiche Interview. Leser, die mehr erfahren möchten, werden ermutigt, Primer zu besuchen.