Facebook entfernt Konten, die von künstlicher Intelligenz generiert und zur Verbreitung von Verschwörungstheorien verwendet wurden

Soziale Medienunternehmen haben versucht, Fehlinformationen vor der Wahlkampfsaison 2020 auf verschiedene Weise zu kontrollieren. Während Twitter kürzlich politische Anzeigen von seiner Plattform verboten hat, gab Facebook (META ) bekannt, dass es Hunderte von gefälschten Konten, Gruppen und Seiten geschlossen hat. Viele dieser Konten scheinen Profilebilder zu haben, die von künstlicher Intelligenz generiert wurden, und viele haben angeblich zur Verbreitung von Fehlinformationen und Verschwörungstheorien verwendet.

Wie von Forbes berichtet, erklärte Facebook, dass die gesperrten Konten und Seiten mit dem “Beauty of Life”-Netzwerk oder “TheBL” in Verbindung standen, das Facebook als mit der konservativen Nachrichtenverlagsgruppe Epoch Times verbunden bezeichnete. Laut Facebook hat die Epoch Media Group fast 9,5 Millionen Dollar für Werbung auf vielen der jetzt gesperrten Seiten und Gruppen ausgegeben, wobei viele der Beiträge Verschwörungstheorien über Trump enthielten. Obwohl die Epoch Media Group die Vorwürfe bestreitet, erklärte Facebook, dass es eng mit unabhängigen Forschern wie Graphika und dem Digital Forensic Research Lab (DFRLab) der Atlantic Council zusammengearbeitet hat, um die Natur der Konten und Seiten vor der Ergreifung von Maßnahmen gegen sie zu bestimmen.

Laut Facebook wurden die Konten wegen “koordiniertem unechtem Verhalten” entfernt, da sie absichtlich andere über ihre Identitäten täuschten und versuchten, politische Einflussnahme auszuüben. Laut CNET erklärte Facebook, dass die Konten oft Inhalte veröffentlichten, die bestimmte politische Kandidaten und Ideologien förderten, wobei der Schwerpunkt auf konservativen Wahlen, konservativen Richtlinien und starker Unterstützung für Präsident Trump lag.

Facebook veröffentlichte einen 39-seitigen Bericht über das Ereignis, in dem viele seiner Erkenntnisse erläutert wurden. Einer der bemerkenswerten Aspekte von Facebooks Bericht war, dass viele der gesperrten Konten mit Hilfe von künstlicher Intelligenz erstellt wurden. Facebooks Forscher erklären in dem Bericht:

„Dutzende dieser gefälschten Konten hatten Profilebilder, die von künstlicher Intelligenz generiert wurden, in der ersten groß angelegten Verwendung von gefälschten Gesichtern, die den Autoren dieses Berichts bekannt sind.“

Laut den Erkenntnissen des Berichts waren die von künstlicher Intelligenz generierten Bilder nicht perfekt, da Details oft ihre wahre Natur verrieten. Kontinuierliche Elemente eines Bildes, wie eine Brille oder Haare, waren oft asymmetrisch. Darüber hinaus waren Hintergrunddetails oft unscharf und verzerrt. Diese Elemente mögen jedoch nicht sofort auffallen, insbesondere angesichts der kleinen Bildgrößen von Profilfotos in einer Facebook-Kommentarkette. Viele der gefälschten Profile schienen auch gefälschte Profilinformationen und sogar gefälschte Beiträge zu haben, die möglicherweise von künstlicher Intelligenz generiert wurden.

Wie NBC berichtet, erklärte Facebooks Leiter für Sicherheitspolitik, Nathaniel Gleicher, dass das Verhalten der Konten sie als unecht entlarvte und dass Versuche, gefälschte Bilder und Profilinformationen zu verwenden, die Konten nicht vor der Entdeckung schützen. Gleicher erklärte, dass die von künstlicher Intelligenz generierten Bilder die Konten tatsächlich eher auffällig machten. Gleicher erklärte:

„Wir haben diese Konten entdeckt, weil sie sich unecht verhielten. Die Verwendung von AI-generierten Profilen, um sich realer zu machen, hilft ihnen nicht wirklich. Die größte Erkenntnis hier ist die Offensichtlichkeit des Netzwerks bei der Verwendung von gefälschten Identitäten… Was neu hier ist, ist, dass dies angeblich ein US-amerikanisches Medienunternehmen ist, das ausländische Schauspieler als Amerikaner ausgibt, um politische Inhalte zu verbreiten. Wir haben dies oft bei staatlichen Akteuren in der Vergangenheit gesehen.“

Trotzdem erklärten die unabhängigen Forscher von Graphika und dem Atlantic Council, dass die Leichtigkeit, mit der die schlechten Akteure so viele Bilder erstellen und ihren Konten eine wahrgenommene Authentizität verleihen konnten, “ein Anliegen” sei. Facebook und andere soziale Medienunternehmen stehen unter Druck, ihre Bemühungen zur Bekämpfung der Verbreitung politischer Fehlinformationen zu verstärken, eine Aufgabe, die es erfordert, technologisch immer einen Schritt voraus zu sein.

Bevor Facebook die Konten, Seiten und Gruppen entfernt hatte, erreichte der Inhalt, der von diesen Entitäten veröffentlicht wurde, Millionen von Menschen. Laut Berichten hatten mindestens 55 Millionen Konten einer der 89 gesperrten Seiten gefolgt. Die meisten der Follower waren nicht-US-amerikanische Konten. Insgesamt wurden etwa 600 Konten, 90 Seiten und 150 Gruppen von Facebook entfernt. Etwa 70 Konten wurden auch von Instagram entfernt.

Die Nachricht kommt gerade dann, als Facebook einen DeepFake-Erkennungswettbewerb startet, der bis März 2020 laufen wird. Twitter hat kürzlich fast 6000 Konten gesperrt, die angeblich aus Saudi-Arabien stammen und absichtlich irreführende Inhalte veröffentlichten.