Facebook nutzt Bots und Simulationen, um schlechtes Benutzerverhalten zu bekämpfen

Facebook (META ) hat eine neue KI entwickelt, um schädliches, schädigendes und illegales Verhalten besser zu erkennen. Wie The Verge berichtet, haben die Forscher im Londoner AI-Department von Facebook einen AI-getriebenen Facebook-Simulator namens “WW” erstellt, der verwendet wird, um das Verhalten von Betrügern, illegalen Produktverkäufern, Spammern und anderen schlechten Akteuren auf einer simulierten Version von Facebook selbst zu simulieren.

Der Facebook-Simulator “WW”, der seinen Namen von einer Abkürzung von “WWW” ableitet, wurde von Facebook in einem Papier im April dieses Jahres vorgestellt. WW ist eine geklonte, isolierte Version von Facebook, die dazu dient, die Erprobung verschiedener Facebook-Tools und Algorithmen zu unterstützen.

Das Unternehmen hat kürzlich weitere Details über einige seiner Verwendungen für WW bekannt gegeben, darunter die Simulation von schlechten Akteuren durch KI. Durch die Verwendung einer Reihe von Bots, um Verhalten wie Betrug, Spam, Belästigung und mehr zu simulieren, hoffen die Forscher, dass sie in der Lage sein werden, schädliches Verhalten von Benutzern besser zu erkennen und zu bekämpfen.

Laut Facebook-Ingenieur Mark Harman, wie von The Verge zitiert, wird erwartet, dass WW ein wertvolles Werkzeug bei der Bekämpfung verschiedener schädlicher Verhaltensweisen auf Facebook sein wird. Zum Beispiel glaubt Harman, dass die Simulationen verwendet werden können, um bessere Methoden zur Erkennung von Betrügern zu entwickeln.

Facebook-Ingenieure haben das Verhalten von echten Facebook-Betrügern nachgeahmt, indem sie zwei Gruppen von Bots erstellten: eine Gruppe von Zielen und eine Gruppe von Betrügern. Betrüger suchen oft durch Netzwerke von Freunden, um die Freunde von Benutzern zu erkunden, um ein potenzielles Ziel zu finden. Dieses Verhalten wurde von den Betrüger-Bots nachgeahmt, als die Ingenieure mit verschiedenen Methoden experimentierten, um zu verhindern, dass der unschuldige Bot betrogen wird. Die von ihnen getesteten Taktiken umfassten zahlreiche Einschränkungen, wie die Begrenzung der Anzahl von privaten Nachrichten, die ein Bot pro Minute senden kann.

Es gibt einige Unterschiede zwischen der simulierten Facebook-Version und der echten. Zum einen enthält die Simulation von Facebook keine visuellen Elemente, so dass die aus der Simulation abgeleiteten Daten nur in numerischer Form und Statistiken über Interaktionen zwischen Bots vorliegen. Zum anderen sind alle Akteure in der Simulation Bots, die nicht in der Lage sind, mit echten Benutzern zu interagieren. Die WW-Simulation kann auch nicht auf Dinge wie Benutzerabsicht oder den Inhalt einer bestimmten Konversation eingehen, da nur die Aktionen des Sendens von Nachrichten, Kommentieren usw. simuliert werden.

Laut Harman ist dieser Prozess des Experimentierens mit Einschränkungen ähnlich wie bei Stadtplanern, die versuchen, die Geschwindigkeit auf bestimmten Straßen durch das Anlegen von “Geschwindigkeitsbegrenzungen” zu reduzieren. Ähnlich wie ein Stadtplaner experimentieren würde, um Geschwindigkeitsbegrenzungen zu erstellen und dann Daten über ihre Nützlichkeit zu sammeln, haben die Ingenieure analysiert, wie sich Nachrichten und Interaktionen zwischen Bots in ihrem Simulator änderten, als sie Parameter und Einschränkungen variierten. Harman erklärt, dass das Ziel darin besteht, eine Vorstellung davon zu bekommen, welche Änderungen an der Facebook-Plattform vorgenommen werden könnten, um schädliches Verhalten zu hemmen, ohne normales Verhalten oder den freien Fluss von Verkehr stark einzuschränken.

Harman erklärt auch, dass der Vorteil der Verwendung von WW für ihre Simulationen darin besteht, dass die Aktionen, die sie untersuchen, auf echter Facebook-Infrastruktur stattfinden, was ihnen eine viel bessere Vorstellung davon gibt, wie ihre vorgeschlagenen Änderungen sich auf echte Facebook-Benutzer auswirken könnten. Jegliche Anwendungen dieser Erkenntnisse werden jedoch noch einige Zeit auf sich warten lassen, da WW und seine Simulation derzeit noch in der Forschungsphase sind. Harman und andere Facebook-Forscher werden ihre Erkenntnisse noch nicht auf die Live-Version von Facebook anwenden, da noch viel Arbeit zu erledigen ist. Die Forschungsgruppe muss sicherstellen, dass die Simulationen, die sie erstellen, realen menschlichen Verhalten angemessen entsprechen.

Der Hauptvorteil von WW, laut Harman, liegt in seiner Fähigkeit, auf einer riesigen Skala zu operieren, was es Facebook-Forschern ermöglicht, die möglichen Konsequenzen von Tausenden von kleinen Änderungen zu überprüfen, alles durch die Simulationen, die es produziert.

In der Zukunft könnten die Forscher den Bots vielleicht einfach freie Hand lassen, um zu sehen, welche Arten von Interaktionen sie auf eigene Faust entwickeln, was oft etwas ist, das Forscher nicht einmal antizipieren.

„Im Moment liegt der Hauptfokus darauf, die Bots zu trainieren, um Dinge nachzuahmen, die wir wissen, dass sie auf der Plattform passieren. Aber in der Theorie und in der Praxis können die Bots Dinge tun, die wir nicht gesehen haben“, sagte Harman. „Das ist eigentlich etwas, das wir wollen, weil wir letztendlich vor dem schlechten Verhalten liegen wollen, anstatt ständig hinterherzulaufen.“

Wenn alles gut geht, könnte Facebook möglicherweise bereits Ende 2020 Änderungen auf der Grundlage von WWs Simulationen vornehmen.