Wie Facebooks KI Fehlinformationen verbreitet und die Demokratie bedroht

Dan Tunkelang, der die KI-Forschung bei LinkedIn beaufsichtigte, sagte: “Im Moment, in dem Empfehlungen die Macht haben, Entscheidungen zu beeinflussen, werden sie zu einem Ziel für Spammer, Betrüger und andere Menschen mit weniger edlen Motiven.”

Dies ist das Dilemma, mit dem soziale Medien-Unternehmen wie Facebook konfrontiert sind. Facebook verwendet implizite Feedback, um Klicks, Ansichten und andere messbare Benutzerverhaltensweisen zu verfolgen. Dies wird verwendet, um das zu entwerfen, was als “Empfehlungsmotor” bezeichnet wird, ein KI-System, das die endgültige Macht hat, zu entscheiden, wer welchen Inhalt sieht und wann.

Facebook hat seinen Empfehlungsmotor optimiert, um die Benutzerbindung zu maximieren, die durch die Zeit gemessen wird, die auf der Facebook-Plattform verbracht wird. Die Maximierung der Zeit hat Vorrang vor allen anderen Variablen, einschließlich der Qualität oder Genauigkeit dessen, was empfohlen wird.

Das System ist so konzipiert, dass es sensationelle Überschriften belohnt, die Benutzer durch die Ausnutzung kognitiver Verzerrungen ansprechen, auch wenn diese Überschriften von russischen Trollen geschrieben wurden, die die Gesellschaft spalten oder politische Wahlen beeinflussen wollen.

Wie Facebook KI verwendet

Es gibt ein mangelndes Bewusstsein darüber, wie Facebook KI verwendet, um zu entscheiden, was seine Benutzer sehen und interagieren. Man muss zunächst verstehen, was Bestätigungsverzerrung ist. Psychology Today beschreibt dies als:

Bestätigungsverzerrung ist die Tendenz, Informationen zu suchen, zu interpretieren, zu bevorzugen und zu erinnern, die die eigenen vorherigen Überzeugungen oder Werte bestätigen oder unterstützen.

Facebook versteht, dass Benutzer eher auf Nachrichten klicken, die ihre menschliche Tendenz, Bestätigungsverzerrung zu suchen, bedienen. Dies setzt ein gefährliches Präzedenzfall für die Verbreitung von Verschwörungstheorien und für die Schaffung von Echo-Kammern, in denen Benutzer ausschließlich das sehen, was sie sehen wollen, unabhängig von der Genauigkeit oder den gesellschaftlichen Auswirkungen dessen, was gesehen wird.

Eine Studie von MIT konnte demonstrieren, dass Fehlinformationen auf Twitter sechs Mal schneller verbreitet werden als wahre Nachrichten.

Dies bedeutet, dass sowohl Twitter als auch Facebook als Waffe eingesetzt werden können. Während Twitter es jedem ermöglicht, absichtlich zu folgen, wird Facebook dies noch weiter treiben. Ein Benutzer auf Facebook hat derzeit keine Möglichkeit, zu kontrollieren oder zu messen, was gesehen wird, dies wird vollständig von Facebooks Empfehlungsmotor gesteuert, der die Benutzerbindung misst und optimiert.

Facebook versucht, die Wünsche seiner Benutzer zu formen und vorherzusagen. Facebook schätzt, in welchem Maße ein Benutzer eine Nachrichtenmeldung mögen oder nicht mögen wird, die noch nicht von dem Benutzer erlebt wurde. Um einen Verlust an Benutzerbindung zu vermeiden, wählt Facebook dann, Nachrichtenmeldungen zu umgehen, die die Benutzerbindung verringern könnten, und wählt stattdessen, den Benutzer durch die Verpflegung von Nachrichtenmeldungen zu binden, die die Bestätigungsverzerrung bedienen, um mehr Klicks, Kommentare, Likes und Shares zu erzielen.

Facebook verwendet auch automatisierte kollaborative Filterung historischer Benutzeraktionen und Meinungen, um automatisch Teilnehmer (Freunde) mit ähnlichen Meinungen zu matchen. Facebook verwendet eine Nutzenfunktion, die automatisch und mathematisch die Präferenzen für Elemente vorhersagt und bewertet, die Sie sehen möchten.

Dies führt dazu, dass Benutzer in einen Kaninchenbau fallen, sie sind in Fehlinformationen gefangen, die ihre Verzerrung verstärken. Der präsentierte Inhalt ist inhärent darauf ausgerichtet, zu beeinflussen, auf was Sie klicken. Wenn Sie beispielsweise an die Verschwörung glauben, dass Bill Gates versucht, die menschliche Bevölkerung durch Impfungen zu mikrochippen, warum sollte Facebook Ihnen widersprechende Beweise präsentieren, die Sie dazu bringen könnten, sich von der Plattform abzuwenden?

Wenn Sie einem bestimmten politischen Kandidaten unterstützen, warum sollte Facebook Ihnen Nachrichten anbieten, die Ihre positiven Ansichten über diesen Kandidaten widersprechen?

Als ob dies nicht ausreichend wäre, beteiligt sich Facebook auch an dem, was als “soziale Beweis” bekannt ist. Soziale Beweis ist das Konzept, dass Menschen den Handlungen der Massen folgen. Die Idee ist, dass, da so viele andere Menschen auf eine bestimmte Weise handeln, es das richtige Verhalten sein muss.

Facebook bietet diesen sozialen Beweis im Kontext von Likes, Kommentaren oder Shares. Da nur bestimmte Freunde eine Nachrichtenmeldung sehen können (es sei denn, sie suchen speziell nach einem Benutzers Nachrichtenmeldung), dient der soziale Beweis nur dazu, die Bestätigungsverzerrung zu verstärken.

Facebook verwendet auch Filterblasen, um die Exposition gegenüber widersprüchlichen, widersprechenden und herausfordernden Standpunkten zu begrenzen.

Facebook-Anzeigen

Unbekannte Facebook-Benutzer können auf Anzeigen klicken, ohne sich dessen bewusst zu sein, dass sie Anzeigen präsentiert bekommen. Der Grund dafür ist einfach, wenn es eine Anzeige gibt, sieht nur die erste Person, die die Anzeige sieht, die Anzeige-Hinweis. Wenn dieser Benutzer die Anzeige teilt, sehen alle auf seiner Freundesliste einfach die “Teilung” als Nachrichtenmeldung, da Facebook absichtlich den Anzeige-Hinweis entfernt. Sofort lassen die Benutzer ihre Wachsamkeit sinken, sie sind nicht in der Lage, zwischen einer Anzeige und einer organischen Nachrichtenmeldung zu unterscheiden.

Facebook-Teilungen

Leider wird es noch schlimmer. Wenn ein Benutzer 1000 Freunde hat, die gleichzeitig Inhalte teilen, priorisiert der Empfehlungsmotor Inhalte von der Minderheit, die dieselben Ansichten teilt, auch wenn diese oft aus unbewiesenen Verschwörungstheorien bestehen. Der Benutzer wird dann unter dem Eindruck stehen, dass diese Nachrichtenmeldungen von allen gesehen werden. Durch die Interaktion mit dieser Nachrichtenmeldung optimieren diese Benutzer gegenseitig ihre soziale Beweis.

Sollte ein Benutzer versuchen, einen anderen Benutzer über eine irreführende oder falsche Nachrichtenmeldung aufzuklären, führt die bloße Handlung des Kommentierens oder Interagierens mit der Nachrichtenmeldung einfach dazu, dass Facebook diese Nachrichtenmeldung noch stärker betont und den Benutzer mit zusätzlichen Fehlinformationen füttert.

Dies führt zu einer Echo-Kammer, einer Filterblase, in der ein Benutzer trainiert wird, nur an das zu glauben, was er sieht. Wahrheit ist einfach eine Illusion.

Ernsthaftigkeit des Problems

Über 10 Millionen Menschen interagierten mit einer Nachrichtenmeldung, die behauptete, dass Papst Franziskus sich für Trumps Wahl im Jahr 2016 ausgesprochen hatte. Es gab keine Beweise dafür, es war einfach eine Fehlinformation, die aus Russland stammte, und dies war die meistgeteilte Nachrichtenmeldung auf Facebook in den drei Monaten vor der Wahl 2016.

Die Nachrichtenmeldung wurde von einer russischen Troll-Fabrik generiert, die sich als “Internet Research Agency” bezeichnet. Diese Organisation war auch für die Verbreitung und Teilung von Rassenhetz-Artikeln auf Twitter und Facebook verantwortlich, die gegen Black Lives Matter gerichtet waren und Fehlinformationen verbreiteten, die falsche Behauptungen über amerikanische Politiker verbreiteten.

Der Select Committee on Intelligence veröffentlichte einen 85-seitigen Bericht, der russische Active Measures-Kampagnen und -Interferenzen detailliert, die hauptsächlich die Verbreitung von spaltenden Fehlinformationen und Propaganda umfassten, die darauf abzielten, die Wahl 2016 in den USA zu beeinflussen.

Im Jahr 2020 hat sich das Problem nur verschlimmert. Im September 2020, nach einem FBI-Tipp, suspendierten Facebook und Twitter soziale Medien-Konten für eine Nachrichtenorganisation namens PeaceData, die mit Russlands staatlichen Propaganda-Bemühungen in Verbindung steht.

Leider ist die Schließung von Konten eine temporäre und unwirksame Lösung. Russische Konten nehmen oft die Form von Freundesanfragen an, oft von Frauen mit attraktiven Profilen, die Männer anvisieren, oder von gehackten Benutzerkonten mit einer Geschichte regelmäßiger Beiträge. Diese gehackten Konten verschieben sich allmählich zu politischen Beiträgen, bis sie von Propaganda oder Verschwörungstheorien dominiert werden.

Ein ahnungsloser Benutzer kann sich nicht bewusst sein, dass ein Freundes-Konto kompromittiert wurde. Wenn dieser Benutzer anfällig für Verschwörungstheorien ist, kann er auf die Fehlinformation reagieren, und der russische Troll, der oft ein Bot ist, bietet zusätzliche soziale Beweis in Form von Likes oder Kommentaren.

Verletzliche Benutzer sind oft diejenigen, die am wenigsten verstehen, wie Technologie und KI funktionieren. Die über 65-Jährigen, die am wahrscheinlichsten wählen, sind auch diejenigen, die am wahrscheinlichsten Fehlinformationen verbreiten, wie die New York Times berichtet.

Laut der Studie veröffentlichten Facebook-Benutzer im Alter von 65 Jahren und älter siebenmal mehr Artikel von Fehlinformations-Websites als Erwachsene im Alter von 29 Jahren und jünger. Ein Mangel an digitaler Medienkompetenz hat diese Altersgruppe unvorbereitet auf eine Nachrichtenmeldung, die nicht auf Fakten oder Genauigkeit basiert, sondern ausschließlich auf Benutzerbindung.

Böse Akteure nutzen Facebooks Empfehlungsmotor aus, der unsere kognitiven Verzerrungen gegen uns ausnutzt. Diese Organisationen haben den Missbrauch von Facebooks KI optimiert, um Verschwörungstheorien und Propaganda zu verbreiten. Verschwörungstheorien, die anfangs harmlos erscheinen, werden oft als Trichter in weiße Vorherrschaft, extreme Rechtsnationalismus oder QAnon verwendet, eine bizarre Verschwörungstheorie, die Trump darstellt, der die Welt vor liberalen Pädophilen retten will, eine Verschwörung, die keine Grundlage in der Realität hat.

Zusammenfassung

Facebook ist sich offensichtlich bewusst, dass es ein Problem gibt, und hat öffentlich eine Strategie angekündigt, die sich auf die Entfernung von Inhalten konzentriert, die Facebooks Community-Standards verletzen. Das Problem ist, dass die Löschung von Konten eine temporäre Notlösung ist, die unwirksam ist, wenn Konten in großen Mengen von Bots oder durch das massenhafte Hacken von Benutzerkonten generiert werden. Es löst auch nicht das Problem, dass die meisten Shares von regulären Benutzern stammen, die sich nicht bewusst sind, dass sie Fehlinformationen verbreiten.

Das Hinzufügen von Warnlabels dient nur dazu, Verschwörungstheorien zu verstärken, dass soziale Medien-Riesen gegen Konservative voreingenommen sind, die am anfälligsten für Fehlinformationen sind, wie die Universität Oxford berichtet.

Die Lösung muss ein neuer Empfehlungsmotor sein, der nicht nur die Benutzerbindung misst, sondern auch auf Benutzerzufriedenheit optimiert ist, indem er Wahrheit liefert und erhöhtes Selbstbewusstsein fördert.

In der Zwischenzeit sollte Facebook dem Weg folgen, den Twitter eingeschlagen hat, um politische Anzeigen zu verbieten.

Zuletzt muss eine wichtige Frage gestellt werden. Wenn Menschen keine Wahl mehr haben, welche Nachrichten sie sehen, wann hört es auf, eine Empfehlung zu sein und wann wird es zu Gedankenkontrolle?

Empfohlene Lektüre:

Russische Active Measures-Kampagnen und -Interferenzen – Bericht des Select Committee on Intelligence des US-Senats.

Das schockierende Papier, das das Ende der Demokratie vorhersagt – Von Rick Shenkman, Gründer des History News Network der George Washington University.

Ältere Menschen teilen Fehlinformationen auf Facebook mehr – Von der New York Times