Deepfakes und die Navigation in der neuen Ära der synthetischen Medien

Erinnern Sie sich an “fake news”? Der Begriff wurde so ausgiebig (und missbräuchlich) verwendet, dass es schwerfällt, sich daran zu erinnern, was er ursprünglich bezeichnete. Aber das Konzept hat einen sehr spezifischen Ursprung. Vor zehn Jahren begannen Journalisten, die Alarmglocken wegen eines Zustroms von vermeintlichen “Nachrichten”-Websites zu läuten, die falsche, oft abwegige Behauptungen über Politiker und Celebrities verbreiteten. Viele konnten sofort erkennen, dass diese Websites illegitim waren.

Aber viele andere fehlten die kritischen Werkzeuge, um dies zu erkennen. Das Ergebnis war die erste Unruhe einer epistemologischen Krise, die jetzt das Internet zu umfassen droht – eine, die ihre furchterregendste Manifestation mit dem Aufstieg von Deepfakes erreicht hat.

Neben einem durchschnittlichen Deepfake scheinen die “fake news”-Websites von einst harmlos. Schlimmer noch, selbst diejenigen, die glauben, über relativ hohe Medienkompetenz zu verfügen, sind gefährdet, hereingeführt zu werden. Synthetische Medien, die mit Hilfe von Deep-Learning-Algorithmen und generativer KI erstellt werden, haben das Potenzial, die Grundlagen unserer Gesellschaft zu zerstören. Laut Deloitte könnten sie in diesem Jahr allein Unternehmen durch betrügerische Transaktionen und andere Arten von Betrug mehr als 250 Millionen Dollar kosten. Währenddessen hat der Weltwirtschaftsforum Deepfakes als “eine der beunruhigendsten Anwendungen von KI” bezeichnet und auf das Potenzial von “agenda-getriebenen, Echtzeit-KI-Chatbots und Avataren” hingewiesen, um neue Arten von ultrapersönlicher (und ultrawirksamer) Manipulation zu ermöglichen.

Die vom Weltwirtschaftsforum vorgeschlagene Reaktion auf dieses Problem ist eine vernünftige: Sie befürworten eine “Zero-Trust-Haltung“, die einen gewissen Skeptizismus in jeden Umgang mit digitalen Medien bringt. Wenn wir zwischen authentischen und synthetischen Inhalten in Zukunft unterscheiden wollen – insbesondere in immersiven Online-Umgebungen – wird eine solche Haltung immer wichtiger.

Zwei Ansätze zur Bekämpfung der Deepfake-Krise

Die Bekämpfung der grassierenden Desinformation, die durch synthetische Medien entsteht, wird meiner Meinung nach zwei unterschiedliche Ansätze erfordern.

Der erste besteht in der Verifizierung: Es muss eine einfache Möglichkeit für den durchschnittlichen Internetnutzer geben, zu bestimmen, ob das Video, das er ansieht, tatsächlich authentisch ist. Solche Tools sind bereits in Branchen wie der Versicherungswirtschaft weit verbreitet, da es das Potenzial von Bösewichten gibt, gefälschte Ansprüche mit Hilfe von bearbeiteten Videos, Fotografien und Dokumenten zu stellen. Die Demokratisierung dieser Tools – sie kostenlos und leicht zugänglich zu machen – ist ein entscheidender erster Schritt in diesem Kampf, und wir sehen bereits bedeutende Bewegungen auf diesem Gebiet.

Der zweite Schritt ist weniger technischer Natur und somit eine größere Herausforderung: nämlich das Bewusstsein zu schärfen und kritische Denkfähigkeiten zu fördern. Im Anschluss an den ursprünglichen “fake news”-Skandal im Jahr 2015 entwickelten Non-Profit-Organisationen im ganzen Land Medienkompetenz-Programme und arbeiteten daran, bewährte Verfahren zu verbreiten, oft in Zusammenarbeit mit lokalen zivilen Institutionen, um den durchschnittlichen Bürger zu befähigen, Falschinformationen zu erkennen. Natürlich ist das alte “fake news” im Vergleich zu den fortschrittlichsten Deepfakes harmlos, was bedeutet, dass wir unsere Bemühungen auf diesem Gebiet verdoppeln und in Bildung auf allen Ebenen investieren müssen.

Fortgeschrittene Deepfakes erfordern fortgeschrittenes kritisches Denken

Natürlich waren diese Bildungsinitiativen etwas einfacher zu unternehmen, als die Desinformation textbasiert war. Bei gefälschten Nachrichtenseiten waren die Anzeichen von Betrug oft offensichtlich: amateurhafte Webdesigns, häufige Tippfehler, seltsame Quellen. Bei Deepfakes sind die Anzeichen viel subtiler – und oft unmöglich zu erkennen, wenn man sie zum ersten Mal sieht.

Daher müssen Internetnutzer aller Altersgruppen sich effektiv selbst umschulen, um digitale Videos auf Deepfake-Indikatoren zu überprüfen. Das bedeutet, dass man eine Reihe von Faktoren genau beachten muss. Bei Videos könnte das bedeuten, unrealistisch unscharfe Bereiche und Schatten; unnatürlich aussehende Gesichtsbewegungen und Ausdrücke; zu perfekte Hauttöne; inkonsistente Muster in Kleidung und Bewegungen; Lippen synchronisationsfehler; und so weiter. Bei Audio könnte das bedeuten, Stimmen, die zu rein klingen (oder offensichtlich digitalisiert sind), ein Mangel an menschlichem emotionalen Ton, seltsame Sprechmuster oder ungewöhnliche Formulierungen.

Kurzfristig kann diese Art von Selbstschulung sehr nützlich sein. Indem wir uns immer wieder fragen, ob etwas verdächtig aussieht, schärfen wir nicht nur unsere Fähigkeit, Deepfakes zu erkennen, sondern auch unsere kritischen Denkfähigkeiten im Allgemeinen. Allerdings nähern wir uns schnell einem Punkt, an dem nicht einmal das beste trainierte Auge in der Lage sein wird, Tatsachen von Fiktion zu unterscheiden, ohne externe Hilfe. Die visuellen Anzeichen – die oben genannten Unregelmäßigkeiten – werden technisch geglättet, so dass hergestellte Clips nicht von echten zu unterscheiden sind. Was uns bleiben wird, ist unsere situative Intuition – unsere Fähigkeit, uns Fragen zu stellen wie: Würde dieser oder jener Politiker oder Celebrity wirklich so etwas sagen? Ist der Inhalt dieses Videos plausibel?

In diesem Zusammenhang werden KI-Erkennungsplattformen so essentiell. Wenn das bloße Auge für Deepfake-Erkennungszwecke irrelevant wird, können diese Plattformen als definitive Schiedsrichter der Realität dienen – Schutzvorkehrungen gegen den epistemologischen Abgrund. Wenn ein Video real aussieht, aber irgendwie verdächtig erscheint – was in den kommenden Monaten und Jahren immer häufiger vorkommen wird -, können diese Plattformen uns in den Fakten verankern, indem sie die Basistruthähigkeit dessen bestätigen, was wir uns ansehen. Letztendlich ist es mit einer so mächtigen Technologie nur die KI selbst, die uns retten kann. Wir müssen mit Feuer gegen Feuer kämpfen – was bedeutet, gute KI zu verwenden, um die schlimmsten Missbräuche der Technologie zu bekämpfen.

Wirklich, die Erlangung dieser Fähigkeiten muss in keiner Weise ein zynischer oder negativer Prozess sein. Die Förderung einer Zero-Trust-Haltung kann stattdessen als eine Gelegenheit betrachtet werden, das kritische Denken, die Intuition und das Bewusstsein zu schärfen. Indem Sie sich immer wieder fragen, ob etwas Sinn ergibt, ob etwas verdächtig ist, erhöhen Sie Ihre Fähigkeit, nicht nur gefälschte Medien, sondern die Welt im Allgemeinen zu meistern. Wenn es eine silberne Linie in der Deepfake-Ära gibt, ist dies sie. Wir werden gezwungen, selbst zu denken und in unserem Alltagsleben empirischer zu werden – und das kann nur gut sein.