Was sind Deepfakes?

Da Deepfakes einfacher zu erstellen und häufiger werden, wird ihnen mehr Aufmerksamkeit geschenkt. Deepfakes sind zum Mittelpunkt von Diskussionen über KI-Ethik, Fehlinformationen, Informationsfreiheit und Internetregulierung geworden. Es lohnt sich, über Deepfakes informiert zu sein und ein intuitives Verständnis davon zu haben, was Deepfakes sind. Dieser Artikel wird die Definition von Deepfakes klären, ihre Anwendungsfälle untersuchen, besprechen, wie Deepfakes erkannt werden können, und die Auswirkungen von Deepfakes auf die Gesellschaft untersuchen.

Was sind Deepfakes?

Bevor wir weiter über Deepfakes sprechen, wäre es hilfreich, zu klären, was „Deepfakes“ eigentlich sind. Es gibt eine erhebliche Verwirrung über den Begriff Deepfake, und oft wird der Begriff fälschlicherweise auf jede gefälschte Medien angewendet, unabhängig davon, ob es sich um einen echten Deepfake handelt oder nicht. Um als Deepfake zu gelten, muss die gefälschte Medien mit einem maschinellen Lernsystem, insbesondere einem tiefen neuronalen Netzwerk, erstellt worden sein.

Das wichtigste Ingredient von Deepfakes ist maschinelles Lernen. Maschinelles Lernen hat es ermöglicht, dass Computer Videos und Audio relativ schnell und einfach automatisch generieren können. Tiefe neuronale Netze werden auf Footage von realen Personen trainiert, um die Netzwerke zu lehren, wie Menschen unter den Zielumgebungsbedingungen aussehen und sich bewegen. Das trainierte Netzwerk wird dann auf Bilder einer anderen Person angewendet und mit zusätzlichen Computer-Graphik-Techniken kombiniert, um die neue Person mit dem Original-Footage zu kombinieren. Ein Encoder-Algorithmus wird verwendet, um die Ähnlichkeiten zwischen dem Original-Gesicht und dem Ziel-Gesicht zu bestimmen. Sobald die gemeinsamen Merkmale der Gesichter isoliert worden sind, wird ein zweiter KI-Algorithmus namens Decoder verwendet. Der Decoder untersucht die codierten (komprimierten) Bilder und rekonstruiert sie auf der Grundlage der Merkmale in den Original-Bildern. Zwei Decoder werden verwendet, einer auf dem Original-Subjekts-Gesicht und der zweite auf dem Ziel-Persons-Gesicht. Um den Austausch zu ermöglichen, wird der Decoder, der auf Bildern von Person X trainiert wurde, mit Bildern von Person Y gefüttert. Das Ergebnis ist, dass Person Ys Gesicht über Person Xs Gesichtsausdruck und Orientierung rekonstruiert wird.

Aktuell dauert es noch eine erhebliche Zeit, um einen Deepfake zu erstellen. Der Ersteller des Fakes muss viel Zeit damit verbringen, die Parameter des Modells manuell anzupassen, da suboptimale Parameter zu erkennbaren Unvollkommenheiten und Bildfehlern führen, die die wahre Natur des Fakes verraten.

Obwohl es oft angenommen wird, dass die meisten Deepfakes mit einer Art von neuronalen Netzwerk namens generatives adversarisches Netzwerk (GAN) erstellt werden, verwenden viele (vielleicht die meisten) Deepfakes, die heutzutage erstellt werden, keine GANs. Während GANs eine wichtige Rolle bei der Erstellung von frühen Deepfakes spielten, werden die meisten Deepfake-Videos durch alternative Methoden erstellt, laut Siwei Lyu von der SUNY Buffalo.

Es benötigt eine unverhältnismäßig große Menge an Trainingsdaten, um ein GAN zu trainieren, und GANs benötigen oft viel länger, um ein Bild zu rendern, im Vergleich zu anderen Bildgenerierungstechniken. GANs sind auch besser für die Generierung von statischen Bildern als für Videos, da GANs Schwierigkeiten haben, Konsistenzen von Frame zu Frame aufrechtzuerhalten. Es ist viel häufiger, einen Encoder und mehrere Decoder zu verwenden, um Deepfakes zu erstellen.

Wofür werden Deepfakes verwendet?

Viele der online verfügbaren Deepfakes sind pornografischer Natur. Laut einer Studie von Deeptrace, einem KI-Unternehmen, waren von etwa 15.000 Deepfake-Videos, die im September 2019 aufgenommen wurden, etwa 95% pornografischer Natur. Eine besorgniserregende Implikation dieser Tatsache ist, dass, wenn die Technologie einfacher zu verwenden ist, Fälle von gefälschtem Rache-Pornographie zunehmen könnten.

Es gibt jedoch auch legitime Anwendungen für Deepfake-Technologie. Audio-Deepfake-Technologie könnte Menschen helfen, ihre reguläre Stimme zu übertragen, nachdem sie durch Krankheit oder Verletzung beschädigt oder verloren gegangen ist. Deepfakes können auch verwendet werden, um die Gesichter von Menschen in sensiblen, potenziell gefährlichen Situationen zu verbergen, während ihre Lippen und Ausdrücke noch lesbar sind. Deepfake-Technologie kann potenziell verwendet werden, um die Synchronisation von Fremdsprachefilmen zu verbessern, beschädigte Medien zu reparieren und sogar neue Kunststile zu erstellen.

Nicht-Video-Deepfakes

Während die meisten Menschen an gefälschte Videos denken, wenn sie den Begriff „Deepfake“ hören, sind gefälschte Videos bei Weitem nicht die einzige Art von gefälschter Medien, die mit Deepfake-Technologie erstellt werden. Deepfake-Technologie wird verwendet, um Foto- und Audio-Fälschungen zu erstellen. Wie bereits erwähnt, werden GANs häufig verwendet, um gefälschte Bilder zu generieren. Es wird angenommen, dass es viele Fälle von gefälschten LinkedIn- und Facebook (META ) -Profilen gegeben hat, die mit Deepfake-Algorithmen generierte Profilbilder verwenden.

Es ist auch möglich, Audio-Deepfakes zu erstellen. Tiefe neuronale Netze werden trainiert, um Stimmenklone/Stimmenhäute von verschiedenen Menschen, einschließlich Celebrities und Politikern, zu produzieren. Ein berühmtes Beispiel für einen Audio-Deepfake ist, als das KI-Unternehmen Dessa eine KI-Modell verwendete, unterstützt von nicht-KI-Algorithmen, um die Stimme des Podcast-Moderators Joe Rogan nachzubilden.

Wie kann man Deepfakes erkennen?

Da Deepfakes immer sophistizierter werden, wird es schwieriger, sie von echten Medien zu unterscheiden. Aktuell gibt es einige erkennbare Anzeichen, nach denen man suchen kann, um zu bestimmen, ob ein Video ein potenzieller Deepfake ist, wie schlechte Lippen-Synchronisation, unnatürliche Bewegungen, Flackern um den Rand des Gesichts und Verzerrung von feinen Details wie Haaren, Zähnen oder Reflexionen. Andere potenzielle Anzeichen von Deepfakes sind niedrigere Bildqualität in Teilen des gleichen Videos und unregelmäßiges Blinken der Augen.

Obwohl diese Anzeichen helfen können, einen Deepfake zu erkennen, könnten sie, wenn die Deepfake-Technologie verbessert wird, nicht mehr ausreichen, um Deepfakes zuverlässig zu erkennen.

KI-Unternehmen, einschließlich vieler großer Tech-Unternehmen, forschen an Methoden, um Deepfakes zu erkennen. Im letzten Dezember wurde ein Deepfake-Erkennungswettbewerb gestartet, unterstützt von drei Tech-Riesen: Amazon (AMZN ), Facebook und Microsoft. Forschungsteams aus der ganzen Welt arbeiteten an Methoden, um Deepfakes zu erkennen, und konkurrierten um die Entwicklung der besten Erkennungsmethoden. Andere Forschungsgruppen, wie eine Gruppe von Forschern von Google (GOOGL ) und Jigsaw, arbeiten an einer Art von „Gesichtsforensik“, die Videos erkennen kann, die verändert wurden, und machen ihre Datensätze Open-Source und ermutigen andere, Deepfake-Erkennungsmethoden zu entwickeln. Das bereits erwähnte Dessa hat an der Verfeinerung von Deepfake-Erkennungstechniken gearbeitet, um sicherzustellen, dass die Erkennungsmodelle auf Deepfake-Videos funktionieren, die im Internet gefunden werden, und nicht nur auf vorherigen Trainings- und Testdatensätzen, wie dem Open-Source-Datensatz von Google.

Es gibt auch andere Strategien, die erforscht werden, um mit der Verbreitung von Deepfakes umzugehen. Zum Beispiel kann man Videos auf Übereinstimmung mit anderen Informationsquellen überprüfen. Man kann nach Videos von Ereignissen suchen, die aus anderen Perspektiven aufgenommen wurden, oder Hintergrunddetails des Videos (wie Wettermuster und Orte) auf Unstimmigkeiten überprüfen. Darüber hinaus könnte ein Blockchain-Online-Ledger-System Videos registrieren, wenn sie ursprünglich erstellt werden, und ihre ursprünglichen Audio- und Bilder speichern, so dass abgeleitete Videos immer auf Manipulation überprüft werden können.

Letztendlich ist es wichtig, dass zuverlässige Methoden zur Erkennung von Deepfakes entwickelt werden und dass diese Erkennungsmethoden mit den neuesten Fortschritten in der Deepfake-Technologie Schritt halten. Während es schwierig ist, die genauen Auswirkungen von Deepfakes vorherzusagen, könnten Fehlinformationen potenziell um sich greifen und das Vertrauen der Menschen in die Gesellschaft und Institutionen untergraben, wenn es keine zuverlässigen Methoden zur Erkennung von Deepfakes gibt.

Auswirkungen von Deepfakes

Was sind die Gefahren, wenn man Deepfakes unkontrolliert verbreiten lässt?

Eines der größten Probleme, die Deepfakes derzeit verursachen, ist nicht einvernehmliche Pornographie, die durch die Kombination von Menschen mit pornografischen Videos und Bildern erstellt wird. KI-Ethiker befürchten, dass Deepfakes häufiger für die Erstellung von gefälschter Rache-Pornographie verwendet werden. Darüber hinaus könnten Deepfakes verwendet werden, um jeden zu belästigen und seinen Ruf zu schädigen, da sie verwendet werden könnten, um Menschen in kontroversen und kompromittierenden Situationen zu platzieren.

Unternehmen und Cybersicherheitsexperten haben Bedenken geäußert, dass Deepfakes für Betrügereien, Betrug und Erpressung verwendet werden könnten. Angeblich wurde Deepfake-Audio verwendet, um Mitarbeiter eines Unternehmens zu überzeugen, Geld an Betrüger zu überweisen

Es ist möglich, dass Deepfakes auch über die oben genannten Auswirkungen hinaus schädliche Auswirkungen haben könnten. Deepfakes könnten das Vertrauen der Menschen in Medien allgemein untergraben und es schwierig machen, zwischen echten und gefälschten Nachrichten zu unterscheiden. Wenn viele Videos im Internet gefälscht sind, wird es einfacher für Regierungen, Unternehmen und andere Einheiten, Zweifel an legitimen Kontroversen und unethischen Praktiken zu säen.

Wenn es um Regierungen geht, könnten Deepfakes sogar eine Bedrohung für die Funktionsweise der Demokratie darstellen. Die Demokratie erfordert, dass Bürger in der Lage sind, informierte Entscheidungen über Politiker auf der Grundlage zuverlässiger Informationen zu treffen. Fehlinformationen untergraben demokratische Prozesse. Zum Beispiel erschien der Präsident von Gabun, Ali Bongo, in einem Video, in dem er die gabunische Bevölkerung zu beruhigen versuchte. Der Präsident wurde lange Zeit für krank gehalten, und sein plötzliches Auftauchen in einem wahrscheinlich gefälschten Video löste einen Putschversuch aus. Präsident Donald Trump behauptete, dass eine Audio-Aufnahme von ihm, in der er sich über das Greifen von Frauen brüstete, gefälscht sei, obwohl er es auch als „Umkleidegespräch“ bezeichnete. Prinz Andrew behauptete, dass ein von Emily Maitilis’ Anwalt vorgelegtes Bild gefälscht sei, obwohl der Anwalt auf dessen Echtheit bestand.

Letztendlich sind es, obwohl es legitime Anwendungen für Deepfake-Technologie gibt, viele potenzielle Schäden, die durch den Missbrauch dieser Technologie entstehen können. Deshalb ist es extrem wichtig, dass Methoden zur Bestimmung der Authentizität von Medien entwickelt und aufrechterhalten werden.