Europäische und britische Vorschläge zur Regulierung von Deepfakes sind erstaunlich begrenzt

Analyse Für Kampagnen, die hoffen, dass 2022 das Jahr sein könnte, in dem Deepfake-Bilder unter eine strengere rechtliche Aufsicht fallen, sind die frühen Anzeichen nicht vielversprechend.

Letzten Donnerstag hat das Europäische Parlament Änderungen an dem Digital Services Act (DSA, der 2023 in Kraft treten soll) in Bezug auf die Verbreitung von Deepfakes ratifiziert. Die Änderungen befassen sich mit Deepfakes in zwei Abschnitten, die beide direkt mit Online-Werbung zusammenhängen: Änderung 1709 in Bezug auf Artikel 30 und eine damit verbundene Änderung von Artikel 63.

Der erste Abschnitt schlägt einen völlig neuen Artikel 30a vor, der Deepfakes heißt und wie folgt lautet:

‘Wenn ein sehr großes Online-Plattform feststellt, dass ein Inhalt ein generierter oder manipulierter Bild-, Audio- oder Video-Inhalt ist, der existing Personen, Objekte, Orte oder andere Entitäten oder Ereignisse sehr ähnlich sieht und falsch als authentisch oder wahrheitsgetreu erscheint (Deepfakes), muss der Anbieter den Inhalt so kennzeichnen, dass er den Empfänger des Dienstes darüber informiert, dass der Inhalt unecht ist und dass dies klar sichtbar ist.’

Der zweite Abschnitt fügt Text zu dem bestehenden Artikel 63 hinzu, der hauptsächlich mit der Erhöhung der Transparenz großer Werbeplattformen befasst ist. Der relevante Text lautet:

‘Darüber hinaus sollten sehr große Online-Plattformen bekannte Deepfake-Videos, Audio- oder andere Dateien kennzeichnen.’

Effektiv bereitet die Gesetzgebung auf die wachsende Praxis von “legitimen Deepfakes” vor, bei der die Erlaubnis erteilt und die Rechte für das Face-Swapping in Werbe- oder Promotionsmaterial gesichert wurden – wie z.B. die lizenzierte Verwendung von Bruce Willis’ Identität in einer aktuellen Werbekampagne des russischen Telekommunikationsunternehmens Telefon.

Zögern, Gesetze zu erlassen

Der DSA befasst sich bisher nicht mit den Bedenken von Kampagnen über die Verwendung von Deepfake-Techniken, wie sie am häufigsten verwendet werden – um pornografische Videos neu zu besetzen. Er befasst sich auch nicht mit dem Umfang, wenn vorhanden, in dem die bevorstehende Verwendung von Deepfakes in Filmen und Fernsehsendungen gegenüber den Zuschauern in gleicher Weise wie Deepfakes in der Werbung erklärt werden muss, zumindest in der EU, ab 2023.

Der Ratifizierungsprozess für den DSA geht nun auf die Verhandlungen mit den EU-Mitgliedstaaten über, zusammen mit dem breiteren Umfang des Digital Markets Act (DMA).

Der Bericht von Europol aus Dezember 2020 Malicious Uses and Abuses of Artificial Intelligence behauptete, es wäre ein Fehler für die EU, spezifische aktuelle Deepfake-Technologien (wie DeepFaceLive) anzusprechen, was dazu führen könnte, dass die EU-Gesetze ständig hinter den neuesten Frameworks oder Methoden herhinken.

Der Bericht besagt:

‘Insbesondere sollten diese Richtlinien technologie-agnostisch sein, um langfristig wirksam zu sein und um zu vermeiden, dass sie regelmäßig überprüft und ersetzt werden müssen, wenn die Technologie hinter der Erstellung und dem Missbrauch von Deepfakes sich weiterentwickelt.

‘Jedoch sollten solche Maßnahmen auch die positiven Anwendungen von GANs nicht behindern.’

Die abschließende Bemerkung im obigen Zitat, die sich auf Generative Adversarial Networks (GANs) bezieht, charakterisiert die europäische und nordamerikanische Zögern, Gesetze zu erlassen, die den aufstrebenden AI-Forschungssektor behindern könnten, der bereits als hinter Asien zurückbleibend wahrgenommen wird (dessen didaktischere Nationen in der Lage waren, Deepfake-Gesetze zu beschleunigen).

Beispielsweise betont ein Bericht von 2018 des britischen Select Committee on Artificial Intelligence im House Of Lords mehrmals das Risiko, dass die Entwicklung von KI in der Nation behindert wird, wenn man sich von Zaghaftigkeit leiten lässt, wie es in seinem Titel KI in Großbritannien: bereit, willig und fähig? zum Ausdruck kommt. Im vergangenen April wurde Großbritannien auch das erste Land, das die Zulassung von selbstfahrenden Autos auf Autobahnen genehmigte.

Amerika ist nicht weniger eifrig; in den USA hat die Brookings Institution die Notwendigkeit von mehr Gesetzen für KI in den USA betont und die Gesetzgeber für ihre “warte und sieh” -Haltung gegenüber den Auswirkungen von Machine-Learning-Technologien kritisiert

Abgesehen von der schwachen Herangehensweise des DSA an die Behandlung sozialer (statt politischer) Bedenken im Zusammenhang mit Deepfakes, geriet der vorgeschlagene regulatorische Rahmen der EU für KI, der im April 2021 veröffentlicht wurde, schnell unter Kritik, weil er das Thema ausweicht.

Wenig Deepfake-Regulierung im Vereinigten Königreich

Als weitere Enttäuschung für Anti-Deepfake-Kampagnen wie die Autorin Helen Mort, die im Jahr 2021 für neue britische Gesetze warb, nachdem sie ohne ihre Zustimmung in pornografischen Deepfake-Videos dargestellt worden war, kritisiert ein heute veröffentlichter Bericht des britischen Parlaments, des Digital, Culture, Media and Sport Committee, die britische Regierung dafür, dass sie Deepfakes in dem Entwurf des Online Safety Bill nicht anspricht.

Der Bericht besagt, dass die derzeitige Rechtslage gegen Deepfake-Missbrauch “unklar und unpraktisch” ist und dass die vorgeschlagene Gesetzgebung nichts gegen die “rechtlich, aber schädlich” einstuft, AI-gestützte pornografische Video- und Bildmanipulationstechniken:

‘[Wir] empfehlen, dass die Regierung proaktiv Arten von Inhalten anspricht, die technisch rechtlich sind, wie z.B. heimtückische Teile von Kindesmissbrauchsszenarien wie Breadcrumbing und Arten von Online-Gewalt gegen Frauen und Mädchen wie technisch ermöglichte “Entkleidung” von Frauen und Deepfake-Pornografie, indem sie diese entweder durch Gesetze oder als Arten von schädlichem Inhalt, der von den Sorgfaltspflichten erfasst wird, in den Anwendungsbereich bringt.’

Die derzeit geltenden Gesetze im Vereinigten Königreich beschränken sich auf die Verbreitung von “echten” Bildern, wie z.B. Fälle von Rache-Pornos, in denen vertrauliche und private explizite Materialien von einem Ex-Partner öffentlich verbreitet werden. Wenn ein Peiniger Deepfake-Material erstellt und verbreitet, das die Identität seines “Ziels” in pornografischen Inhalten überlagert, kann er nur dann verfolgt werden, wenn er das Opfer direkt belästigt, indem er das Material direkt an sie richtet, oder unter urheberrechtlichen Gesetzen.

Im ersten Fall bedeutet die Leichtigkeit, mit der neues Deepfake-Inhalt an Popularität gewinnt und Zuschauer sammelt, fast zwangsläufig, dass das Opfer von besorgten Freunden oder unbeteiligten Dritten informiert wird, anstatt von der Person, die es deepfaked, was die Viralität solchen Materials schützt, während die Arbeit des Deepfakers “das Ziel erreicht”.

Im zweiten Fall wäre eine Verfolgung nur wahrscheinlich möglich, wenn ein unverändertes, professionell produziertes und unter dem britischen Urheberrecht geschütztes Drittanbieter-Porno-Video (in das die Identität des Opfers später überlagert wird) verwendet wird (obwohl ein geeignetes Video frei aus jedem rechtlichen Rahmen auf der ganzen Welt bezogen werden kann). Ein “Amateur”-Video aus jedem Rechtsrahmen fehlt es an klarem Urheberrechtsschutz, und ein maßgeschneidertes Video, das der Deepfaker ausdrücklich erstellt hat, um das Opfer hineinzuüberlagern, ist (ironischerweise) selbst unter den Urheberrechtsgesetzen geschützt, solange es anderen Gesetzen entspricht.

Hinter der Kurve

Im Dezember 2021 schlug die britische Law Commission vor, die Hassrede-Gesetze auf sexbasierte Feindseligkeit auszuweiten, aber nicht die Aufnahme von Deepfakes in diese Kategorie, trotz mehrerer Beispiele für die Verwendung dieser Technologie gegen weibliche Politiker und Aktivistinnen auf der ganzen Welt (insbesondere in Indien).

Im März 2021 kritisierte die in Illinois ansässige National Law Review die britischen Rechtsvorschriften als “völlig unzureichend, um Deepfakes zu behandeln” und fehlte es an grundlegenden Rechtsmechanismen, die eine Person vor der Verwendung ihrer Ähnlichkeit schützen.

Deepfake-Gesetze in den Vereinigten Staaten

Im Gegensatz dazu schützt die Vereinigten Staaten ihre Bürger in gewissem Umfang vor der “Recht der Öffentlichkeit”, wenn auch nicht auf Bundesebene (derzeit gibt es solche Gesetze in etwa der Hälfte der US-Bundesstaaten, mit sehr unterschiedlichen Rechtsmechanismen).

Obwohl dies eine Verbesserung gegenüber der Leistung des Vereinigten Königreichs bei der Regulierung von Deepfakes ist, kann die USA nur sporadische, pro-Staat-Abdeckung vorweisen und scheint entschlossen, die potenzielle Manipulation von Deepfakes in der Politik anzusprechen, bevor sie sich mit den Auswirkungen auf private Personen auseinandersetzt.

2019 verbot der Staat Texas die Erstellung oder Verbreitung von politischen Deepfakes mit dem Texas Senate Bill 751 (SB751), ohne eine Aussage über Deepfake-Pornografie zu machen. Im selben Jahr fügte der Staat Virginia eine Änderung zu einem bestehenden Gesetz über die unrechtmäßige Verbreitung oder den Verkauf von Bildern einer anderen Person hinzu, indem er den umfassenden Begriff ‘falsch erstelltes videografisches oder statisches Bild’ anhängte.

2020 verabschiedete der Staat Kalifornien California Assembly Bill 602 (AB 602), der die Erstellung oder Verbreitung von pornografischen Deepfakes verbietet. Der Gesetzentwurf hat keine Auslauffrist, aber eine Verjährungsfrist von drei Jahren und wird von einer separaten Klausel über politische Deepfakes begleitet.

Ende 2020 verabschiedete der Staat New York den Senatsgesetzentwurf S5959D, der nicht nur die Erstellung und Verbreitung von pornografischen Deepfakes verbietet, sondern auch aktiv das Recht einer Person auf Öffentlichkeit in Bezug auf eine computer-generierte Ähnlichkeit durch Deepfakes, CGI oder andere Mittel schützt, selbst nach dem Tod (wenn die betreffende Person zum Zeitpunkt ihres Todes Einwohner von New York war).

Schließlich hat der Staat Maryland seine Gesetze über Kinderpornografie geändert, um die Verwendung von Deepfakes einzuschließen und zu kriminalisieren, ohne die Auswirkungen von Deepfakes auf erwachsene Opfer anzusprechen.

Warten auf “Deepfake-Gate”

Die Geschichte zeigt, dass der Schaden, den neue Technologien verursachen können, persönlich für eine Nation werden muss, um ihre legislative Reaktion zu beschleunigen. Der sehr recente Tod eines Teenager-Mädchens in Ägypten, das angeblich mit Deepfake-Pornografie erpresst wurde, hat in westlichen Medien nur begrenzte Aufmerksamkeit erhalten*, während die Enthüllungen über den Diebstahl von 35 Millionen Dollar in den Vereinigten Arabischen Emiraten, die 2021 ans Licht kamen, auch ein “entferntes Ereignis” darstellen, das die Senatoren nicht zu einer schnelleren Reaktion veranlassen wird.

Wenn die USA eine einheitlichere Haltung gegenüber dem Missbrauch von Deepfake-Technologie einnehmen, würde dies wahrscheinlich zu schnellen Änderungen in der Regulierung von Telekommunikation und Dateninfrastruktur und -speicherung führen, was zu einer schnellen Anpassung der Politik bei den Geschäftspartnern auf der ganzen Welt führen würde. Die Tatsache, dass die Einführung der DSGVO in Europa nicht zu einer Übernahme in der nordamerikanischen Datenverarbeitungs- und -speicherungspolitik führte, bedeutet nicht, dass die EU nicht auch Druck auf die weniger konformen Nationen ausüben könnte, mit denen sie Handel treibt, wenn sie jemals eine entschlossenere legislative Haltung gegenüber der Erstellung, Speicherung und Aufbewahrung von Deepfake-Pornografie einnimmt.

Aber etwas muss zuerst auf “Boden Null” passieren, in einer dieser führenden Ländergruppen; und wir warten noch darauf: eine große Beschlagnahmung von CSAM durch die Behörden; ein großer Raubüberfall, bei dem Audio- und/oder Video-Deepfake-Technologien verwendet werden, um einen amerikanischen Firmenleiter hereinzulegen, eine große Menge Geld zu verlagern; oder ein amerikanisches Äquivalent der zunehmenden Verwendung von Deepfakes, um Frauen in patriarchalischen Ländern zu schädigen (wenn die amerikanische Kultur tatsächlich in der Lage ist, diese Ereignisse zu spiegeln, was fraglich ist). Diese sind schwierige Dinge, die man sich wünschen kann, und gute Dinge, die man vermeiden kann, indem man jede andere Methode anwendet, als den Kopf in den Sand zu stecken oder auf ein “brisanteres” Ereignis zu warten.

Ein zentrales Problem, das die EU derzeit umgeht, indem sie ihre legislative Macht auf Werbeunternehmen richtet, die ihre cleveren und legitimen Deepfakes bewerben wollen, ist, dass Deepfakes schwierig zu erkennen sind; die meisten der Flut von Erkennungsmethoden, die jeden Monat auf arXiv erscheinen, basieren auf Wasserzeichen, blockchain-basierten Verifizierungen oder verändern in irgendeiner Weise die gesamte Infrastruktur, die wir derzeit verwenden, um Videos frei zu konsumieren – Lösungen, die eine radikale rechtliche Überarbeitung des Konzepts von Video als Proxy für “Wahrheit” implizieren. Der Rest wird routinemäßig von den laufenden Fortschritten in den populären Open-Source-Deepfake-Repositorys überholt.

Ein weiteres Problem ist, dass die großen westlichen Nationen in einem Sinne recht haben, wenn sie nicht auf einen einzelnen problematischen Strang in einer Reihe neuer KI-Technologien reagieren, von denen viele immense Vorteile für die Gesellschaft und die Industrie versprechen und von denen viele auf irgendeine Weise beeinträchtigt werden könnten, wenn eine vorschnelle Verurteilung und Regulierung von Bildsynthesesystemen beginnen würde, als Reaktion auf ein wichtiges Ereignis und den daraus resultierenden Aufschrei.

Es könnte jedoch eine gute Idee sein, den langsamen und manchmal ziellosen Weg, den wir gegenüber der Regulierung von Deepfakes gehen, zu beschleunigen und die potenziellen Probleme in der Mitte anzugehen und auf unsere eigenen Bedingungen, anstatt von späteren Ereignissen in eine weniger überlegte Reaktion gezwungen zu werden.

* Die mutmaßlichen Täter werden wegen Erpressung angeklagt; es gibt kein ägyptisches Gesetz, das Deepfake-Pornografie abdeckt.

Erstveröffentlichung: 24. Januar 2022.