China schlägt verstärkte Regulierung von Deepfakes und anderen AI-Synthese-Systemen vor

Die Cyberspace Administration of China (CAC) hat einen neuen Satz von Entwurfsregulierungen vorgeschlagen, um AI-gestützte Synthesesysteme zu regeln, einschließlich Deepfakes, virtueller Realitätsszenen, Textgenerierung, Audio und andere Subsektoren der AI-MedienSynthese – ein Feld, in dem China jeden Monat eine enorme Anzahl akademischer Arbeiten und innovativer Forschungsprojekte produziert.

Ein Beitrag (Google-Übersetzung, Original hier) auf der offiziellen Website der CAC legt die vorgeschlagenen Verpflichtungen dar und bezeichnet die betroffenen Dienste als “Deep-Synthese-Dienstleister”, wobei die Bürger aufgerufen werden, durch die Abgabe von Kommentaren zu den Entwurfsvorschlägen teilzunehmen, mit einer Frist bis zum 28. Februar.

Nicht nur Deepfakes

Obwohl die vorgeschlagenen Regulierungen in Bezug auf ihre mögliche Auswirkung auf die Erstellung und Verbreitung von Deepfakes berichtet wurden, versucht das Dokument, eine umfassende Übersicht über die Fähigkeit von Algorithmen zu erstellen, jede Art von Inhalten zu generieren, die im weit verstandenen Sinne von “Medien” interpretiert werden können.

Artikel 2 erklärt den beabsichtigten Umfang der Regulierungen in sechs Sektoren*:

(1) Techniken zur Generierung oder Bearbeitung von Textinhalten, wie Kapitelgenerierung, Textstilumwandlung und Frage-und-Antwort-Dialog;

(2) Technologien zur Generierung oder Bearbeitung von Sprachinhalten, wie Text-zu-Sprache, Sprachumwandlung und Sprachattributbearbeitung;

(3) Technologien zur Generierung oder Bearbeitung von nicht-sprachlichen Inhalten, wie Musikgenerierung und Szenenklangerbearbeitung;

(4) Gesichtsgenerierung, Gesichtsersatz, Charakterattributbearbeitung, Gesichtsmanipulation, Gestenmanipulation und andere Technologien zur Generierung oder Bearbeitung biometrischer Merkmale wie Gesichter in Bild- und Videoinhalten;

(5) Techniken zur Bearbeitung nicht-biologischer Merkmale in Bild- und Videoinhalten, wie Bildverbesserung und Bildwiederherstellung;

(6) Technologien zur Generierung oder Bearbeitung von virtuellen Szenen wie 3D-Rekonstruktion.

Regulierung von Deepfakes

China hat die Verwendung von KI für die Verbreitung von Fake-News Ende 2019 kriminalisiert, als die CAC Bedenken hinsichtlich der möglichen Auswirkungen von Deepfake-Technologie äußerte, was viele dazu veranlasste, zu erwarten, dass die chinesische Regierung Deepfake-Technologie schließlich vollständig verbieten würde.

Allerdings würde dies bedeuten, dass China offiziell eine der politisch und kulturell bedeutendsten Entwicklungen in der Geschichte der Mediengenerierung, KI und sogar Politik aufgeben und sich von den Vorteilen globaler und offener wissenschaftlicher Zusammenarbeit abschneiden würde.

Daher scheint es, dass China nun entschlossen ist, die Kontrolle über die potenziell schädliche Technologie zu erlangen, anstatt sie zu verbieten, was viele glauben, letztendlich aus ihrer Porn-Beschleunigungsphase in eine legitime und nutzbare Reihe von Anwendungsfällen migrieren wird, insbesondere in der Unterhaltungsindustrie.

NeRF Included

Artikel 2.6 behandelt die Generierung oder Bearbeitung von virtuellen Szenen, wie 3D-Rekonstruktion, einer noch jüngeren Technologie als Deepfake-Imitation, und einer, die in den letzten zwei Jahren durch die Einführung von Neural Radiance Fields (NeRF) den meisten Aufsehen erregt hat, wo Photogrammetrie verwendet wird, um ganze Szenen in dem explorable latenten Raum von Machine-Learning-Modellen zu synthetisieren.

Allerdings expandiert NeRF rasch seine Reichweite von Tableaus von Modellen und Umgebungen in die Generierung von Vollkörper-Video, wobei chinesische Forscher einige bedeutende Innovationen in dieser Hinsicht vorangetrieben haben.

Chinas ST-NeRF in Aktion.

Obwohl NeRF seit seiner Ankündigung im Jahr 2020 eine Vielzahl neuer Forschung hervorgebracht hat, hat seine Implementierung in VR- oder AR-Systemen oder seine Eignung in visuellen Effektpipelines noch viele bemerkenswerte Herausforderungen und technologische Engpässe zu überwinden. NeRFs wachsende Fähigkeit, komplette menschliche Physiognomien zu rekonstituieren und zu bearbeiten, hat noch keine der Standard-Identitäts-transformierenden Deepfake-Fähigkeiten integriert, die die Schlagzeilen der letzten zwei Jahre geprägt haben.

Audio-Deepfakes eine Priorität?

Wenn man den Liste-Reihenfolge von Artikel 2 als Indikation für die Deep-Synthese-Technologien nehmen kann, die China am meisten kontrollieren und regulieren möchte, würde dies darauf hindeuten, dass textbasierte AI-generierte Fake-News von primärer Bedeutung sind, mit Sprachsynthese vor Video-Deepfakes in Bezug auf ihre mögliche Auswirkung.

Wenn dies der Fall ist, stimmt dies mit der Tatsache überein, dass Deepfake-Video noch nicht in einem Verbrechen verwendet wurde, das nicht mit Pornografie zusammenhängt (Asien hat nicht gezögert, Deepfake-Pornografie zu kriminalisieren), während Deepfake-Audio in mindestens zwei großen Finanzverbrechen posiert wurde, in Großbritannien 2019 und in den Vereinigten Arabischen Emiraten 2021.

Die neuen Entwurfsregulierungen verpflichten Benutzer, die die Identität einer Person durch den Einsatz von Machine-Learning-Systemen ausnutzen möchten, um die schriftliche Zustimmung der Person einzuholen. Zusätzlich müssen synthetisierte Medien ein bestimmtes “prominentes” Logo oder Wasserzeichen oder andere Mittel anzeigen, durch die der Person, die das Material konsumiert, verständlich gemacht werden kann, dass der Inhalt verändert oder vollständig erfunden ist. Es ist nicht ganz klar, wie dies im Falle von Audio-Deepfakes erreicht werden kann.

Registrierung

Wenn die Entwurfsvorschläge ratifiziert werden, würden sie die Deep-Synthese-Dienstleister verpflichten, ihre relevanten Anwendungen beim Staat zu registrieren, in Übereinstimmung mit den bestehenden Bestimmungen über die Verwaltung von Algorithmus-Empfehlungen für Internet-Informationsdienste, und alle notwendigen Anmeldeverfahren einzuhalten. Deep-Synthese-Anbieter würden auch verpflichtet sein, freiwillig bei der Überwachung und Inspektion mitzuarbeiten und “notwendige technische und datenbasierte Unterstützung und Hilfe” auf Anfrage bereitzustellen.

Weiterhin würden solche Anbieter benutzerfreundliche Portale für Beschwerden einrichten und die erwarteten Bearbeitungszeiten für solche Beschwerden veröffentlichen, sowie “Mechanismen zur Widerlegung von Gerüchten” anbieten müssen – obwohl die Vorschläge keine Details zur Umsetzung davon liefern.

Verstöße könnten zu Geldstrafen zwischen 10.000 und 100.000 Yuan ($1.600 und $16.000) führen, sowie die verantwortlichen Unternehmen zivil- und strafrechtlichen Klagen aussetzen.

* Übersetzung durch Google Translate, siehe Link am Anfang des Artikels.

Erstveröffentlicht am 28. Januar 2022.