China schlägt verstärkte Regulierung von Deepfakes und anderen AI-Synthese-Systemen vor

Die Cyberspace Administration of China (CAC) hat einen neuen Entwurf für Vorschriften vorgeschlagen, um AI-gestützte Synthese-Systeme, einschließlich Deepfakes, virtueller Realitätsszenen, Textgenerierung, Audio und andere Subsektoren der AI-Medien-Synthese zu regulieren – ein Feld, in dem China eine enorme Anzahl akademischer Arbeiten und innovativer Forschungsprojekte jeden Monat produziert.

Ein Beitrag (Google -Übersetzung, Original hier) auf der offiziellen Website der CAC legt die vorgeschlagenen Verpflichtungen dar und bezeichnet die betroffenen Dienste als “Deep-Synthese-Dienstleister”, indem sie die Bürger auffordert, durch die Einreichung von Kommentaren zu den Entwurfsvorschlägen teilzunehmen, mit einer Frist bis zum 28. Februar.

Nicht nur Deepfakes

Obwohl die vorgeschlagenen Vorschriften in Bezug auf ihre potenzielle Auswirkung auf die Erstellung und Verbreitung von Deepfakes berichtet wurden, versucht das Dokument, eine umfassende Übersicht über die Fähigkeit von Algorithmen zu erstellen, jegliche Art von Inhalten zu generieren, die im weit verstandenen Sinne von “Medien” interpretiert werden können.

Artikel 2 erklärt den geplanten Umfang der Vorschriften in sechs Sektoren*:

(1) Techniken für die Generierung oder Bearbeitung von Textinhalten, wie Kapitelgenerierung, Textstilumwandlung und Frage-Antwort-Dialog;

(2) Technologien für die Generierung oder Bearbeitung von Sprachinhalten, wie Text-zu-Sprache, Sprachumwandlung und Sprachattributbearbeitung;

(3) Technologien für die Generierung oder Bearbeitung von nicht-sprachlichen Inhalten, wie Musikgenerierung und Szene-Klangbearbeitung;

(4) Gesichtsgenerierung, Gesichtsersatz, Charakterattributbearbeitung, Gesichtsmanipulation, Gestenmanipulation und andere Technologien für die Generierung oder Bearbeitung von biometrischen Merkmalen wie Gesichtern in Bild- und Videoinhalten;

(5) Techniken für die Bearbeitung von nicht-biologischen Merkmalen in Bild- und Videoinhalten, wie Bildverbesserung und Bildwiederherstellung;

(6) Technologien für die Generierung oder Bearbeitung von virtuellen Szenen wie 3D-Rekonstruktion.

Deepfake-Regulierung

China hat die Verwendung von KI für die Verbreitung von Fake-News Ende 2019 kriminalisiert, als die CAC Bedenken hinsichtlich der potenziellen Auswirkungen von Deepfake-Technologie äußerte, was viele dazu veranlasste, zu glauben, dass die chinesische Regierung Deepfake-Technologie schließlich vollständig verbieten würde.

Es scheint jedoch, dass China nun entschlossen ist, die potenziell schädliche Technologie zu kontrollieren, anstatt sie zu verbieten, was viele glauben, letztendlich aus ihrer Pornophase herauswachsen und in legitime und nutzbare Anwendungsfälle, insbesondere in der Unterhaltungsindustrie, übergehen wird.

NeRF enthalten

Artikel 2.6 behandelt die Generierung oder Bearbeitung von virtuellen Szenen, wie 3D-Rekonstruktion, einer noch jüngeren Technologie als Deepfake-Imitation, und einer, die in den letzten zwei Jahren durch die Einführung von Neural Radiance Fields (NeRF) den meisten Aufmerksamkeit erregt hat, wobei Photogrammetrie verwendet wird, um ganze Szenen im explorable latenten Raum von Machine-Learning-Modellen zu synthetisieren.

NeRF erweitert jedoch rasch seinen Einflussbereich von Modell- und Umgebungs-Darstellungen zu vollständigen Video-Generierungen, wobei chinesische Forscher wichtige Innovationen in dieser Hinsicht vorangetrieben haben.

Chinas ST-NeRF in Aktion.

Obwohl NeRF seit seiner Ankündigung im Jahr 2020 eine Vielzahl neuer Forschungsergebnisse hervorgebracht hat, gibt es bei seiner Implementierung in VR- oder AR-Systemen oder seiner Eignung in visuellen Effektpipelines noch viele bemerkenswerte Herausforderungen und technologische Engpässe zu überwinden. NeRFs wachsende Fähigkeit, vollständige menschliche Physiognomien zu rekonstruieren und zu bearbeiten, hat noch keine der Standard-Identitäts-Transformations-Deepfake-Fähigkeiten integriert, die in den letzten zwei Jahren die Schlagzeilen beherrscht haben.

Audio-Deepfakes eine Priorität?

Wenn man die Reihenfolge von Artikel 2 als Indikation für die Deep-Synthese-Technologien nimmt, die China am meisten kontrollieren und regulieren möchte, würde dies darauf hindeuten, dass textbasierte AI-generierte Fake-News von primärer Bedeutung sind, gefolgt von Sprachsynthese vor Video-Deepfakes in Bezug auf ihre potenzielle Auswirkung.

Wenn dem so ist, stimmt dies mit der Tatsache überein, dass Deepfake-Videos noch nicht für Verbrechen verwendet wurden, die nicht mit Pornografie zusammenhängen (Asien hat nicht gezögert, Deepfake-Pornografie zu kriminalisieren), während Deepfake-Audio in mindestens zwei großen Finanzverbrechen, im Vereinigten Königreich im Jahr 2019 und in den Vereinigten Arabischen Emiraten im Jahr 2021, als aktive Technologie eingesetzt wurde.

Die neuen Entwurfsvorschriften verpflichten Benutzer, die eine Person über die Verwendung von Machine-Learning-Systemen identifizieren möchten, um schriftliche Genehmigung von der betreffenden Person einzuholen. Darüber hinaus müssen synthetisierte Medien ein deutliches Logo oder Wasserzeichen oder andere Mittel anzeigen, durch die der Verbraucher erkennen kann, dass der Inhalt verändert oder vollständig erfunden wurde. Es ist jedoch nicht vollständig klar, wie dies im Falle von Audio-Deepfakes erreicht werden kann.

Registrierung

Wenn die Entwurfsvorschläge ratifiziert werden, würden die Deep-Synthese-Dienstleister verpflichtet, ihre relevanten Anwendungen beim Staat zu registrieren, gemäß den bestehenden Vorschriften für die Verwaltung von Algorithmus-Empfehlungen für Internet-Informationsdienste, und alle notwendigen Anmeldeverfahren einzuhalten. Deep-Synthese-Anbieter werden auch verpflichtet, bei der Aufsicht und Inspektion frei zu kooperieren und auf Anfrage notwendige technische und datenmäßige Unterstützung und Hilfe zu leisten.

Darüber hinaus müssen solche Anbieter benutzerfreundliche Portale für Beschwerden einrichten und erwartete Bearbeitungszeiten für solche Beschwerden veröffentlichen, sowie “Gerücht-widerlegende Mechanismen” anbieten – obwohl die Vorschläge keine Details zur Umsetzung dieses Aspekts liefern.

Verstöße könnten zu Bußgeldern zwischen 10.000 und 100.000 Yuan (1.600 und 16.000 US-Dollar) führen, sowie die verantwortlichen Unternehmen zivil- und strafrechtlichen Klagen aussetzen.

* Übersetzung durch Google Translate, siehe Link am Anfang des Artikels.

Erstveröffentlicht am 28. Januar 2022.