Andersons Blickwinkel

China schlägt verstärkte Regulierung von Deepfakes und anderen AI-Synthese-Systemen vor

Martin Anderson
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteChinas Entwurf von Vorschriften zielt auf sechs KI-Synthesebereiche ab, darunter Text…
Mehr anzeigen
  • Chinas Entwurf von Vorschriften zielt auf sechs KI-Synthesebereiche ab, darunter Text, Sprache und 3D-Rekonstruktion.
  • Anbieter müssen alle synthetisierten Medien mit Wasserzeichen versehen und eine schriftliche Genehmigung für die Nutzung von Identitäten einholen.
  • Verstöße, die es versäumen, Deep-Synthesis-Dienste zu registrieren, drohen Geldstrafen von bis zu 100.000 Yuan.

Die Cyberspace Administration of China (CAC) hat einen neuen Entwurf für Vorschriften vorgeschlagen, um AI-gestützte Synthese-Systeme, einschließlich Deepfakes, virtueller Realitätsszenen, Textgenerierung, Audio und andere Subsektoren der AI-Medien-Synthese zu regulieren – ein Feld, in dem China eine enorme Anzahl akademischer Arbeiten und innovativer Forschungsprojekte jeden Monat produziert.

Ein Beitrag (Google -Übersetzung, Original hier) auf der offiziellen Website der CAC legt die vorgeschlagenen Verpflichtungen dar und bezeichnet die betroffenen Dienste als “Deep-Synthese-Dienstleister”, indem sie die Bürger auffordert, durch die Einreichung von Kommentaren zu den Entwurfsvorschlägen teilzunehmen, mit einer Frist bis zum 28. Februar.

Nicht nur Deepfakes

Obwohl die vorgeschlagenen Vorschriften in Bezug auf ihre potenzielle Auswirkung auf die Erstellung und Verbreitung von Deepfakes berichtet wurden, versucht das Dokument, eine umfassende Übersicht über die Fähigkeit von Algorithmen zu erstellen, jegliche Art von Inhalten zu generieren, die im weit verstandenen Sinne von “Medien” interpretiert werden können.

Artikel 2 erklärt den geplanten Umfang der Vorschriften in sechs Sektoren*:

(1) Techniken für die Generierung oder Bearbeitung von Textinhalten, wie Kapitelgenerierung, Textstilumwandlung und Frage-Antwort-Dialog;

(2) Technologien für die Generierung oder Bearbeitung von Sprachinhalten, wie Text-zu-Sprache, Sprachumwandlung und Sprachattributbearbeitung;

(3) Technologien für die Generierung oder Bearbeitung von nicht-sprachlichen Inhalten, wie Musikgenerierung und Szene-Klangbearbeitung;

(4) Gesichtsgenerierung, Gesichtsersatz, Charakterattributbearbeitung, Gesichtsmanipulation, Gestenmanipulation und andere Technologien für die Generierung oder Bearbeitung von biometrischen Merkmalen wie Gesichtern in Bild- und Videoinhalten;

(5) Techniken für die Bearbeitung von nicht-biologischen Merkmalen in Bild- und Videoinhalten, wie Bildverbesserung und Bildwiederherstellung;

(6) Technologien für die Generierung oder Bearbeitung von virtuellen Szenen wie 3D-Rekonstruktion.

Deepfake-Regulierung

China hat die Verwendung von KI für die Verbreitung von Fake-News Ende 2019 kriminalisiert, als die CAC Bedenken hinsichtlich der potenziellen Auswirkungen von Deepfake-Technologie äußerte, was viele dazu veranlasste, zu glauben, dass die chinesische Regierung Deepfake-Technologie schließlich vollständig verbieten würde.

Ein vollständiges Verbot würde jedoch bedeuten, dass China eine der politisch und kulturell bedeutendsten Entwicklungen in der Geschichte der Mediengenerierung, der KI und sogar der Politik offiziell aufgäbe und sich von den Vorteilen globaler, offener wissenschaftlicher Zusammenarbeit abschnitte.

Deshalb scheint China nun entschlossen zu sein, die potenziell schädliche Technologie zu kontrollieren, anstatt sie zu verbieten, was viele glauben, letztendlich aus ihrer von Pornografie angetriebenen Entwicklungsphase herauswachsen und in legitime und nutzbare Anwendungsfälle, insbesondere in der Unterhaltungsindustrie, übergehen wird.

NeRF enthalten

Artikel 2.6 behandelt die Generierung oder Bearbeitung von virtuellen Szenen, wie 3D-Rekonstruktion, einer noch jüngeren Technologie als Deepfake-Imitation, und einer, die in den letzten zwei Jahren durch die Einführung von Neural Radiance Fields (NeRF) die meiste Aufmerksamkeit erregt hat, wobei Photogrammetrie verwendet wird, um ganze Szenen im erkundbaren latenten Raum von Machine-Learning-Modellen zu synthetisieren.

NeRF erweitert jedoch rasch seinen Einflussbereich von statischen Modelldarstellungen und begehbaren Umgebungen zur Erzeugung von Ganzkörpervideos, wobei chinesische Forscher wichtige Innovationen in dieser Hinsicht vorangetrieben haben.

ST-NeRF

Chinas ST-NeRF in Aktion.

Obwohl NeRF seit seiner Ankündigung im Jahr 2020 eine Vielzahl neuer Forschungsergebnisse hervorgebracht hat, gibt es bei seiner Implementierung in VR- oder AR-Systemen oder seiner Eignung in visuellen Effektpipelines noch viele bemerkenswerte Herausforderungen und technologische Engpässe zu überwinden. NeRFs wachsende Fähigkeit, vollständige menschliche Physiognomien zu rekonstruieren und zu bearbeiten, hat noch keine der Standard-Identitäts-Transformations-Deepfake-Fähigkeiten integriert, die in den letzten zwei Jahren die Schlagzeilen beherrscht haben.

Audio-Deepfakes eine Priorität?

Wenn man die Reihenfolge von Artikel 2 als Indikation für die Deep-Synthese-Technologien nimmt, die China am meisten kontrollieren und regulieren möchte, würde dies darauf hindeuten, dass textbasierte AI-generierte Fake-News von primärer Bedeutung sind, gefolgt von Sprachsynthese vor Video-Deepfakes in Bezug auf ihre potenzielle Auswirkung.

Wenn dem so ist, stimmt dies mit der Tatsache überein, dass Deepfake-Videos noch nicht für Verbrechen verwendet wurden, die nicht mit Pornografie zusammenhängen (Asien hat nicht gezögert, Deepfake-Pornografie zu kriminalisieren), während Deepfake-Audio in mindestens zwei großen Finanzverbrechen, im Vereinigten Königreich im Jahr 2019 und in den Vereinigten Arabischen Emiraten im Jahr 2021, als aktiv genutzte Technologie vermutet wurde.

Die neuen Entwurfsvorschriften verpflichten Benutzer, die die Identität einer Person mithilfe von Machine-Learning-Systemen nutzen möchten, um schriftliche Genehmigung von der betreffenden Person einzuholen. Darüber hinaus müssen synthetisierte Medien ein deutliches Logo oder Wasserzeichen oder andere Mittel anzeigen, durch die der Verbraucher erkennen kann, dass der Inhalt verändert oder vollständig erfunden wurde. Es ist jedoch nicht vollständig klar, wie dies im Falle von Audio-Deepfakes erreicht werden kann.

Registrierung

Wenn die Entwurfsvorschläge ratifiziert werden, würden die Deep-Synthese-Dienstleister verpflichtet, ihre relevanten Anwendungen beim Staat zu registrieren, gemäß den bestehenden Vorschriften für die Verwaltung von Algorithmus-Empfehlungen für Internet-Informationsdienste, und alle notwendigen Anmeldeverfahren einzuhalten. Deep-Synthese-Anbieter werden auch verpflichtet, bei der Aufsicht und Inspektion frei zu kooperieren und auf Anfrage notwendige technische und datenmäßige Unterstützung und Hilfe zu leisten.

Darüber hinaus müssen solche Anbieter benutzerfreundliche Portale für Beschwerden einrichten und erwartete Bearbeitungszeiten für solche Beschwerden veröffentlichen, sowie “Gerücht-widerlegende Mechanismen” anbieten – obwohl die Vorschläge keine Details zur Umsetzung dieses Aspekts liefern.

Verstöße könnten zu Bußgeldern zwischen 10.000 und 100.000 Yuan (1.600 und 16.000 US-Dollar) führen, sowie die verantwortlichen Unternehmen zivil- und strafrechtlichen Klagen aussetzen.

 

* Übersetzung durch Google Translate, siehe Link am Anfang des Artikels.

Erstveröffentlicht am 28. Januar 2022.

Autor im Bereich maschinelles Lernen, Fachspezialist für menschliche Bildsynthese. Ehemaliger Leiter der Forschungsinhalte bei Metaphysic.ai, bis zu seiner Auflösung in DNEG's Brahma.ai.
Website: martinanderson.ai
Kontakt: martin@martinanderson.ai