Die flüchtige Definition von ‘Deepfake’

Eine überzeugende neue Studie aus Deutschland kritisiert die Definition des Begriffs ‘Deepfake’ im EU-AI-Gesetz als zu vage, insbesondere im Kontext der digitalen Bildmanipulation. Die Autoren argumentieren, dass der Schwerpunkt des Gesetzes auf Inhalten, die reale Personen oder Ereignisse ähneln, aber möglicherweise falsch erscheinen, an Klarheit fehlt.

Sie heben auch hervor, dass die Ausnahmen des Gesetzes für ‘Standardbearbeitung’ (d. h. vermeintlich geringe AI-gestützte Änderungen an Bildern) weder die weit verbreitete Einflussnahme von AI in Consumer-Anwendungen noch die subjektive Natur von künstlerischen Konventionen berücksichtigen, die der Einführung von AI vorausgehen.

Unpräzise Gesetzgebung in diesen Fragen führt zu zwei wichtigen Risiken: einem ‘chilling effect’, bei dem der weite interpretative Spielraum des Gesetzes Innovation und die Einführung neuer Systeme behindert; und einem ‘scofflaw effect’, bei dem das Gesetz als übergriffig oder irrelevant angesehen wird.

In beiden Fällen verschieben vage Gesetze die Verantwortung für die Festlegung praktischer rechtlicher Definitionen auf zukünftige Gerichtsentscheidungen – ein vorsichtiger und risikoscheuer Ansatz in der Gesetzgebung.

AI-basierte Bildmanipulationstechnologien bleiben bemerkenswerterweise vor der Fähigkeit des Gesetzes, sie anzusprechen. Zum Beispiel ist ein bemerkenswertes Beispiel für die wachsende Elastizität des Konzepts von AI-getriebener ‘automatischer’ Nachbearbeitung, wie die Studie feststellt, die ‘Scene Optimizer’-Funktion in aktuellen Samsung-Kameras, die Benutzerbilder des Mondes (ein schwieriges Motiv) durch ein AI-getriebenes, ‘verfeinertes’ Bild ersetzen kann:

Top links, ein Beispiel aus der neuen Studie eines realen Benutzerbildes des Mondes, links von einem von Samsung optimierten Version, das automatisch mit Scene Optimizer erstellt wurde; Rechts, Samsungs offizielles Illustration des Prozesses dahinter; unten links, Beispiele von Reddit-Benutzer u/ibreakphotos, die (links) ein absichtlich verwischtes Bild des Mondes und (rechts) Samsungs Neudarstellung dieses Bildes zeigen – obwohl das Quellbild ein Bild eines Monitors und nicht der echte Mond war. Quellen (im Uhrzeigersinn von oben links): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https:/reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

… (rest of the content remains the same, following the exact same structure and translation rules)