Ευρωπαϊκή και Βρετανική Ρυθμιστική Πρόταση για Deepfakes είναι Εκπληκτικά Περιορισμένες

Ανάλυση Για τους ακτιβιστές που ελπίζουν ότι το 2022 θα μπορούσε να είναι το έτος κατά το οποίο οι deepfakes θα έπεφταν σε ένα αυστηρότερο νομικό πλαίσιο, οι πρώτες ενδείξεις είναι μη ενθαρρυντικές.

Την περασμένη Πέμπτη, το Ευρωπαϊκό Κοινοβούλιο έγκρισε τροποποιήσεις στο Ψηφιακό Νόμο Υπηρεσιών (DSA, που θα τεθεί σε ισχύ το 2023), σχετικά με τη διάδοση των deepfakes. Οι τροποποιήσεις αφορούν τα deepfakes σε δύο ενότητες, οι οποίες σχετίζονται άμεσα με την ऑनलाइन διαφήμιση: η τροποποίηση 1709 που αφορά το Άρθρο 30 και μια σχετική τροποποίηση του άρθρου 63.

Η πρώτη προτείνει ένα εντελώς νέο άρθρο 30α, με τίτλο Deep fakes, το οποίο αναφέρει:

‘Όταν μια πολύ μεγάλη ऑनलाइन πλατφόρμα γίνει αντιληπτή ότι ένα περιεχόμενο είναι γεννημένο ή τροποποιημένο εικόνα, ήχο ή βίντεο που μοιάζει με υπάρχοντα πρόσωπα, αντικείμενα, τόπους ή άλλες οντότητες ή γεγονότα και ψευδώς φαίνεται σε ένα άτομο να είναι αυθεντικό ή αληθινό (deep fakes), ο παρόχων θα πρέπει να επισημάνει το περιεχόμενο με έναν τρόπο που ενημερώνει ότι το περιεχόμενο είναι μη αυθεντικό και ότι είναι σαφώς ορατό για τον παραλήπτη των υπηρεσιών.’

Η δεύτερη προσθέτει κείμενο στο υπάρχον άρθρο 63, το οποίο ασχολείται κυρίως με την αύξηση της διαφάνειας των μεγάλων πλατφορμών διαφήμισης. Το σχετικό κείμενο αναφέρει:

‘Επιπλέον, οι πολύ μεγάλες ऑनलाइन πλατφόρμες θα πρέπει να επισημάνουν οποιαδήποτε γνωστά deep fake βίντεο, ήχους ή άλλα αρχεία.’

Επιδράκως, η νομοθεσία φαίνεται να προετοιμάζεται για την αυξανόμενη πρακτική των ‘νόμιμων deepfakes’, όπου έχει δοθεί άδεια και έχουν εξασφαλιστεί δικαιώματα για την ανταλλαγή προσώπων σε προωθητικό ή διαφημιστικό υλικό – όπως η αδειοδοτημένη χρήση της ταυτότητας του Bruce Willis από τη ρωσική τηλεπικοινωνιακή εταιρεία Telefon σε μια πρόσφατη διαφημιστική καμπάνια.

Διεργασία Νομοθέτησης

Ο DSA, μέχρι τώρα, δεν φαίνεται να απευθύνεται στις ανησυχίες των ακτιβιστών σχετικά με τη χρήση τεχνικών deepfake όπως χρησιμοποιούνται πιο συχνά – για να ξαναδιαμορφώσουν βίντεο πορνογραφίας. Ούτε απευθύνεται στο βαθμό, αν υπάρχει, με τον οποίο η μελλοντική χρήση των deepfakes σε ταινίες και τηλεόραση θα πρέπει να δηλωθεί στους θεατές με τον ίδιο τρόπο όπως οι deepfakes στη διαφήμιση θα δηλωθούν, τουλάχιστον στην ΕΕ, από το 2023.

Η διαδικασία επικύρωσης για τον DSA περνά τώρα στην διαπραγμάτευση με τα κράτη μέλη της ΕΕ, μαζί με τον ευρύτερο σκοπό του Ψηφιακού Νόμου Αγορών (DMA).

Η αναφορά της Europol του Δεκεμβρίου 2020 report Κακόβουλη Χρήση και Κατάχρηση του Τεχνικού Νοού δήλωσε ότι θα ήταν ένα λάθος για την ΕΕ να απευθυνθεί σε συγκεκριμένες τρέχουσες τεχνολογίες deepfake (όπως DeepFaceLive), που θα οδηγούσε σε μια συνεχής ανανέωση των νόμων της ΕΕ για να ταιριάζουν με τις τελευταίες μεθόδους.

Η αναφορά δήλωσε:

‘Συγκεκριμένα, αυτές οι πολιτικές θα πρέπει να είναι τεχνολογικά αδιάκριτες, για να είναι αποτελεσματικές στη μακροπρόθεσμη και να αποφευχθεί η ανάγκη αναθεώρησης και αντικατάστασης αυτών σε τακτά χρονικά διαστήματα, καθώς η τεχνολογία πίσω από τη δημιουργία και την κακοποίηση των deepfakes εξελίσσεται. ‘

‘Ωστόσο, τέτοιες μέτρα θα πρέπει επίσης να αποφεύγουν την εμπόδιση των θετικών εφαρμογών των GANs.’

Η τελευταία παρατήρηση στην παραπάνω αναφορά, σχετικά με Generative Adversarial Networks (GANs), χαρακτηρίζει ευρωπαϊκή και βορειοαμερικανική διστακτικότητα να εφαρμόσουν νόμους που θα μπορούσαν να εμποδίσουν einen αναδυόμενο τομέα τεχνητής νοημοσύνης που ήδη θεωρείται πίσω από την Ασία (οι οποίες έχουν ταχύτατα νομοθετήσει για deepfakes).

Για παράδειγμα, μια αναφορά του 2018 report από την Επιτροπή Επιλογής για την Τεχνητή Νοημοσύνη στη Βουλή των Λόρδων του Ηνωμένου Βασιλείου τονίζει πολλές φορές τον κίνδυνο να επιτρέψουμε τη διστακτικότητα να εμποδίσει την ανάπτυξη της τεχνητής νοημοσύνης στη χώρα, όπως φαίνεται στον τίτλο της: Τεχνητή Νοημοσύνη στο Ηνωμένο Βασίλειο: έτοιμο, πρόθυμο και ικανό; Πέρυσι, η Βρετανία έγινε η πρώτη χώρα που έδωσε πράσινο φως στην ανάπτυξη αυτονομίας οχημάτων σε αυτοκινητόδρομους.

Η Αμερική δεν είναι λιγότερο ενθουσιώδης. στις ΗΠΑ, το Ίδρυμα Brookings υπογράμμισε την ανάγκη για αυξημένη νομοθεσία για την τεχνητή νοημοσύνη στις Ηνωμένες Πολιτείες, κατηγορώντας τους νομοθέτες για τη στάση ‘περιμένουμε και βλέπουμε’ σχετικά με τις επιπτώσεις των τεχνολογιών μηχανικής μάθησης

Εκτός από την αδύναμη προσέγγιση του DSA για την αντιμετώπιση των κοινωνικών (παρά των πολιτικών) ανησυχιών γύρω από τα deepfakes, το προτεινόμενο ρυθμιστικό πλαίσιο της ΕΕ για την τεχνητή νοημοσύνη, που κυκλοφόρησε τον Απρίλιο του 2021, υπέστη άμεση κριτική για την αποφυγή του θέματος.

Λιγότερη Ρύθμιση Deepfake στο Ηνωμένο Βασίλειο

Ως μια επιπλέον απογοήτευση για τους ακτιβιστές κατά των deepfakes, όπως η συγγραφέας Helen Mort, που εκστράτευσε για νέα νομοθεσία στο Ηνωμένο Βασίλειο το 2021 μετά από μη συναισθηματική απεικόνιση σε πορνογραφικά βίντεο deepfake, μια αναφορά που δημοσιεύθηκε σήμερα από την Επιτροπή Ψηφιακής Κουλτούρας, Μέσων και Αθλητισμού του Κοινοβουλίου του Ηνωμένου Βασιλείου κритίζει την κυβέρνηση του Ηνωμένου Βασιλείου για την αποτυχία να αντιμετωπίσει τα deepfakes στο Σχέδιο Νόμου για την Ασφάλεια στο Διαδίκτυο.

Αναφερόμενος στο σχέδιο νόμου που ισχύει σήμερα, η αναφορά υποστηρίζει ότι η νομοθεσία δεν κάνει τίποτα για να αντιμετωπίσει την ‘νόμιμη αλλά βλαβερή’ κατάσταση της τεχνολογίας πορνογραφίας που βοηθάται από την τεχνητή νοημοσύνη:

‘[Συστήνουμε] ότι η Κυβέρνηση πρέπει να αντιμετωπίσει προληπτικά τους τύπους περιεχομένου που είναι τεχνικά νόμιμοι, όπως οι δολιοί τύποι της παιδικής κακοποίησης, όπως το breadcrumbing και οι τύποι της online βίας εναντίον γυναικών και κοριτσιών, όπως η τεχνολογικά ενισχυμένη ‘γυμνότης’ γυναικών και πορνογραφία deepfake, φέρνοντας τους εντός του πεδίου εφαρμογής είτε μέσω πρωτοβάθμιων νομικών διατάξεων είτε ως τύποι επικίνδυνου περιεχομένου που καλύπτονται από τις υποχρεώσεις φροντίδας.’

Το ισχύον δίκαιο στο Ηνωμένο Βασίλειο περιορίζεται στη διάδοση ‘πραγματικών’ εικόνων, όπως περιπτώσεις πορνογραφίας εκδίκησης, όπου, για παράδειγμα, εμπιστευτικό και ιδιωτικό εκπlicit υλικό δημοσιεύεται δημόσια από einen πρώην σύντροφο. Αν ένας δράστης εκτελεί και δημοσιεύει deepfake υλικό που υπερθέτει την ταυτότητα του στόχου σε πορνογραφικό περιεχόμενο, μπορεί να διωχθεί είτε αν τον διατάξει trực tiếp τον στόχο με το υλικό, είτε σύμφωνα με τη νομοθεσία που αφορά τα πνευματικά δικαιώματα.

Στην πρώτη περίπτωση, η ευκολία με την οποία το νέο deepfake περιεχόμενο συγκεντρώνει δράση και θεατές几乎 σίγουρα σημαίνει ότι η θύμα θα ενημερωθεί από τους φίλους ή τους τρίτους, 而 όχι από τον δράστη, επιτρέποντας στην εύρυθμη λειτουργία του deepfake να προστατεύσει τον δράστη, ο οποίος εξακολουθεί να ‘αγγίζει’ τον στόχο.

Στην δεύτερη περίπτωση, η δίωξη θα ήταν πιθανότατα εφικτή μόνο αν ένα μη τροποποιημένο βίντεο πορνογραφίας (στο οποίο η ταυτότητα της θύματος θα ήταν αργότερα υπερθεμένη) ήταν επαγγελματικά παραγόμενο και νόμιμα προστατευμένο στο Ηνωμένο Βασίλειο.

Πίσω από την Καμπύλη

Τον Δεκέμβριο του 2021, η Νομική Επιτροπή του Ηνωμένου Βασιλείου προposed να επεκτείνει τους νόμους μίσους για να καλύψουν τη σεξιστική εχθρότητα, αλλά δεν πρότεινε την ένταξη των deepfakes σε αυτήν την κατηγορία, παρά τις πολλές περιπτώσεις χρήσης αυτής της τεχνολογίας σε όλο τον κόσμο (ιδιαίτερα στην Ινδία) για την uso τους εναντίον γυναικών πολιτικών και ακτιβιστών. Οι γυναίκες είναι περισσότερο το στόχο των deepfake περιεχομένων, είτε οι προθέσεις των deepfakers είναι κοινωνικές (δηλαδή η πρόθεση να εξευτελίσουν, να απομακρύνουν και να αποδυναμώσουν) είτε απλώς πορνογραφικές.

Τον Μάρτιο του 2021, η Ιλινόι-βασισμένη Εθνική Νομική Ανασκόπηση έλαβε το νομικό πλαίσιο του Ηνωμένου Βασιλείου ως ‘ολόκληρο ανεπαρκές’ για την αντιμετώπιση των deepfakes, και ακόμη και έλλειψη βασικών νομικών μηχανισμών που προστατεύουν την ομοιότητα ενός ατόμου.

Νόμοι Deepfake στις Ηνωμένες Πολιτείες

Αντίθετα, οι Ηνωμένες Πολιτείες προστατεύουν τους πολίτες τους ‘Δικαίωμα Δημόσιας Προβολής’, αν και όχι σε ομοσπονδιακό επίπεδο (για τώρα, τέτοιες νομικές διατάξεις υπάρχουν σε περίπου μισά κράτη, με πολύ διαφορετικούς νομικούς μηχανισμούς).

Αν και μια βελτίωση της απόδοσης του Ηνωμένου Βασιλείου στη νομοθεσία για τα deepfakes, οι Ηνωμένες Πολιτείες μπορούν να καυχηθούν μόνο για σποραδική, κατά κράτος κάλυψη, και φαίνεται να αντιμετωπίζουν την τεχνολογία πολιτική χειραγώγηση πριν από την αντιμετώπιση της επίδρασής της σε ιδιωτικά άτομα.

Το 2019, η Πολιτεία του Τέξας απαγόρευσε τη δημιουργία ή τη διάδοση πολιτικών deepfakes, με το Νομοσχέδιο 751 (SB751), παραλείποντας οποιαδήποτε δήλωση σχετικά με την πορνογραφία deepfake. Το ίδιο έτος, η Πολιτεία της Βιρτζίνια πρόσθεσε μια τροποποίηση σε einen υπάρχοντα νόμο (νόμο) σχετικά με την Ανόμητη διάδοση ή πώληση εικόνων άλλου, προσθέτοντας τον ευρύ όρο ‘ψευδώς δημιουργημένο βίντεο ή εικόνα’.

Το 2020, η Πολιτεία της Καλιφόρνιας εξέδωσε Νομοσχέδιο της Συνέλευσης της Καλιφόρνιας 602 (AB 602), απαγορεύοντας τη δημιουργία ή τη διάδοση πορνογραφικών deepfakes. Το Νομοσχέδιο δεν έχει χρονική διάρκεια, αλλά έχει ένα στατιστικό όριο τριών ετών, και συνοδεύεται από μια ξεχωριστή διάταξη που καλύπτει τα πολιτικά deepfakes.

Στο τέλος του 2020, η Πολιτεία της Νέας Υόρκης ψήφισε Νομοσχέδιο Γερουσίας S5959D, το οποίο όχι μόνο απαγορεύει τη δημιουργία και/ή republication πορνογραφικών deepfakes, αλλά επίσης προστατεύει το δικαίωμα ενός ατόμου για δημόσια προβολή σε σχέση με μια υπολογιστικά δημιουργημένη ομοιότητα μέσω deepfakes, CGI, ή άλλων μέσων, ακόμη και μετά τον θάνατο (αν το άτομο ήταν κάτοικος της Νέας Υόρκης την εποχή του θανάτου του).

Τέλος, η Πολιτεία του Μέριλαντ έχει τροποποιήσει τους νόμους της για την παιδική πορνογραφία για να περιλαμβάνει και να ποινικοποιήσει τη χρήση deepfakes, αν και δεν αντιμετωπίζει την επίδραση των deepfakes σε ενήλικες στόχους.

Περιμένοντας το ‘DeepfakeGate’

Η ιστορία δείχνει ότι η ζημιά που μπορεί να προκαλέσει μια νέα τεχνολογία πρέπει να γίνει προσωπική σε μια χώρα για να επιταχύνει την νομοθετική της απάντηση. Ο πολύ πρόσφατος θάνατος ενός νεαρού κοριτσιού στην Αίγυπτο που φέρεται να ήταν θύμα εκβιασμού με deepfake πορνογραφία έχει λάβει περιορισμένη κάλυψη στα δυτικά μέσα ενημέρωσης*, ενώ οι αποκαλύψεις για την κλοπή 35 εκατομμυρίων δολαρίων στα Ηνωμένα Αραβικά Εμιράτα, που καλύφθηκαν το 2021, αντιπροσωπεύουν επίσης ένα ‘μακρινό γεγονός’ που δεν πιθανότατα θα επιταχύνει τη Γερουσία ή θα ανάψει φωτιά κάτω από τις 45 υπόλοιπες πολιτείες που δεν έχουν ακόμη νομοθετήσει για τα deepfakes.

Εάν οι Ηνωμένες Πολιτείες υιοθετήσουν μια πιο ενιαία προσέγγιση για την κακοποίηση της τεχνολογίας deepfake, η ευρεία νομοθεσία θα μπορούσε πιθανότατα να επηρεάσει την διακυβέρνηση της τηλεπικοινωνίας και της υποδομής δεδομένων και αποθήκευσης, οδηγώντας σε γρήγορη αλλαγή πολιτικής που θα επιβληθεί στα επιχειρηματικά τους συνεργάτες σε όλο τον κόσμο. Το γεγονός ότι η υιοθέτηση της ΕΕ της GDPR δεν οδήγησε τελικά σε ‘διασυνοριακή’ πολιτική συλλογής και αποθήκευσης δεδομένων δεν σημαίνει ότι η ΕΕ δεν θα μπορούσε να κερδίσει έλξη над τις λιγότερο συμμορφωμένες χώρες με τις οποίες εμπορεύεται, εάν कभποτε λάβει μια πιο δεσμευμένη νομοθετική στάση για τη δημιουργία, αποθήκευση και διατήρηση πορνογραφικών deepfakes.

Αλλά κάτι πρέπει να συμβεί στο ‘εμπρός’ πρώτα, σε μια από αυτές τις ηγετικές ομάδες χωρών. Και ακόμη περιμένουμε: μια τεράστια σύλληψη CSAM από τις αρχές, μια μεγάλη ληστεία που χρησιμοποιεί ήχο και/ή βίντεο deepfake τεχνολογίες για να εξαπατήσει einen Αμερικανό διευθυντή εταιρείας να κατευθύνει ένα πολύ μεγάλο ποσό χρημάτων, ή ένα Αμερικανικό ισοδύναμο της αυξανόμενης χρήσης deepfakes για να θυματοποιήσει γυναίκες σε πιο πατριαρχικές χώρες (αν, στην πραγματικότητα, ο Αμερικανικός πολιτισμός είναι πραγματικά εξοπλισμένος για να ανταποκριθεί σε αυτά τα γεγονότα, που είναι αμφίβολο). Αυτά είναι δύσκολα πράγματα να ευχηθούμε, και καλά να αποφευχθούν με οποιονδήποτε άλλο τρόπο παρά να περιμένουμε ένα ‘πυροτεχνικό’ γεγονός.

Ένα κεντρικό πρόβλημα, το οποίο η ΕΕ στρέφει τώρα στρέφοντας την νομοθετική της δύναμη στις εταιρείες διαφήμισης που θέλουν να προωθήσουν τις έξυπνες και νόμιμες deepfakes, είναι ότι τα deepfakes παραμένουν δύσκολα να αναγνωριστούν με αλγορίθμους. Οι περισσότερες από τις μεθόδους ανίχνευσης που εμφανίζονται κάθε μήνα στο arXiv εξαρτώνται από την υδρογράφηση, την επαλήθευση με βάση το blockchain ή σε κάποιον άλλο τρόπο την αλλαγή της υποδομής που χρησιμοποιούμε για να καταναλώσουμε ελεύθερα βίντεο – λύσεις που υποδηλώνουν μια ριζική νομική αναθεώρηση της έννοιας του βίντεο ως proxυ για ‘αλήθεια’. Τα υπόλοιπα είναι συνήθως ξεπεράσματα από τις συνεχείς προόδους στις δημοφιλείς ανοιχτές πηγές deepfake.

Ένα άλλο πρόβλημα είναι ότι οι μεγάλες δυτικές χώρες έχουν δίκαιο, σε ένα σημείο, να μην προσφέρουν μια αντίδραση ‘γονάτι’ σε ένα προβληματικό κλωνο σε μια σειρά από νέες τεχνολογίες AI, πολλές από τις οποίες υπόσχονται τεράστια οφέλη για την κοινωνία και την βιομηχανία, και πολλές από τις οποίες θα μπορούσαν να επηρεαστούν δυσμενώς με κάποιον τρόπο εάν μια θερμή απαγόρευση και ρύθμιση των συστημάτων σύνθεσης εικόνας θα ξεκινήσει σοβαρά, ως απάντηση σε ένα σημαντικό γεγονός, και στο επακόλουθο αίτημα.

Ωστόσο, μπορεί να ήταν μια καλή ιδέα να επιταχύνουμε την αργή και μερικές φορές άσκοπη πορεία που κάνουμε προς τη ρύθμιση των deepfakes, και να αντιμετωπίσουμε τα 潜在τικά προβλήματα στο μέσο ground, και με τους δικούς μας όρους, αντί να αναγκάζονται από μεταγενέστερα γεγονότα σε μια λιγότερο σκεφμένη απάντηση.

* Οι υποτιθέμενοι δράστες κατηγορούνται για εκβιασμό. Δεν υπάρχει αιγυπτιακός νόμος που καλύπτει την πορνογραφία deepfake.

Πρώτη δημοσίευση 24ης Ιανουαρίου 2022.