Η γωνία του Anderson
Οι ευρωπαϊκές και βρετανικές προτάσεις ρύθμισης των deepfake είναι εκπληκτικά περιορισμένες

Βασικά σημείαΗ ρύθμιση της ΕΕ για τα deepfake στοχεύει στη διαφήμιση, αλλά αγνοεί εντελώς την…
Δείτε περισσότερα
- Η ρύθμιση της ΕΕ για τα deepfake στοχεύει στη διαφήμιση, αλλά αγνοεί εντελώς την πορνογραφία χωρίς συναίνεση.
- Το βρετανικό δίκαιο δεν μπορεί να διώξει την πορνογραφία deepfake, εκτός εάν το θύμα παρενοχλείται άμεσα από τον δημιουργό.
- Πολιτείες των ΗΠΑ όπως η Καλιφόρνια και η Νέα Υόρκη απαγορεύουν την πορνογραφία deepfake, αλλά οι περισσότερες πολιτείες εξακολουθούν να μην έχουν κανέναν νόμο.
Ανάλυση Για τους ακτιβιστές που ελπίζουν ότι το 2022 θα μπορούσε να είναι το έτος κατά το οποίο οι deepfakes θα έπεφταν σε ένα αυστηρότερο νομικό πλαίσιο, οι πρώτες ενδείξεις είναι μη ενθαρρυντικές.
Την περασμένη Πέμπτη, το Ευρωπαϊκό Κοινοβούλιο έγκρισε τροποποιήσεις στο Ψηφιακό Νόμο Υπηρεσιών (DSA, που θα τεθεί σε ισχύ το 2023), σχετικά με τη διάδοση των deepfakes. Οι τροποποιήσεις αφορούν τα deepfakes σε δύο ενότητες, οι οποίες σχετίζονται άμεσα με την διαδικτυακή διαφήμιση: η τροποποίηση 1709 που αφορά το Άρθρο 30 και μια σχετική τροποποίηση του άρθρου 63.
Η πρώτη προτείνει ένα εντελώς νέο άρθρο 30α, με τίτλο Deep fakes, το οποίο αναφέρει:
‘Όταν μια πολύ μεγάλη διαδικτυακή πλατφόρμα αντιληφθεί ότι ένα περιεχόμενο είναι παραγόμενο ή τροποποιημένο οπτικό, ηχητικό ή βιντεοληπτικό υλικό που μοιάζει με υπάρχοντα πρόσωπα, αντικείμενα, τόπους ή άλλες οντότητες ή γεγονότα και ψευδώς φαίνεται σε ένα άτομο να είναι αυθεντικό ή αληθινό (deep fakes), ο παρόχων θα πρέπει να επισημάνει το περιεχόμενο με έναν τρόπο που ενημερώνει ότι το περιεχόμενο είναι μη αυθεντικό με σήμανση σαφώς ορατή στον παραλήπτη των υπηρεσιών.’
Η δεύτερη προσθέτει κείμενο στο υπάρχον άρθρο 63, το οποίο ασχολείται κυρίως με την αύξηση της διαφάνειας των μεγάλων πλατφορμών διαφήμισης. Το σχετικό κείμενο αναφέρει:
‘Επιπλέον, οι πολύ μεγάλες διαδικτυακές πλατφόρμες θα πρέπει να επισημάνουν οποιαδήποτε γνωστά deep fake βίντεο, ήχους ή άλλα αρχεία.’
Στην πράξη, η νομοθεσία φαίνεται να προετοιμάζεται για την αυξανόμενη πρακτική των ‘νόμιμων deepfakes’, όπου έχει δοθεί άδεια και έχουν εξασφαλιστεί δικαιώματα για την ανταλλαγή προσώπων σε προωθητικό ή διαφημιστικό υλικό – όπως η αδειοδοτημένη χρήση της ταυτότητας του Bruce Willis από τη ρωσική τηλεπικοινωνιακή εταιρεία Telefon σε μια πρόσφατη διαφημιστική καμπάνια.
Δισταγμός για νομοθέτηση
Ο DSA, μέχρι τώρα, δεν φαίνεται να απευθύνεται στις ανησυχίες των ακτιβιστών σχετικά με τη χρήση τεχνικών deepfake όπως χρησιμοποιούνται συχνότερα — για την αντικατάσταση προσώπων των ερμηνευτών σε πορνογραφικά βίντεο. Ούτε απευθύνεται στο βαθμό, αν υπάρχει, με τον οποίο η μελλοντική χρήση των deepfakes σε ταινίες και τηλεόραση θα πρέπει να δηλωθεί στους θεατές με τον ίδιο τρόπο όπως οι deepfakes στη διαφήμιση θα δηλωθούν, τουλάχιστον στην ΕΕ, από το 2023.
Η διαδικασία επικύρωσης για τον DSA περνά τώρα στην διαπραγμάτευση με τα κράτη μέλη της ΕΕ, μαζί με τον ευρύτερο σκοπό του Ψηφιακού Νόμου Αγορών (DMA).
Η αναφορά της Europol του Δεκεμβρίου 2020 έκθεση Κακόβουλες χρήσεις και καταχρήσεις της τεχνητής νοημοσύνης δήλωσε ότι θα ήταν ένα λάθος για την ΕΕ να απευθυνθεί σε συγκεκριμένες τρέχουσες τεχνολογίες deepfake (όπως DeepFaceLive), που θα οδηγούσε σε μια συνεχής ανανέωση των νόμων της ΕΕ για να ταιριάζουν με τις τελευταίες μεθόδους.
Η έκθεση ανέφερε:
‘Συγκεκριμένα, αυτές οι πολιτικές θα πρέπει να είναι ουδέτερες ως προς την τεχνολογία, για να είναι αποτελεσματικές στη μακροπρόθεσμη και να αποφευχθεί η ανάγκη αναθεώρησης και αντικατάστασης αυτών σε τακτά χρονικά διαστήματα, καθώς η τεχνολογία πίσω από τη δημιουργία και την κακοποίηση των deepfakes εξελίσσεται. ‘
‘Ωστόσο, τέτοιες μέτρα θα πρέπει επίσης να αποφεύγουν την εμπόδιση των θετικών εφαρμογών των GANs.’
Η τελευταία παρατήρηση στην παραπάνω αναφορά, σχετικά με Generative Adversarial Networks (GANs), χαρακτηρίζει ευρωπαϊκή και βορειοαμερικανική διστακτικότητα να εφαρμόσουν νόμους που θα μπορούσαν να εμποδίσουν έναν αναδυόμενο τομέα τεχνητής νοημοσύνης που ήδη θεωρείται πίσω από την Ασία (οι οποίες έχουν ταχύτατα νομοθετήσει για deepfakes).
Για παράδειγμα, μια αναφορά του 2018 έκθεση από την Επιτροπή Επιλογής για την Τεχνητή Νοημοσύνη στη Βουλή των Λόρδων του Ηνωμένου Βασιλείου τονίζει πολλές φορές τον κίνδυνο να επιτρέψουμε τη διστακτικότητα να εμποδίσει την ανάπτυξη της τεχνητής νοημοσύνης στη χώρα, όπως φαίνεται στον τίτλο της: Τεχνητή Νοημοσύνη στο Ηνωμένο Βασίλειο: έτοιμο, πρόθυμο και ικανό; Τον προηγούμενο Απρίλιο, η Βρετανία έγινε η πρώτη χώρα που έδωσε πράσινο φως στην κυκλοφορία αυτοοδηγούμενων οχημάτων σε αυτοκινητόδρομους.
Η Αμερική δεν είναι λιγότερο ενθουσιώδης. στις ΗΠΑ, το Ίδρυμα Brookings υπογράμμισε την ανάγκη για αυξημένη νομοθεσία για την τεχνητή νοημοσύνη στις Ηνωμένες Πολιτείες, κατηγορώντας τους νομοθέτες για τη στάση ‘περιμένουμε και βλέπουμε’ σχετικά με τις επιπτώσεις των τεχνολογιών μηχανικής μάθησης
Εκτός από την αδύναμη προσέγγιση του DSA για την αντιμετώπιση των κοινωνικών (παρά των πολιτικών) ανησυχιών γύρω από τα deepfakes, το προτεινόμενο ρυθμιστικό πλαίσιο της ΕΕ για την τεχνητή νοημοσύνη, που κυκλοφόρησε τον Απρίλιο του 2021, υπέστη άμεση κριτική για την αποφυγή του θέματος.
Λιγότερη Ρύθμιση Deepfake στο Ηνωμένο Βασίλειο
Ως μια επιπλέον απογοήτευση για τους ακτιβιστές κατά των deepfakes, όπως η συγγραφέας Helen Mort, που εκστράτευσε για νέα νομοθεσία στο Ηνωμένο Βασίλειο το 2021 μετά από απεικόνισή της χωρίς συναίνεση σε πορνογραφικά βίντεο deepfake, μια αναφορά που δημοσιεύθηκε σήμερα από την Επιτροπή Ψηφιακής Κουλτούρας, Μέσων και Αθλητισμού του Κοινοβουλίου του Ηνωμένου Βασιλείου επικρίνει την κυβέρνηση του Ηνωμένου Βασιλείου για την αποτυχία να αντιμετωπίσει τα deepfakes στο Σχέδιο Νόμου για την Ασφάλεια στο Διαδίκτυο.
Χαρακτηρίζοντας τα σημερινά ένδικα μέσα του σχεδίου νόμου κατά της κατάχρησης deepfake ως «ασαφή και μη εφαρμόσιμα», η έκθεση υποστηρίζει ότι η νομοθεσία δεν κάνει τίποτα για να αντιμετωπίσει την ‘νόμιμη αλλά βλαβερή’ κατάσταση της τεχνολογίας πορνογραφίας που βοηθάται από την τεχνητή νοημοσύνη:
‘[Συστήνουμε] ότι η Κυβέρνηση πρέπει να αντιμετωπίσει προληπτικά τους τύπους περιεχομένου που είναι τεχνικά νόμιμοι, όπως οι δολιοί τύποι της παιδικής κακοποίησης, όπως το breadcrumbing και οι τύποι της online βίας εναντίον γυναικών και κοριτσιών, όπως η τεχνολογικά ενισχυμένη ‘γυμνότης’ γυναικών και πορνογραφία deepfake, φέρνοντας τους εντός του πεδίου εφαρμογής είτε μέσω πρωτοβάθμιων νομικών διατάξεων είτε ως τύποι επικίνδυνου περιεχομένου που καλύπτονται από τις υποχρεώσεις φροντίδας.’
Το ισχύον δίκαιο στο Ηνωμένο Βασίλειο περιορίζεται στη διάδοση ‘πραγματικών’ εικόνων, όπως περιπτώσεις πορνογραφίας εκδίκησης, όπου, για παράδειγμα, εμπιστευτικό και ιδιωτικό σεξουαλικά ρητό υλικό δημοσιεύεται δημόσια από έναν πρώην σύντροφο. Αν ένας δράστης εκτελεί και δημοσιεύει deepfake υλικό που υπερθέτει την ταυτότητα του στόχου σε πορνογραφικό περιεχόμενο, μπορεί να διωχθεί μόνον αν παρενοχλεί άμεσα τον στόχο στέλνοντάς του το υλικό, είτε σύμφωνα με τη νομοθεσία που αφορά τα πνευματικά δικαιώματα.
Στην πρώτη περίπτωση, η ευκολία με την οποία το νέο deepfake περιεχόμενο προσελκύει προσοχή και θεατές σχεδόν αναπόφευκτα σημαίνει ότι το θύμα θα ενημερωθεί από τους φίλους ή τους τρίτους, και όχι από τον δράστη, επιτρέποντας στην ταχεία διάδοση του υλικού να προστατεύσει τον δράστη, ο οποίος εξακολουθεί να ‘αγγίζει’ τον στόχο.
Στη δεύτερη περίπτωση, η δίωξη θα ήταν πιθανότατα εφικτή μόνο αν ένα μη τροποποιημένο πορνογραφικό βίντεο τρίτου, στο οποίο αργότερα υπερτίθεται η ταυτότητα του θύματος, είχε παραχθεί επαγγελματικά και προστατευόταν νόμιμα από το βρετανικό δίκαιο πνευματικής ιδιοκτησίας. Αυτό ισχύει ακόμη κι αν ένα κατάλληλο βίντεο μπορεί να βρεθεί ελεύθερα από οποιαδήποτε δικαιοδοσία στον κόσμο. Ένα ερασιτεχνικό βίντεο από οποιαδήποτε δικαιοδοσία δεν έχει σαφές καθεστώς πνευματικών δικαιωμάτων. Ένα ειδικά γυρισμένο βίντεο του δημιουργού deepfake, με σκοπό να ενσωματώσει το θύμα, προστατεύεται ειρωνικά το ίδιο από τα πνευματικά δικαιώματα, εφόσον συμμορφώνεται με τους άλλους νόμους.
Πίσω από την Καμπύλη
Τον Δεκέμβριο του 2021, η Νομική Επιτροπή του Ηνωμένου Βασιλείου πρότεινε να επεκτείνει τους νόμους μίσους για να καλύψουν τη σεξιστική εχθρότητα, αλλά δεν πρότεινε την ένταξη των deepfakes σε αυτήν την κατηγορία, παρά τις πολλές περιπτώσεις χρήσης αυτής της τεχνολογίας σε όλο τον κόσμο (ιδιαίτερα στην Ινδία) για τη χρήση της εναντίον γυναικών πολιτικών και ακτιβιστών. Οι γυναίκες είναι περισσότερο το στόχο των deepfake περιεχομένων, είτε οι προθέσεις των deepfakers είναι κοινωνικές (δηλαδή η πρόθεση να εξευτελίσουν, να απομακρύνουν και να αποδυναμώσουν) είτε απλώς πορνογραφικές.
Τον Μάρτιο του 2021, η Ιλινόι-βασισμένη Εθνική Νομική Ανασκόπηση επέκρινε το νομικό πλαίσιο του Ηνωμένου Βασιλείου ως ‘ολόκληρο ανεπαρκές’ για την αντιμετώπιση των deepfakes, και ακόμη και έλλειψη βασικών νομικών μηχανισμών που προστατεύουν την εικόνα ενός ατόμου.
Νόμοι Deepfake στις Ηνωμένες Πολιτείες
Αντίθετα, οι Ηνωμένες Πολιτείες προστατεύουν σε κάποιον βαθμό το δικαίωμα των πολιτών τους να ελέγχουν την εμπορική χρήση της ταυτότητάς τους (right of publicity), αν και όχι σε ομοσπονδιακό επίπεδο (για τώρα, τέτοιες νομικές διατάξεις υπάρχουν σε περίπου τις μισές πολιτείες των ΗΠΑ, με πολύ διαφορετικούς νομικούς μηχανισμούς).
Αν και μια βελτίωση της απόδοσης του Ηνωμένου Βασιλείου στη νομοθεσία για τα deepfakes, οι Ηνωμένες Πολιτείες μπορούν να καυχηθούν μόνο για σποραδική, ανά πολιτεία κάλυψη, και φαίνεται να αντιμετωπίζουν την τεχνολογία πολιτική χειραγώγηση πριν από την αντιμετώπιση της επίδρασής της σε ιδιωτικά άτομα.
Το 2019, η Πολιτεία του Τέξας απαγόρευσε τη δημιουργία ή τη διάδοση πολιτικών deepfakes, με το Νομοσχέδιο 751 (SB751), παραλείποντας οποιαδήποτε δήλωση σχετικά με την πορνογραφία deepfake. Το ίδιο έτος, η Πολιτεία της Βιρτζίνια πρόσθεσε μια τροποποίηση σε έναν υπάρχοντα νόμο (νόμο) σχετικά με την Ανόμητη διάδοση ή πώληση εικόνων άλλου, προσθέτοντας τον ευρύ όρο ‘ψευδώς δημιουργημένο βίντεο ή εικόνα’.
Το 2020, η Πολιτεία της Καλιφόρνιας εξέδωσε Νομοσχέδιο της Συνέλευσης της Καλιφόρνιας 602 (AB 602), απαγορεύοντας τη δημιουργία ή τη διάδοση πορνογραφικών deepfakes. Το Νομοσχέδιο δεν έχει χρονική διάρκεια, αλλά έχει ένα τριετή προθεσμία παραγραφής, και συνοδεύεται από μια ξεχωριστή διάταξη που καλύπτει τα πολιτικά deepfakes.
Στο τέλος του 2020, η Πολιτεία της Νέας Υόρκης ψήφισε Νομοσχέδιο Γερουσίας S5959D, το οποίο όχι μόνο απαγορεύει τη δημιουργία και/ή αναδημοσίευση πορνογραφικών deepfakes, αλλά επίσης προστατεύει το δικαίωμα ενός ατόμου να ελέγχει την εμπορική χρήση της ταυτότητάς του σε σχέση με μια υπολογιστικά δημιουργημένη ομοιότητα μέσω deepfakes, CGI, ή άλλων μέσων, ακόμη και μετά τον θάνατο (αν το άτομο ήταν κάτοικος της Νέας Υόρκης την εποχή του θανάτου του).
Τέλος, η Πολιτεία του Μέριλαντ έχει τροποποιήσει τους νόμους της για την παιδική πορνογραφία για να περιλαμβάνει και να ποινικοποιήσει τη χρήση deepfakes, αν και δεν αντιμετωπίζει την επίδραση των deepfakes σε ενήλικες στόχους.
Περιμένοντας το ‘DeepfakeGate’
Η ιστορία δείχνει ότι η ζημιά που μπορεί να προκαλέσει μια νέα τεχνολογία πρέπει να γίνει προσωπική σε μια χώρα για να επιταχύνει την νομοθετική της απάντηση. Ο πολύ πρόσφατος θάνατος ενός νεαρού κοριτσιού στην Αίγυπτο που φέρεται να ήταν θύμα εκβιασμού με deepfake πορνογραφία έχει λάβει περιορισμένη κάλυψη στα δυτικά μέσα ενημέρωσης*, ενώ οι αποκαλύψεις για την κλοπή 35 εκατομμυρίων δολαρίων στα Ηνωμένα Αραβικά Εμιράτα, που καλύφθηκαν το 2021, αντιπροσωπεύουν επίσης ένα ‘μακρινό γεγονός’ που δεν πιθανότατα θα επιταχύνει τη Γερουσία ή θα ανάψει φωτιά κάτω από τις 45 υπόλοιπες πολιτείες που δεν έχουν ακόμη νομοθετήσει για τα deepfakes.
Εάν οι Ηνωμένες Πολιτείες υιοθετήσουν μια πιο ενιαία προσέγγιση για την κακοποίηση της τεχνολογίας deepfake, η ευρεία νομοθεσία θα μπορούσε πιθανότατα να επηρεάσει την διακυβέρνηση της τηλεπικοινωνίας και της υποδομής δεδομένων και αποθήκευσης, οδηγώντας σε γρήγορη αλλαγή πολιτικής που θα επιβληθεί στα επιχειρηματικά τους συνεργάτες σε όλο τον κόσμο. Το γεγονός ότι η υιοθέτηση της ΕΕ της GDPR δεν οδήγησε τελικά σε ‘διασυνοριακή’ πολιτική συλλογής και αποθήκευσης δεδομένων δεν σημαίνει ότι η ΕΕ δεν θα μπορούσε να αποκτήσει διαπραγματευτική ισχύ απέναντι σε τις λιγότερο συμμορφωμένες χώρες με τις οποίες εμπορεύεται, εάν κάποτε λάβει μια πιο δεσμευμένη νομοθετική στάση για τη δημιουργία, αποθήκευση και διατήρηση πορνογραφικών deepfakes.
Αλλά κάτι πρέπει να συμβεί στο ‘εμπρός’ πρώτα, σε μια από αυτές τις ηγετικές ομάδες χωρών. Και ακόμη περιμένουμε: μια τεράστια κατάσχεση από τις αρχές στο darknet υλικού που απεικονίζει σεξουαλική κακοποίηση παιδιών (CSAM), μια μεγάλη ληστεία που χρησιμοποιεί ήχο και/ή βίντεο deepfake τεχνολογίες για να εξαπατήσει έναν Αμερικανό διευθυντή εταιρείας ώστε να μεταφέρει λανθασμένα ένα πολύ μεγάλο χρηματικό ποσό, ή ένα Αμερικανικό ισοδύναμο της αυξανόμενης χρήσης deepfakes για να θυματοποιήσει γυναίκες σε πιο πατριαρχικές χώρες (αν, στην πραγματικότητα, ο Αμερικανικός πολιτισμός είναι πραγματικά εξοπλισμένος για να ανταποκριθεί σε αυτά τα γεγονότα, που είναι αμφίβολο). Αυτά είναι δύσκολα πράγματα να ευχηθούμε, και καλά να αποφευχθούν με οποιονδήποτε άλλο τρόπο αντί να χώνουμε το κεφάλι στην άμμο ή να περιμένουμε ένα γεγονός που θα πυροδοτήσει αντιδράσεις.
Ένα κεντρικό πρόβλημα, το οποίο η ΕΕ στρέφει τώρα στρέφοντας την νομοθετική της δύναμη στις εταιρείες διαφήμισης που θέλουν να προωθήσουν τις έξυπνες και νόμιμες deepfakes, είναι ότι τα deepfakes παραμένουν δύσκολα να αναγνωριστούν με αλγορίθμους. Οι περισσότερες από τις μεθόδους ανίχνευσης που εμφανίζονται κάθε μήνα στο arXiv εξαρτώνται από την υδατοσήμανση, την επαλήθευση με βάση το blockchain ή σε κάποιον άλλο τρόπο την αλλαγή της υποδομής που χρησιμοποιούμε για να καταναλώσουμε ελεύθερα βίντεο – λύσεις που υποδηλώνουν μια ριζική νομική αναθεώρηση της έννοιας του βίντεο ως υποκατάστατο της «αλήθειας». Τα υπόλοιπα είναι συνήθως ξεπεράσματα από τις συνεχείς προόδους στις δημοφιλείς ανοιχτές πηγές deepfake.
Ένα άλλο πρόβλημα είναι ότι οι μεγάλες δυτικές χώρες έχουν δίκαιο, σε ένα σημείο, να μην προσφέρουν μια σπασμωδική αντίδραση σε ένα προβληματικό κλωνο σε μια σειρά από νέες τεχνολογίες AI, πολλές από τις οποίες υπόσχονται τεράστια οφέλη για την κοινωνία και την βιομηχανία, και πολλές από τις οποίες θα μπορούσαν να επηρεαστούν δυσμενώς με κάποιον τρόπο εάν μια θερμή απαγόρευση και ρύθμιση των συστημάτων σύνθεσης εικόνας θα ξεκινήσει σοβαρά, ως απάντηση σε ένα σημαντικό γεγονός, και στο επακόλουθο αίτημα.
Ωστόσο, μπορεί να ήταν μια καλή ιδέα να επιταχύνουμε την αργή και μερικές φορές άσκοπη πορεία που κάνουμε προς τη ρύθμιση των deepfakes, και να αντιμετωπίσουμε τα πιθανά προβλήματα σε ένα ενδιάμεσο στάδιο, και με τους δικούς μας όρους, αντί να αναγκάζονται από μεταγενέστερα γεγονότα σε μια λιγότερο σκεφμένη απάντηση.
* Οι υποτιθέμενοι δράστες κατηγορούνται για εκβιασμό. Δεν υπάρχει αιγυπτιακός νόμος που καλύπτει την πορνογραφία deepfake.
Πρώτη δημοσίευση 24ης Ιανουαρίου 2022.












