Οι προτάσεις κανονισμών Deepfake στην Ευρώπη και στο Ηνωμένο Βασίλειο είναι εκπληκτικά περιορισμένες

Ανάλυση Για τους ακτιβιστές που ελπίζουν ότι το 2022 θα μπορούσε να είναι το έτος κατά το οποίο οι παραποιημένες εικόνες εμπίπτουν σε μια αυστηρότερη νομική εμβέλεια, οι πρώιμοι δείκτες είναι απίθανοι.

Την περασμένη Πέμπτη το Ευρωπαϊκό Κοινοβούλιο κυρώθηκε τροποποιήσεις στον νόμο για τις ψηφιακές υπηρεσίες (ΚΑΑ, που αναμένεται να τεθεί σε ισχύ το 2023), όσον αφορά τη διάδοση των deepfakes. Οι τροποποιήσεις αντιμετωπίζουν τα deepfakes σε δύο ενότητες, καθεμία από τις οποίες σχετίζεται άμεσα με τη διαδικτυακή διαφήμιση: την τροπολογία 1709 που αναφέρεται στο άρθρο 30 και μια σχετική τροπολογία στο άρθρο 63.

Το πρώτο προτείνει ένα εντελώς νέο άρθρο 30a, Με τίτλο Βαθιά ψεύτικα, Η οποία έχει ως εξής:

«Όταν μια πολύ μεγάλη διαδικτυακή πλατφόρμα αντιλαμβάνεται ότι ένα κομμάτι περιεχομένου είναι ένα παραγόμενο ή χειραγωγημένο περιεχόμενο εικόνας, ήχου ή βίντεο που μοιάζει αισθητά με υπάρχοντα πρόσωπα, αντικείμενα, μέρη ή άλλες οντότητες ή γεγονότα και φαίνεται ψευδώς σε ένα άτομο ότι είναι αυθεντικό ή αληθινό (βαθιά απομιμήσεις), ο πάροχος επισημαίνει το περιεχόμενο με τρόπο που να ενημερώνει ότι το περιεχόμενο δεν είναι αυθεντικό και ότι είναι σαφώς ορατό για τον αποδέκτη των υπηρεσιών».

Το δεύτερο προσθέτει κείμενο στο υπάρχον άρθρο 63, το οποίο αφορά κυρίως την αύξηση της διαφάνειας των μεγάλων διαφημιστικών πλατφορμών. Το σχετικό κείμενο αναφέρει:

«Επιπλέον, πολύ μεγάλες διαδικτυακές πλατφόρμες θα πρέπει να επισημαίνουν τυχόν γνωστά ψεύτικα βίντεο, ήχου ή άλλα αρχεία».

Ουσιαστικά, η νομοθεσία φαίνεται να προετοιμάζεται για την αυξανόμενη πρακτική των «νόμιμων deepfakes», όπου έχει δοθεί άδεια χορηγήθηκε και κατοχυρωμένα δικαιώματα για ανταλλαγή προσώπων σε διαφημιστικό ή διαφημιστικό υλικό – όπως η ρωσική τηλεφωνία Telefon's αδειοδοτημένη χρήση της ταυτότητας του Bruce Willis σε πρόσφατη διαφημιστική καμπάνια.

Δισταγμός στη Νομοθεσία

Το DSA, μέχρι στιγμής, δεν φαίνεται να αντιμετωπίζει τις ανησυχίες των ακτιβιστών σχετικά με τη χρήση τεχνικών deepfake όπως είναι χρησιμοποιείται συνήθως – για αναμετάδοση πορνογραφικών βίντεο. Ούτε εξετάζει τον βαθμό, εάν υπάρχει, στον οποίο η εκκρεμής χρήση των deepfakes σε ταινίες και τηλεόραση θα χρειαστεί να αποποιηθεί στους θεατές με τον ίδιο τρόπο που θα είναι τα deepfakes στη διαφήμιση, τουλάχιστον στην ΕΕ, από το 2023.

Η διαδικασία επικύρωσης για το DSA περνά τώρα στις διαπραγματεύσεις με τα κράτη μέλη της ΕΕ, μαζί με το ευρύτερο πεδίο εφαρμογής του νόμου για τις ψηφιακές αγορές (DMA).

Europol Δεκέμβριος 2020 αναφέρουν Κακόβουλες χρήσεις και καταχρήσεις τεχνητής νοημοσύνης υποστήριξε ότι θα ήταν λάθος για την ΕΕ να αντιμετωπίσει συγκεκριμένες τρέχουσες τεχνολογίες deepfake (όπως DeepFaceLive), γεγονός που μπορεί να οδηγήσει στο να ανταποκρίνεται συνεχώς η νομοθεσία της ΕΕ με το πιο πρόσφατο πλαίσιο ή μέθοδο.

Η αναφέρουν δηλωθείς:

«Συγκεκριμένα, αυτές οι πολιτικές θα πρέπει να είναι τεχνολογικά αγνωστικές προκειμένου να είναι αποτελεσματικές μακροπρόθεσμα και να αποφευχθεί η ανάγκη επανεξέτασης και αντικατάστασής τους σε τακτική βάση καθώς εξελίσσεται η τεχνολογία πίσω από τη δημιουργία και την κατάχρηση των deepfakes.

«Ωστόσο, τέτοια μέτρα θα πρέπει επίσης να αποφεύγουν την παρεμπόδιση των θετικών εφαρμογών των GANs».

Η τελική παρατήρηση στο παραπάνω απόσπασμα, σχετικά Γενετικά Διαφορικά Δίκτυα (GANs) χαρακτηρίζει ευρέως τον δισταγμό της Ευρώπης και της Βόρειας Αμερικής να εφαρμόσουν νόμους που θα μπορούσαν να εμποδίσουν έναν αναδυόμενο ερευνητικό τομέα της τεχνητής νοημοσύνης που ήδη θεωρείται ότι είναι μένοντας πίσω από την Ασία (των οποίων τα περισσότερα διδακτικά έθνη υπήρξαν είναι σε θέση να επιταχύνει τη νομοθεσία deepfake).

Για παράδειγμα, ένα 2018 αναφέρουν από την Επίλεκτη Επιτροπή Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου στη Βουλή των Λόρδων τονίζει πολλές φορές τον κίνδυνο να επιτραπεί στη δειλία να εμποδίσει την ανάπτυξη της τεχνητής νοημοσύνης στη χώρα, όπως αποδεικνύεται στον τίτλο της: AI στο Ηνωμένο Βασίλειο: έτοιμος, πρόθυμος και ικανός;. Τον περασμένο Απρίλιο, η Βρετανία έγινε επίσης η πρώτη χώρα πράσινο φως στην ανάπτυξη αυτοοδηγούμενων αυτοκινήτων στους αυτοκινητόδρομους.

Η Αμερική δεν είναι λιγότερο μανιώδης. στις ΗΠΑ, το Ινστιτούτο Brookings έχει προέτρεψε την ανάγκη για αυξημένη νομοθεσία για την τεχνητή νοημοσύνη στις Ηνωμένες Πολιτείες, επικρίνοντας τους νομοθέτες για την άποψή τους «περιμένετε και δείτε» σχετικά με τις επιπτώσεις των τεχνολογιών μηχανικής μάθησης

Εκτός από την ανόητη προσέγγιση του DSA για την αντιμετώπιση κοινωνικών (και όχι πολιτικών) ανησυχιών σχετικά με τα deepfakes, η Ε.Ε. προτεινόμενο ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη, που κυκλοφόρησε τον Απρίλιο του 2021, δέχτηκε άμεση κριτική για τη δική της υπεκφυγή του θέματος.

Κανονισμός Scant Deepfake στο Ηνωμένο Βασίλειο

Ως επιπρόσθετη απογοήτευση για τους ακτιβιστές κατά του deepfake, όπως η συγγραφέας Helen Mort, η οποία έκανε εξέχουσα εκστρατεία για τη νέα νομοθεσία του Ηνωμένου Βασιλείου το 2021, αφού απεικονίστηκε με μη συναινετικό τρόπο σε πορνογραφικά ψεύτικα βίντεο, μια έκθεση που δημοσιεύθηκε σήμερα από την Επιτροπή Ψηφιακής, Πολιτισμού, Μέσων και Αθλητισμού του κοινοβουλίου του Ηνωμένου Βασιλείου επικρίνει η βρετανική κυβέρνηση επειδή απέτυχε να αντιμετωπίσει τα deepfakes στο Σχέδιο νόμου για την ασφάλεια στο διαδίκτυο.

Αναφέροντας την τρέχουσα νομική επανόρθωση του σχεδίου νομοσχεδίου κατά της κατάχρησης deepfake ως «ασαφής και μη πρακτικής», η αναφέρουν προτείνει ότι η προτεινόμενη νομοθεσία δεν κάνει τίποτα για να αντιμετωπίσει το «νόμιμο αλλά επιβλαβές» καθεστώς των τεχνικών χειραγώγησης πορνογραφικών βίντεο και εικόνων με τη βοήθεια τεχνητής νοημοσύνης:

«[Συνιστούμε] στην κυβέρνηση να αντιμετωπίσει προληπτικά τύπους περιεχομένου που είναι τεχνικά νόμιμο, όπως ύπουλα τμήματα σειρών παιδικής κακοποίησης, όπως ψίχουλα και είδη διαδικτυακής βίας κατά και γυναικών και κοριτσιών, όπως «γυμνοποίηση» γυναικών με τεχνολογία τεχνολογίας και ψεύτικη πορνογραφία , φέρνοντάς τα στο πεδίο εφαρμογής τους είτε μέσω της πρωτογενούς νομοθεσίας είτε ως είδη επιβλαβούς περιεχομένου που καλύπτονται από τα καθήκοντα περίθαλψης».

Η ισχύουσα νομοθεσία στο Ηνωμένο Βασίλειο περιορίζεται στη διάδοση «πραγματικών» εικόνων, όπως περιπτώσεις εκδικητικής πορνογραφίας, όπου, για παράδειγμα, εμπιστευτικό και ιδιωτικό ρητό υλικό κοινοποιείται δημόσια από έναν πρώην σύντροφο. Εάν ένας διώκτης πραγματοποιήσει και δημοσιοποιήσει ψεύτικο υλικό που υπερθέτει την ταυτότητα του «στόχου» του σε πορνογραφικό περιεχόμενο, μπορεί να διωχθεί μόνον εάν παρενοχλήσει απευθείας τον στόχο κατευθύνοντας το υλικό προς αυτόν ή βάσει νομοθεσίας που σχετίζεται με τα πνευματικά δικαιώματα.

Στην πρώτη περίπτωση, η ευκολία με την οποία το νέο deepfake περιεχόμενο συγκεντρώνει την έλξη και τους θεατές σχεδόν αναπόφευκτα σημαίνει ότι το θύμα θα ενημερωθεί από ενδιαφερόμενους φίλους ή άσχετα τρίτα μέρη και όχι από το άτομο που τα έκανε deepfake, επιτρέποντας την προστασία του υλικού αυτού. ο deepfaker, του οποίου η δουλειά εξακολουθεί να «φθάνει στο στόχο».

Στην τελευταία περίπτωση, η δίωξη θα ήταν πιθανώς εφικτή μόνο όταν ένα πορνογραφικό βίντεο τρίτων που δεν έχει υποβληθεί σε γιατρό (στο οποίο επιτίθεται αργότερα η ταυτότητα του θύματος) παράγεται επαγγελματικά και προστατεύεται νόμιμα από τον τομέα πνευματικών δικαιωμάτων του Ηνωμένου Βασιλείου (ακόμη και αν ένα κατάλληλο βίντεο μπορεί να προέρχεται ελεύθερα από οποιαδήποτε νομική δικαιοδοσία στον κόσμο). Ένα «ερασιτεχνικό» βίντεο από οποιαδήποτε δικαιοδοσία στερείται σαφούς κατάστασης πνευματικών δικαιωμάτων και ένα προσαρμοσμένο βίντεο που έχει τραβήξει ο deepfaker ρητά για να τοποθετήσει το θύμα προστατεύεται (ειρωνικά) από τους νόμους περί πνευματικών δικαιωμάτων, εφόσον συμμορφώνεται με άλλους νόμους.

Πίσω από την καμπύλη

Τον Δεκέμβριο του 2021 η Νομική Επιτροπή του Ηνωμένου Βασιλείου προτείνεται να επεκτείνει τους νόμους της ρητορικής μίσους για να καλύψει την εχθρότητα που βασίζεται στο σεξ, αλλά δεν πρότεινε τη συμπερίληψη των deepfakes σε αυτήν την κατηγορία, παρά τα πολλά παραδείγματα τέτοιας χρήσης σε όλο τον κόσμο (ιδιαίτερα στην Ινδία) της τεχνολογίας που οπλίζεται εναντίον γυναικών πολιτικών και γυναικών ακτιβιστών. Οι γυναίκες είναι υπερβολικά ο στόχος του παράνομου deepfake περιεχομένου, είτε τα κίνητρα των παραποιητών είναι απροκάλυπτα κοινωνικά (δηλαδή η πρόθεση εξευτελισμού, αποπλατφόρμας και αποδυνάμωσης) είτε απλώς επιθετικά (π.χ. πορνογραφικό) χαρακτήρα.

Τον Μάρτιο του 2021 η Εθνική Νομική Επιθεώρηση με έδρα το Ιλινόις ανέλαβε το νομικό πλαίσιο του Ηνωμένου Βασιλείου ως «εντελώς ανεπαρκής προς το παρόν για την αντιμετώπιση των βαθιών ψεύτικα», και ακόμη και έλλειψη βασικών νομικών μηχανισμών που προστατεύουν την ομοιότητα ενός ατόμου.

Deepfake Νόμοι στις Ηνωμένες Πολιτείες

Αντίθετα, οι Ηνωμένες Πολιτείες προστατεύουν σε κάποιο βαθμό το «Δικαίωμα δημοσιότητας» των πολιτών τους, αν και όχι σε ομοσπονδιακό επίπεδο (προς το παρόν, τέτοιου είδους καταστατικά υπάρχουν σε κατά το ήμισυ περίπου των πολιτειών των ΗΠΑ, με πολύ διαφορετικούς νομικούς μηχανισμούς).

Αν και μια βελτίωση της απόδοσης του Ηνωμένου Βασιλείου στη νομοθεσία βαθιάς ψευδούς, οι ΗΠΑ μπορούν μόνο να υπερηφανεύονται για σποραδική κάλυψη ανά πολιτεία και φαίνεται αποφασισμένες να αντιμετωπίσουν τα προβλήματα της τεχνολογίας δυνατότητα πολιτικής χειραγώγησης προτού φτάσει, τελικά, στον αντίκτυπό της σε ιδιώτες.

Το 2019 η Πολιτεία του Τέξας εκτός νόμου τη δημιουργία ή τη διάδοση του πολιτικός deepfakes, με το νομοσχέδιο 751 της Γερουσίας του Τέξας (SB751), παραλείποντας οποιαδήποτε δήλωση σχετικά με την ψεύτικη πορνογραφία. Το ίδιο έτος, η Πολιτεία της Βιρτζίνια πρόσθεσε ένα τροποποίηση σε ένα υφιστάμενη νομοθεσία σχετικά με Παράνομη διάδοση ή πώληση εικόνων άλλου, επισυνάπτοντας τον όρο που περιλαμβάνει ευρέως «ψευδώς δημιουργημένο βίντεο ή ακίνητη εικόνα».

Το 2020 ψηφίστηκε η Πολιτεία της Καλιφόρνια Νομοσχέδιο 602 της Συνέλευσης της Καλιφόρνια (AB 602) απαγόρευση της δημιουργίας ή της διάδοσης πορνογραφικών ψεύτικα. Το νομοσχέδιο δεν έχει ρήτρα λήξης ισχύος, αλλά έχει παραγραφή τριών ετών και συνοδεύεται από ξεχωριστή ρήτρα που καλύπτει τα πολιτικά deepfakes.

Στα τέλη του 2020 πέρασε η Πολιτεία της Νέας Υόρκης Γερουσία Bill S5959D, το οποίο όχι μόνο απαγορεύει τη δημιουργία και/ή την αναδημοσίευση πορνογραφικών deepfakes, αλλά προστατεύει ενεργά το δικαίωμα δημοσιότητας ενός χρήστη σε σχέση με που παράγεται από υπολογιστή ομοίωση μέσω deepfakes, CGI ή οποιουδήποτε άλλου μέσου, ακόμη και μετά θάνατον (αν το εν λόγω άτομο ήταν κάτοικος Νέας Υόρκης τη στιγμή του θανάτου του).

Τέλος, η Πολιτεία του Μέριλαντ έχει τροποποιήθηκε τους νόμους του σχετικά με την παιδική πορνογραφία για να περικλείει και να ποινικοποιεί τη χρήση των deepfakes, χωρίς ωστόσο να αντιμετωπίζει τον αντίκτυπο των deepfakes σε ενήλικες στόχους.

Αναμονή για το "DeepfakeGate"

Η ιστορία δείχνει ότι πρέπει να γίνει η ζημιά που μπορεί να προκαλέσουν οι νέες τεχνολογίες προσωπικός σε ένα έθνος προκειμένου να επιταχύνει τη νομοθετική του απάντηση. Το πολύ πρόσφατο θάνατος μιας έφηβης στην Αίγυπτο η οποία φέρεται να εκβιαζόταν με βαθιά ψεύτικη πορνογραφία του εαυτού της έχει λάβει περιορισμένη κάλυψη στα δυτικά μέσα ενημέρωσης*, ενώ οι αποκαλύψεις για την κλοπή 35 εκατομμυρίων δολαρίων στα Ηνωμένα Αραβικά Εμιράτα ήρθε στο φως το 2021, αντιπροσωπεύουν επίσης ένα «μακρινό γεγονός» που δεν είναι πιθανό να επιταχύνει τη Γερουσία ή να ανάψει φωτιά στις υπόλοιπες 45 πολιτείες που δεν έχουν ακόμη θεσπίσει νομοθεσία για τα βαθιά ψεύτικα.

Εάν οι ΗΠΑ υιοθετήσουν ένα πιο ενωμένο μέτωπο γύρω από την κατάχρηση της τεχνολογίας deepfake, η ευρεία νομοθεσία θα επηρεάσει πιθανότατα την πτυχή της διακυβέρνησης των τηλεπικοινωνιών και της υποδομής δεδομένων και της αποθήκευσης, οδηγώντας σε γρήγορες αλλαγές πολιτικής κάλυψης που επιβάλλονται στους επιχειρηματικούς εταίρους τους σε όλο τον κόσμο. Το γεγονός ότι η υιοθέτηση του GDPR από την Ευρώπη δεν «πέρασε» τελικά την πολιτική συλλογής και διατήρησης δεδομένων της Βόρειας Αμερικής δεν σημαίνει ότι η ΕΕ δεν θα μπορούσε επίσης να αποκτήσει μόχλευση έναντι των λιγότερο συμμορφούμενων εθνών με τις οποίες συναλλάσσεται – εάν λάβει ποτέ πιο αφοσιωμένη νομοθετική στάση σχετικά με τη δημιουργία, αποθήκευση και διατήρηση βαθιάς ψευδούς πορνογραφίας.

Αλλά κάτι πρέπει να συμβεί πρώτα στο «σημείο μηδέν», σε μία από αυτές τις κορυφαίες ομάδες χωρών. και ακόμα το περιμένουμε: μια κολοσσιαία σκοτεινή έλξη CSAM από τις αρχές. μια μεγάλη ληστεία που χρησιμοποιεί τεχνολογίες deepfake ήχου και/ή βίντεο για να εξαπατήσει έναν Αμερικανικη διευθυντής της εταιρείας να κατευθύνει εσφαλμένα ένα πολύ μεγάλο χρηματικό ποσό· ή ένα αμερικανικό ισοδύναμο της αυξανόμενης χρήσης των deepfakes για τη θυματοποίηση γυναικών σε πιο πατριαρχικές χώρες (αν, πράγματι, η αμερικανική κουλτούρα είναι πραγματικά εξοπλισμένη για να αντικατοπτρίζει αυτά τα γεγονότα, κάτι που είναι αμφίβολο). Αυτά είναι δύσκολα πράγματα που πρέπει να ευχηθείς και καλά πράγματα που πρέπει να αποφύγεις οποιαδήποτε άλλη μέθοδο παρά να κολλήσει κανείς το κεφάλι του στην άμμο ή να περιμένει ένα «εμπρηστικό» γεγονός.

Ένα κεντρικό πρόβλημα, το οποίο η ΕΕ παρακάμπτει επί του παρόντος κατευθύνοντας τη νομοθετική της δύναμη σε διαφημιστικές εταιρείες που θέλω για να προωθήσουν τα έξυπνα και νόμιμα deepfakes τους, είναι ότι τα deepfakes παραμένουν δύσκολο να εντοπιστεί αλγοριθμικά; οι περισσότερες από τις σωρεία μεθόδων ανίχνευσης που εμφανίζονται στο arXiv κάθε μήνα εξαρτώνται από την υδατοσήμανση, την επαλήθευση που βασίζεται σε blockchain ή με κάποιο τρόπο την αλλαγή ολόκληρης της υποδομής που χρησιμοποιούμε επί του παρόντος για την ελεύθερη κατανάλωση βίντεο – λύσεις που συνεπάγονται μια ριζική νομική αναθεώρηση της έννοιας του βίντεο ως πληρεξούσιος για την «αλήθεια». Τα υπόλοιπα συνήθως ξεπερνούν τις συνεχείς προόδους στα δημοφιλή αποθετήρια deepfake ανοιχτού κώδικα.

Ένα άλλο πρόβλημα είναι ότι τα μεγάλα δυτικά έθνη έχουν πολύ δίκιο, από μία άποψη, που δεν προσφέρουν μια σπασμωδική αντίδραση σε ένα μόνο προβληματικό σκέλος σε μια σειρά από νέες τεχνολογίες τεχνητής νοημοσύνης, πολλές από τις οποίες υπόσχονται τεράστια οφέλη για την κοινωνία και τη βιομηχανία, και πολλά από τα οποία θα μπορούσαν να επηρεαστούν δυσμενώς κατά κάποιο τρόπο, εάν ξεκινούσε σοβαρά η αυθόρμητη απαγόρευση και ρύθμιση των συστημάτων σύνθεσης εικόνας, ως απάντηση σε ένα σημαντικό γεγονός και στην κατακραυγή που ακολούθησε.

Ωστόσο, ίσως είναι καλή ιδέα να επιταχύνουμε τουλάχιστον τον αργό και μερικές φορές άσκοπο βήμα που κάνουμε προς τη ρύθμιση των deepfakes και να αντιμετωπίσουμε τα πιθανά προβλήματα στη μέση και με τους δικούς μας όρους, αντί να αναγκαζόμαστε μεταγενέστερα γεγονότα σε μια λιγότερο μελετημένη απάντηση.

* Οι φερόμενοι ως δράστες κατηγορούνται για εκβιασμό. δεν υπάρχει αιγυπτιακός νόμος που να καλύπτει την ψεύτικη πορνογραφία.

Πρώτη δημοσίευση 24 Ιανουαρίου 2022.