Η γωνία του Anderson

Η Κίνα προτείνει αυξημένη ρύθμιση των deepfakes και άλλων συστημάτων σύνθεσης AI

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΤα σχέδια κανονισμών της Κίνας στοχεύουν έξι τομείς σύνθεσης τεχνητής νοημοσύνης…
Δείτε περισσότερα
  • Τα σχέδια κανονισμών της Κίνας στοχεύουν έξι τομείς σύνθεσης τεχνητής νοημοσύνης, συμπεριλαμβανομένων κειμένου, φωνής και τρισδιάστατης ανακατασκευής.
  • Οι πάροχοι πρέπει να υδατογραφούν όλα τα συνθετικά μέσα και να λαμβάνουν γραπτή άδεια για χρήση ταυτότητας.
  • Πρόστιμα έως 100.000 γιουάν περιμένουν τους παραβάτες που δεν καταγράφουν υπηρεσίες βαθιάς σύνθεσης.

Η Υπηρεσία Κυβερνοχώρου της Κίνας (CAC) έχει προτείνει ένα νέο σύνολο προσχεδίων κανονισμών για τη διακυβέρνηση συστημάτων συνθέσεων AI, συμπεριλαμβανομένων deepfakes, σκηνών εικονικής πραγματικότητας, παραγωγής κειμένου, ήχου και άλλων υποτομέων της σύνθεσης μέσων με τεχνητή νοημοσύνη – ένα πεδίο στο οποίο η Κίνα παράγει ένα μεγάλο αριθμό ακαδημαϊκών εργασιών και καινοτόμων ερευνητικών έργων κάθε μήνα.

Μια ανάρτηση (Μετάφραση Google, πρωτότυπο εδώ) στο επίσημο site της CAC παρουσιάζει τις προτεινόμενες υποχρεώσεις και χαρακτηρίζει τις επηρεαζόμενες υπηρεσίες ως ‘παρόχους υπηρεσιών βαθιάς σύνθεσης’, καλώντας τους πολίτες να συμμετάσχουν με την υποβολή σχολίων στα προσχέδια, με προθεσμία την 28η Φεβρουαρίου.

Δεν είναι μόνο τα Deepfakes

Αν και οι προτεινόμενες ρυθμίσεις έχουν αναφερθεί με τους όρους της πιθανής επίδρασής τους στην δημιουργία και διάδοση των deepfakes, το έγγραφο προσπαθεί να καλύψει όλα τα πεδία της ικανότητας των αλγορίθμων να παράγουν οποιοδήποτε είδος περιεχομένου που μπορεί να ερμηνευθεί σε ευρεία έννοια ως ‘μέσα’.
Άρθρο 2 δηλώνει το προβλεπόμενο πεδίο των κανονισμών σε έξι τομείς*:

(1) Τεχνικές για την παραγωγή ή επεξεργασία κειμένου, όπως η παραγωγή κεφαλαίων, η μετατροπή στυλ κειμένου και ο διάλογος ερωτήσεων και απαντήσεων;

(2) Τεχνολογίες για την παραγωγή ή επεξεργασία περιεχομένου φωνής, όπως η μετατροπή κειμένου σε ομιλία, η μετατροπή φωνής και η επεξεργασία ιδιοτήτων φωνής;

(3) Τεχνολογίες για την παραγωγή ή επεξεργασία μη φωνητικού περιεχομένου, όπως η παραγωγή μουσικής και η επεξεργασία ήχου σκηνής;

(4) Παραγωγή προσώπου, αντικατάσταση προσώπου, επεξεργασία ιδιοτήτων χαρακτήρα, χειρισμός προσώπου, χειρισμός χειρονομίας και άλλες τεχνικές για την παραγωγή ή επεξεργασία βιομετρικών χαρακτηριστικών όπως τα πρόσωπα σε εικόνες και βίντεο;

(5) Τεχνικές για την επεξεργασία μη βιολογικών χαρακτηριστικών σε εικόνες και βίντεο, όπως η βελτίωση εικόνας και η αποκατάσταση εικόνας;

(6) Τεχνολογίες για την παραγωγή ή επεξεργασία εικονικών σκηνών, όπως η αναδόμηση 3D.

Ρύθμιση Deepfakes

Η Κίνα ποινικοποίησε τη χρήση της τεχνολογίας AI για τη διάδοση ψευδών ειδήσεων στο τέλος του 2019, κατά την οποία η CAC εξέφρασε ανησυχίες σχετικά με τις πιθανές επιπτώσεις της τεχνολογίας deepfakes, οδηγώντας πολλούς να σκεφτούν ότι η κινεζική κυβέρνηση θα απαγορεύσει τελικά την τεχνολογία deepfakes.

Ωστόσο, αυτό θα σήμαινε ότι η Κίνα θα εγκαταλείψει επίσημα μία από τις πιο πολιτικά και πολιτισμικά σημαντικές εξελίξεις στην ιστορία της παραγωγής μέσων, της τεχνολογίας AI και ακόμη και της πολιτικής, και θα αποκόψει τον εαυτό της από τα οφέλη της παγκόσμιας και ανοιχτής επιστημονικής συνεργασίας.

Επομένως, φαίνεται ότι η Κίνα είναι πλέον αποφασισμένη να πειραματιστεί με τον έλεγχο και όχι με την απαγόρευση της δυνητικά ανεξέλεγκτης τεχνολογίας. Πολλοί πιστεύουν ότι αυτή θα περάσει τελικά από τη φάση ανάπτυξης που επιταχύνεται από την πορνογραφία σε ένα σύνολο νόμιμων και αξιοποιήσιμων χρήσεων, ιδίως στην ψυχαγωγία.

NeRF Περιλαμβάνεται

Το Άρθρο 2.6 αναφέρεται στην παραγωγή ή επεξεργασία εικονικών σκηνών, όπως η αναδόμηση 3D, μια νεότερη τεχνολογία από τη μίμηση ταυτότητας μέσω deepfakes, και μια που έχει επιτύχει τη μεγαλύτερη προβολή τα τελευταία δύο χρόνια μέσω της εμφάνισης των Νευρωνικών Πεδίων Ακτινοβολίας (NeRF), όπου η φωτογραμμετρία χρησιμοποιείται για τη σύνθεση ολόκληρων σκηνών στον εξερευνήσιμο λανθάνοντα χώρο των μοντέλων μηχανικής μάθησης.

Ωστόσο, το NeRF επεκτείνει γρήγορα την εμβέλεια του από τις στατικές απεικονίσεις μοντέλων και τις περιηγήσεις σε περιβάλλοντα στην παραγωγή βίντεο ολόκληρου του σώματος, με τους κινέζους ερευνητές να έχουν προχωρήσει μερικές σημαντικές καινοτομίες σε αυτόν τον τομέα.

ST-NeRF

Το κινεζικό ST-NeRF σε δράση.

Παρότι το NeRF έχει προκαλέσει καταιγισμό νέων ερευνών από την ανακοίνωσή του το 2020, η υλοποίησή του σε συστήματα VR ή AR, καθώς και η καταλληλότητά του για τις ροές εργασίας οπτικών εφέ, εξακολουθούν να αντιμετωπίζουν σημαντικές προκλήσεις και τεχνολογικά εμπόδια. Η αυξανόμενη ικανότητα του NeRF να ανασυνθέτει και να επεξεργάζεται πλήρεις ανθρώπινες φυσιογνωμίες δεν έχει ακόμη ενσωματώσει καμία από τις συνηθισμένες δυνατότητες αλλαγής ταυτότητας των deepfakes που κυριάρχησαν στους τίτλους των ειδήσεων τα τελευταία δύο χρόνια.

Ηχητικά Deepfakes Προτεραιότητα;

Εάν κάποιος θεωρήσει τη λίστα του Άρθρου 2 ως ένδειξη των τεχνολογιών βαθιάς σύνθεσης που η Κίνα είναι πιο ανήσυχη να ελέγξει και να ρυθμίσει, αυτό θα υποδείκνυε ότι οι ψευδείς ειδήσεις σε μορφή κειμένου που παράγονται από AI αποτελούν την πρωταρχική ανησυχία, με τη σύνθεση φωνής να προηγείται των βίντεο deepfakes σε σχέση με την πιθανή επίδρασή τους.

Εάν ισχύει αυτό, αυτό συμφωνεί με το γεγονός ότι το βίντεο deepfake δεν έχει χρησιμοποιηθεί σε κανένα έγκλημα που δεν σχετίζεται με την πορνογραφία (η Ασία δεν δίστασε να ποινικοποιήσει την πορνογραφία deepfake), ενώ εκτιμάται ότι η τεχνολογία ηχητικών deepfakes έχει χρησιμοποιηθεί σε τουλάχιστον δύο σημαντικά οικονομικά εγκλήματα, στο Ηνωμένο Βασίλειο το 2019 και στα Ηνωμένα Αραβικά Εμιράτα το 2021.

Τα νέα προσχέδια κανονισμών υποχρεώνουν τους χρήστες που επιθυμούν να αξιοποιήσουν την ταυτότητα ενός προσώπου μέσω συστημάτων μηχανικής μάθησης να ζητούν τη γραπτή άδειά του. Επιπλέον, τα συνθετικά μέσα πρέπει να εμφανίζουν κάποιο «ευδιάκριτο» λογότυπο ή υδατογράφημα, ή άλλο μέσο που να επιτρέπει στο κοινό να κατανοεί ότι το περιεχόμενο έχει αλλοιωθεί ή είναι εξ ολοκλήρου κατασκευασμένο. Δεν είναι απολύτως σαφές πώς μπορεί να εφαρμοστεί αυτό στην περίπτωση των ηχητικών deepfakes.

Καταχώρηση

Εάν εγκριθούν, τα προσχέδια θα υποχρεώσουν τους παρόχους υπηρεσιών βαθιάς σύνθεσης να καταχωρήσουν τις σχετικές εφαρμογές τους στο κράτος, σύμφωνα με τις υφιστάμενες Διατάξεις για τη Διαχείριση Αλγοριθμικών Συστάσεων σε Διαδικτυακές Υπηρεσίες Πληροφοριών, και να συμμορφωθούν με όλες τις απαραίτητες διαδικασίες καταχώρησης. Οι παρόχοι βαθιάς σύνθεσης θα πρέπει επίσης να συνεργαστούν ελεύθερα σε σχέση με την εποπτεία και την επιθεώρηση, και να παράσχουν ‘απαραίτητη τεχνική υποστήριξη, υποστήριξη δεδομένων και βοήθεια’ κατά αίτηση.

Επιπλέον, οι παρόχοι θα πρέπει να καθιερώσουν φιλικές προς τον χρήστη πύλες για καταγγελίες, και να δημοσιεύσουν αναμενόμενα χρονικά όρια για την επεξεργασία των καταγγελιών, καθώς και να προσφέρουν ‘μηχανισμούς αναίρεσης φημών’ – αν και τα προσχέδια δεν παρέχουν λεπτομέρειες σχετικά με την εφαρμογή αυτού.

Παραβάσεις θα μπορούσαν να οδηγήσουν σε πρόστιμα μεταξύ 10.000 και 100.000 γουάν ($1.600 και $16.000), καθώς και να εκθέσουν τις εταιρείες που διαπράττουν παραβάσεις σε αστικές και ποινικές αγωγές.

 

* Μετάφραση από Google Translate, δείτε τον σύνδεσμο στην αρχή του άρθρου.

Πρώτη δημοσίευση 28ης Ιανουαρίου 2022.

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai