Η Κίνα Προτείνει Αυξημένη Ρύθμιση των Deepfakes και Άλλων Συστημάτων Συνθέσεων AI

Η Υπηρεσία Κυβερνοχώρου της Κίνας (CAC) έχει προτείνει einen νέο σύνολο προσχέδιων κανονισμών για τη διακυβέρνηση συστημάτων συνθέσεων AI, συμπεριλαμβανομένων deepfakes, εικονικών πραγματικότητας, γεννήτριας κειμένου, ήχου και άλλων υποτομέων της συνθέσεων μέσων μαζικής ενημέρωσης AI – ένα πεδίο στο οποίο η Κίνα παράγει ένα μεγάλο αριθμό ακαδημαϊκών εργασιών και καινοτόμων ερευνητικών έργων κάθε μήνα.

Μια ανάρτηση (Μετάφραση Google, πρωτότυπο εδώ) στο επίσημο site της CAC παρουσιάζει τις προτεινόμενες υποχρεώσεις και χαρακτηρίζει τις επηρεαζόμενες υπηρεσίες ως ‘παρόχους υπηρεσιών βαθιάς συνθέσης’, καλώντας τους πολίτες να συμμετάσχουν με την υποβολή σχολίων στα προσχέδια, με προθεσμία την 28η Φεβρουαρίου.

Δεν είναι μόνο τα Deepfakes

Αν και οι προτεινόμενες ρυθμίσεις έχουν αναφερθεί με τους όρους της πιθανής επίδρασής τους στην δημιουργία και διάδοση των deepfakes, το έγγραφο προσπαθεί να καλύψει όλα τα πεδία της ικανότητας των αλγορίθμων να παράγουν οποιοδήποτε είδος περιεχομένου που μπορεί να ερμηνευθεί σε ευρεία έννοια ως ‘μέσα’.
Άρθρο 2 δηλώνει το προβλεπόμενο πεδίο των κανονισμών σε έξι τομείς*:

(1) Τεχνικές για τη γεννήτρια ή επεξεργασία κειμένου, όπως η γεννήτρια κεφαλαίων, η μετατροπή στυλ κειμένου και η διάλογος ερωτήσεων και απαντήσεων;

(2) Τεχνολογίες για τη γεννήτρια ή επεξεργασία περιεχομένου φωνής, όπως η μετατροπή κειμένου σε ομιλία, η μετατροπή φωνής και η επεξεργασία ιδιοτήτων φωνής;

(3) Τεχνολογίες για τη γεννήτρια ή επεξεργασία μη φωνητικού περιεχομένου, όπως η γεννήτρια μουσικής και η επεξεργασία ήχου σκηνής;

(4) Γεννήτρια πρόσωπου, αντικατάσταση πρόσωπου, επεξεργασία ιδιοτήτων χαρακτήρα, χειρισμός πρόσωπου, χειρισμός χειρονομίας και άλλες τεχνικές για τη γεννήτρια ή επεξεργασία βιομετρικών χαρακτηριστικών όπως τα πρόσωπα σε εικόνες και βίντεο;

(5) Τεχνικές για την επεξεργασία μη βιολογικών χαρακτηριστικών σε εικόνες και βίντεο, όπως η βελτίωση εικόνας και η αποκατάσταση εικόνας;

(6) Τεχνολογίες για τη γεννήτρια ή επεξεργασία εικονικών σκηνών, όπως η αναδόμηση 3D.

Ρύθμιση Deepfakes

Η Κίνα εγκρίμησε τη χρήση της τεχνολογίας AI για τη διάδοση ψευδών ειδήσεων στο τέλος του 2019, κατά την οποία η CAC εξέφρασε ανησυχίες σχετικά με τις πιθανές επιπτώσεις της τεχνολογίας deepfakes, οδηγώντας πολλούς να σκεφτούν ότι η κινεζική κυβέρνηση θα απαγορεύσει τελικά την τεχνολογία deepfakes.

Ωστόσο, αυτό θα σήμαινε ότι η Κίνα θα εγκαταλείψει επίσημα одну από τις πιο πολιτικά και πολιτισμικά σημαντικές εξελίξεις στην ιστορία της γεννήτριας μέσων, της τεχνολογίας AI και ακόμη και της πολιτικής, και θα αποκόψει τον εαυτό της από τα οφέλη της παγκόσμιας και ανοιχτής επιστημονικής συνεργασίας.

NeRF Περιλαμβάνεται

Το Άρθρο 2.6 αναφέρεται στη γεννήτρια ή επεξεργασία εικονικών σκηνών, όπως η αναδόμηση 3D, μια πιο πρωτοποριακή τεχνολογία από την προσωπική προσομοίωση deepfakes, και μια που έχει επιτύχει τη μεγαλύτερη προβολή τα τελευταία δύο χρόνια μέσω της εμφάνισης των Νευρωνικών Πεδίων Ραδιότητας (NeRF), όπου η φωτομετρία χρησιμοποιείται για τη σύνθεση ολόκληρων σκηνών στο εξεταζόμενο.latent χώρο των μοντέλων μηχανικής μάθησης.

Ωστόσο, το NeRF επεκτείνει γρήγορα την εμβέλεια του από τα μοντέλα και τις περιηγήσεις περιβαλλόντων στην παραγωγή πλήρους σώματος βίντεο, με τους κινέζους ερευνητές να έχουν προχωρήσει μερικές σημαντικές καινοτομίες σε αυτόν τον τομέα.

Η Κίνα ST-NeRF σε δράση.

Ηχητικά Deepfakes Προτεραιότητα;

Εάν κάποιος θεωρήσει τη λίστα του Άρθρου 2 ως ένδειξη των τεχνολογιών βαθιάς συνθέσης που η Κίνα είναι πιο ανήσυχη να ελέγξει και να ρυθμίσει, αυτό θα υποδείκνυε ότι η κειμενογραφημένη AI-γεννήτρια ψευδής ειδήσεων είναι της πρωταρχικής ανησυχίας, με τη σύνθεση φωνής να προηγείται των βίντεο deepfakes σε σχέση με την πιθανή επίδρασή τους.

Εάν так, αυτό συμφωνεί με το γεγονός ότι το βίντεο deepfake δεν έχει χρησιμοποιηθεί σε κανένα έγκλημα που δεν σχετίζεται με την πορνογραφία (η Ασία δεν δίστασε να ποινικοποιήσει την πορνογραφία deepfake), ενώ η ηχητική deepfake έχει προταθεί ως ενεργός τεχνολογία σε τουλάχιστον δύο σημαντικά οικονομικά εγκλήματα, στο Ηνωμένο Βασίλειο το 2019 και στα Ηνωμένα Αραβικά Εμιράτα το 2021.

Καταχώρηση

Εάν εγκριθούν, τα προσχέδια θα υποχρεώσουν τους παρόχους υπηρεσιών βαθιάς συνθέσης να καταχωρήσουν τις σχετικές εφαρμογές τους στην πολιτεία, σύμφωνα με τις υφιστάμενες Διατάξεις για τη Διοίκηση των Αλγορίθμων Συμβουλών για Υπηρεσίες Ενημέρωσης στο Διαδίκτυο, και να συμμορφωθούν με όλες τις απαραίτητες διαδικασίες καταχώρησης. Οι παρόχοι βαθιάς συνθέσης θα πρέπει επίσης να συνεργαστούν ελεύθερα σε σχέση με την επιτήρηση και την έρευνα, και να παράσχουν ‘απαραίτητη τεχνική και δεδομένη υποστήριξη και βοήθεια’ κατά αίτηση.

Επιπλέον, οι παρόχοι θα πρέπει να καθιερώσουν φιλικές προς τον χρήστη πύλες για καταγγελίες, και να δημοσιεύσουν αναμενόμενα χρονικά όρια για την επεξεργασία των καταγγελιών, καθώς και να προσφέρουν ‘μηχανισμούς αναίρεσης φημών’ – αν και τα προσχέδια δεν παρέχουν λεπτομέρειες σχετικά με την εφαρμογή αυτού.

Παραβάσεις θα μπορούσαν να οδηγήσουν σε πρόστιμα μεταξύ 10.000 και 100.000 γουάν ($1.600 και $16.000), καθώς και να εκθέσουν τις εταιρείες που διαπράττουν παραβάσεις σε民ικές και ποινικές αγωγές.

* Μετάφραση από Google Translate, δείτε τον σύνδεσμο στην αρχή του άρθρου.

Πρώτη δημοσίευση 28ης Ιανουαρίου 2022.