Ο νέος κώδικας δεοντολογίας της ΕΕ για την IA που θα επηρεάσει την ρύθμιση

Η Ευρωπαϊκή Επιτροπή εισήγαγε πρόσφατα einen Κώδικα Δεοντολογίας που μπορεί να αλλάξει τον τρόπο λειτουργίας των εταιρειών IA. Δεν είναι απλώς μια άλλη σειρά οδηγιών, αλλά μάλλον μια πλήρης αναθεώρηση της εποπτείας της IA που ακόμη και οι μεγαλύτεροι παίκτες δεν μπορούν να αγνοήσουν.

Τι το κάνει διαφορετικό; Για πρώτη φορά, βλέπουμε συγκεκριμένες κανόνες που θα μπορούσαν να αναγκάσουν εταιρείες όπως η OpenAI και η Google να ανοίξουν τα μοντέλα τους για εξωτερικό έλεγχο, μια θεμελιώδης αλλαγή στον τρόπο με τον οποίο αναπτύσσονται και αναπτύσσονται τα συστήματα IA στην Ευρώπη.

Οι Νέοι Παίκτες της Εποπτείας της IA

Η Ευρωπαϊκή Επιτροπή έχει δημιουργήσει ένα πλαίσιο που στοχεύει συγκεκριμένα σε αυτά που ονομάζουν “συστήματα IA με συστημικό κίνδυνο”. Μιλάμε για μοντέλα που έχουν εκπαιδευτεί με περισσότερες από 10^25 FLOPs υπολογιστικής ισχύος – ένα όριο που το GPT-4 έχει ήδη ξεπεράσει.

Οι εταιρείες θα πρέπει να αναφέρουν τους πλάνους εκπαίδευσης της IA δύο εβδομάδες πριν από την έναρξή τους.

Στον πυρήνα του νέου συστήματος υπάρχουν δύο βασικά έγγραφα: το Πλαίσιο Ασφάλειας και Ασφάλειας (SSF) και η Αναφορά Ασφάλειας και Ασφάλειας (SSR). Το SSF είναι ένας綜合τικός οδικός χάρτης για τη διαχείριση των κινδύνων της IA, καλύπτοντας όλα, από την αρχική αναγνώριση του κινδύνου έως τις συνεχιζόμενες μέτρα ασφάλειας. Εν τω μεταξύ, η SSR χρησιμεύει ως ένα λεπτομερές εργαλείο τεκμηρίωσης για κάθε μοντέλο.

Εξωτερικός Έλεγχος για Μοντέλα IA Υψηλού Κινδύνου

Η Επιτροπή απαιτεί εξωτερικό έλεγχο για μοντέλα IA υψηλού κινδύνου. Αυτό δεν είναι ο τυπικός εσωτερικός έλεγχος ποιότητας – ανεξάρτητοι εμπειρογνώμονες και το Γραφείο IA της ΕΕ αναλαμβάνουν να ελέγξουν αυτά τα συστήματα.

Οι επιπτώσεις είναι μεγάλες. Αν είσαι η OpenAI ή η Google, τώρα πρέπει να αφήσεις εξωτερικούς εμπειρογνώμονες να εξετάσουν τα συστήματά σου. Το σχέδιο αναφέρει ρητά ότι οι εταιρείες πρέπει “να διασφαλίσουν επαρκή εξωτερικό έλεγχο πριν από την ανάπτυξη”. Αυτό είναι μια τεράστια αλλαγή από την τρέχουσα προσέγγιση της αυτορύθμισης.

Η ερώτηση που ανακύπτει είναι: Ποιος είναι αρμόδιος για τον έλεγχο αυτών των εξαιρετικά σύνθετων συστημάτων; Το Γραφείο IA της ΕΕ εισέρχεται σε έδαφος που δεν έχει χαρτογραφηθεί ποτέ. Θα χρειαστούν εμπειρογνώμονες που θα μπορέσουν να κατανοήσουν και να αξιολογήσουν τη νέα τεχνολογία IA, διατηρώντας ταυτόχρονα αυστηρή εμπιστευτικότητα για ό,τι ανακαλύπτουν.

Αυτή η απαίτηση εξωτερικού ελέγχου μπορεί να γίνει υποχρεωτική σε όλη την ΕΕ μέσω μιας πράξης εφαρμογής της Επιτροπής. Οι εταιρείες μπορούν να προσπαθήσουν να αποδείξουν τη συμμόρφωσή τους μέσω “ικανοποιητικών εναλλακτικών μέσων”, αλλά κανείς δεν ξέρει ακριβώς τι σημαίνει αυτό στην πράξη.

Η Προστασία Πνευματικών Δικαιωμάτων Γίνεται Σοβαρή

Η ΕΕ λαμβάνει επίσης σοβαρά μέτρα για την προστασία των πνευματικών δικαιωμάτων. Αναγκάζει τους παρόχους IA να δημιουργήσουν σαφείς πολιτικές για τον τρόπο με τον οποίο αντιμετωπίζουν την πνευματική ιδιοκτησία.

Η Επιτροπή υποστηρίζει το πρότυπο robots.txt – ένα απλό αρχείο που λέει στους web crawlers πού μπορούν και πού δεν μπορούν να πάνε. Αν ένας ιστότοπος λέει “όχι” μέσω του robots.txt, οι εταιρείες IA δεν μπορούν απλώς να το αγνοήσουν και να εκπαιδεύσουν τα μοντέλα τους με αυτό το περιεχόμενο. Οι μηχανές αναζήτησης δεν μπορούν να τιμωρήσουν τους ιστότοπους για τη χρήση αυτών των εξαιρέσεων. Đây είναι μια κίνηση που τοποθετεί τους δημιουργούς περιεχομένου πάλι στο τιμόνι.

Οι εταιρείες IA θα πρέπει επίσης να αποφεύγουν ενεργά τους ιστότοπους πειρατείας όταν συλλέγουν δεδομένα εκπαίδευσης. Η ΕΕ τους δείχνει sogar τον “Κατάλογο Παρακολούθησης για την Πλαστογράφηση και την Πειρατεία” ως σημείο εκκίνησης.

Τι Αυτό Σημαίνει για το Μέλλον

Η ΕΕ δημιουργεί ένα εντελώς νέο πεδίο για την ανάπτυξη της IA. Αυτές οι απαιτήσεις θα επηρεάσουν όλα, από τον τρόπο με τον οποίο οι εταιρείες σχεδιάζουν τα προγράμματα IA τους μέχρι τον τρόπο με τον οποίο συλλέγουν τα δεδομένα εκπαίδευσης.

Κάθε μεγάλη εταιρεία IA αντιμετωπίζει τώρα μια επιλογή. Θα πρέπει είτε:

• Να ανοίξουν τα μοντέλα τους για εξωτερικό έλεγχο
• Να βρουν τι σημαίνουν αυτά τα μυστηριώδη “εναλλακτικά μέσα” συμμόρφωσης
• Ή να περιορίσουν τις δραστηριότητές τους στην αγορά της ΕΕ

Η χρονολογία εδώ έχει επίσης σημασία. Αυτό δεν είναι κάτι που θα συμβεί σε ένα μακρινό μέλλον – η Επιτροπή κινείται γρήγορα. Κατάφεραν να συγκεντρώσουν περίπου 1.000 ενδιαφερόμενους, χωρισμένους σε τέσσερις ομάδες εργασίας, όλους τους οποίους εργάζονται για την εξειδίκευση των λεπτομερειών του πώς αυτό θα λειτουργήσει.

Για τις εταιρείες που xây dựng συστήματα IA, οι μέρες της τακτικής “κινήσου γρήγορα και σκέψου τις κανόνες αργότερα” μπορεί να φτάνουν στο τέλος. Θα πρέπει να αρχίσουν να σκέφτονται αυτές τις απαιτήσεις τώρα, όχι όταν θα γίνουν υποχρεωτικές. Αυτό σημαίνει:

• Σχεδιασμός για εξωτερικούς ελέγχους στο χρονοδιάγραμμα ανάπτυξής τους
• Δημιουργία ρομπούστ συστημάτων συμμόρφωσης με τα πνευματικά δικαιώματα
• Κατασκευή πλαισίων τεκμηρίωσης που ταιριάζουν με τις απαιτήσεις της ΕΕ

Η πραγματική επίδραση αυτών των κανονισμών θα αναπτυχθεί τους επόμενους μήνες. Ενώ κάποιες εταιρείες μπορεί να αναζητήσουν τρόπους να παρακαμφθούν, άλλες θα ενσωματώσουν αυτές τις απαιτήσεις στις διαδικασίες ανάπτυξής τους. Το πλαίσιο της ΕΕ θα μπορούσε να επηρεάσει τον τρόπο με τον οποίο αναπτύσσεται η IA παγκοσμίως, ιδιαίτερα αν άλλες περιοχές ακολουθήσουν με παρόμοιες μέτρα εποπτείας. Όσο αυτά τα κανόνες περνούν από το σχέδιο στην εφαρμογή, η βιομηχανία IA αντιμετωπίζει την μεγαλύτερη ρυθμιστική αλλαγή της μέχρι τώρα.