Η OpenAI Δημιουργεί Συμβούλιο Ασφαλείας, Εκπαιδεύει Νέο Μοντέλο AI Μέσα σε Σκάνδαλα

Η OpenAI έχει κάνει σημαντικά βήματα στην προώθηση των τεχνολογιών του εξυπναίνοντος μηχανισμού, με την πιο πρόσφατη επιτυχία να είναι το σύστημα GPT-4o που τροφοδοτεί τον δημοφιλή chatbot ChatGPT. Σήμερα, η OpenAI ανακοίνωσε την ίδρυση eines νέου συμβουλίου ασφαλείας, το Συμβούλιο Ασφαλείας της OpenAI, και αποκάλυψε ότι έχει ξεκινήσει την εκπαίδευση ενός νέου μοντέλου AI.

Ποιος είναι στο Συμβούλιο Ασφαλείας της OpenAI;

Το νεοσύστατο Συμβούλιο Ασφαλείας της OpenAI έχει ως στόχο να παρέχει καθοδήγηση και εποπτεία σε κρίσιμες αποφάσεις ασφαλείας και ασφάλειας που σχετίζονται με τα έργα και τις επιχειρήσεις της εταιρείας. Ο πρωταρχικός στόχος του συμβουλίου είναι να διασφαλίσει ότι οι πρακτικές ανάπτυξης του εξυπναίνοντος μηχανισμού της OpenAI προτεραιοποιούν την ασφάλεια και συμμορφώνονται με ηθικές αρχές. Το συμβούλιο ασφαλείας αποτελείται από μια διαφορετική ομάδα ατόμων, συμπεριλαμβανομένων των εκτελεστικών της OpenAI, μελών του διοικητικού συμβουλίου και τεχνικών και πολιτικών εμπειρογνωμόνων.

Σημαντικά μέλη του Συμβουλίου Ασφαλείας της OpenAI περιλαμβάνουν:

• Sam Altman, Διευθύνων Σύμβουλος της OpenAI
• Bret Taylor, Πρόεδρος της OpenAI
• Adam D’Angelo, Διευθύνων Σύμβουλος της Quora και μέλος του διοικητικού συμβουλίου της OpenAI
• Nicole Seligman, πρώην γενικός δικηγόρος της Sony και μέλος του διοικητικού συμβουλίου της OpenAI

Στην αρχική φάση, το νέο συμβούλιο ασφαλείας και ασφάλειας θα επικεντρωθεί στην αξιολόγηση και ενίσχυση των υφιστάμενων διαδικασιών ασφαλείας και προστασίας της OpenAI. Το Συμβούλιο Ασφαλείας της OpenAI έχει ορίσει χρονοδιάγραμμα 90 ημερών για να παρέχει συστάσεις στο διοικητικό συμβούλιο σχετικά με τον τρόπο βελτίωσης των πρακτικών ανάπτυξης του εξυπναίνοντος μηχανισμού και των συστημάτων ασφαλείας της εταιρείας. Μόλις οι συστάσεις υιοθετηθούν, η OpenAI σχεδιάζει να τις δημοσιεύσει δημόσια με τρόπο που είναι συνεπής με τις σκέψεις ασφαλείας και ασφάλειας.

Εκπαίδευση του Νέου Μοντέλου AI

Παράλληλα με την ίδρυση του Συμβουλίου Ασφαλείας της OpenAI, η εταιρεία ανακοίνωσε ότι έχει ξεκινήσει την εκπαίδευση του επόμενου μοντέλου AI. Αυτό το τελευταίο μοντέλο εξυπναίνοντος μηχανισμού αναμένεται να ξεπεράσει τις ικανότητες του συστήματος GPT-4 που υποστηρίζει目前 τον chatbot ChatGPT. Αν και οι λεπτομέρειες για το νέο μοντέλο AI παραμένουν σπάνιες, η OpenAI έχει πει ότι θα ηγηθεί της βιομηχανίας και στις δύο ικανότητες και ασφάλεια.

Η ανάπτυξη αυτού του νέου μοντέλου AI υπογραμμίζει το γρήγορο ρυθμό καινοτομίας στον τομέα του εξυπναίνοντος μηχανισμού και τη δυνατότητα για γενικό εξυπνάινο μηχανισμό (AGI). Όσο τα συστήματα AI γίνονται πιο προηγμένα και ισχυρά, είναι κρίσιμο να προτεραιοποιούμε την ασφάλεια και να διασφαλίζουμε ότι αυτές οι τεχνολογίες αναπτύσσονται με ευθύνη.

Τα Πρόσφατα Σκάνδαλα και οι Αποχωρήσεις της OpenAI

Η ανανεωμένη εστίαση της OpenAI στην ασφάλεια έρχεται σε μια περίοδο εσωτερικής ταραχής και δημόσιας κριτικής. Τα τελευταία Wochen, η εταιρεία έχει αντιμετωπίσει κριτική από μέσα στα δικά της rangs, με τον ερευνητή Jan Leike να παραιτείται και να εκφράζει ανησυχίες ότι η ασφάλεια είχε πάρει τον πίσωadero από την ανάπτυξη “λαμπρών προϊόντων”. Η παραίτηση του Leike ακολούθησε την αποχώρηση του Ilya Sutskever, συνιδρυτή και επικεφαλή επιστήμονα της OpenAI.

Οι αποχωρήσεις του Leike και του Sutskever έχουν δημιουργήσει ερωτήματα σχετικά με τις προτεραιότητες της εταιρείας και την προσέγγισή της στην ασφάλεια του εξυπναίνοντος μηχανισμού. Οι δύο ερευνητές ηγούνταν της ομάδας “superalignment” της OpenAI, η οποία ήταν αφιερωμένη στην αντιμετώπιση μακροπρόθεσμων κινδύνων AI. Μετά τις παραίτησές τους, η ομάδα superalignment διαλύθηκε, που έβαλε thêm καύσιμα στις ανησυχίες σχετικά με την αφοσίωση της εταιρείας στην ασφάλεια.

Εκτός από την εσωτερική αναταραχή, η OpenAI έχει επίσης αντιμετωπίσει κατηγορίες για μίμηση φωνής στο chatbot ChatGPT. Ορισμένοι χρήστες έχουν ισχυριστεί ότι η φωνή του chatbot έχει μια αξιοπρεπή ομοιότητα με εκείνη της ηθοποιού Scarlett Johansson. Αν και η OpenAI έχει αρνηθεί ότι μιμείται σκόπιμα την Johansson, το περιστατικό έχει激发 μια ευρύτερη συζήτηση σχετικά με τις ηθικές επιπτώσεις του περιεχομένου που παράγεται από τον εξυπνάινο μηχανισμό και τη δυνατότητα για κακοποίηση.

Μια Ευρύτερη Συζήτηση για την Ηθική του AI

Όσο ο τομέας του εξυπναίνοντος μηχανισμού συνεχίζει να εξελίσσεται γρήγορα, είναι κρίσιμο για εταιρείες όπως η OpenAI να συμμετέχουν σε συνεχείς διαλόγους και συνεργασίες με ερευνητές, πολιτικούς και το κοινό για να διασφαλίσουν ότι οι τεχνολογίες AI αναπτύσσονται με ευθύνη και με ισχυρά μέτρα ασφαλείας. Οι συστάσεις που παρουσιάζονται από το Συμβούλιο Ασφαλείας της OpenAI και η δέσμευση της OpenAI για διαφάνεια θα συμβάλλουν στην ευρύτερη συζήτηση για την διακυβέρνηση του AI και θα βοηθήσουν να διαμορφώσουν το μέλλον αυτής της μετασχηματιστικής τεχνολογίας, αλλά μόνο ο χρόνος θα δείξει τι θα προκύψει από αυτό.