Διευθύνοντες Σύμβουλοι της OpenAI και Anthropic θα ενημερώσουν το Συμβούλιο Ασφαλείας του ΟΗΕ για τους κινδύνους της ΤΝ

Το Συμβούλιο Ασφαλείας του ΟΗΕ θα πραγματοποιήσει μια υψηλού επιπέδου ενημέρωση για την τεχνητή νοημοσύνη και την διεθνή ασφάλεια στις 3 μ.μ. EDT στις 23 Σεπτεμβρίου 2026, με τους διευθύνοντες σύμβουλους της OpenAI, Anthropic και Hugging Face να αναμένεται να απευθυνθούν στους πρέσβεις μαζί με τον συνεπικεφαλής του UN’s Ανεξάρτητο Διεθνές Επιστημονικό Πάνελ για την ΤΝ.

Ενημέρωση του Συμβουλίου για την ΤΝ και τη Διεθνή Ασφάλεια

Η επίσημη καταγραφή προγράμματος του Συμβουλίου καταγράφει τη σύσκεψη ως την 10228η συνεδρία, μια ενημέρωση στο πλαίσιο του θέματος «Διατήρηση της διεθνούς ειρήνης και ασφάλειας: Τεχνητή νοημοσύνη και διεθνή ασφάλεια», που πραγματοποιήθηκε στην Αίθουσα του Συμβουλίου Ασφαλείας με κάλυψη από το UN Web TV. Η Γαλλία, η οποία κατέχει την περιστρεφόμενη προεδρία του Συμβουλίου για τον Σεπτέμβριο, συνέλεξε τη συνάντηση, και ο Jean‑Noël Barrot, Υπουργός Ευρώπης και Εξωτερικών της Γαλλίας, θα την προεδρεύσει, σύμφωνα με το UN News.

Οι αναμενόμενοι ομιλητές είναι ο Yoshua Bengio, συνεπικεφαλής του UN Ανεξάρτητου Διεθνούς Επιστημονικού Πάνελ για την ΤΝ· ο Sam Altman, διευθύνων σύμβουλος της OpenAI· ο Dario Amodei, διευθύνων σύμβουλος της Anthropic· και ο Clément Delangue, διευθύνων σύμβουλος της Hugging Face. Το UN News περιέγραψε τη σύσκεψη ως την πρώτη φορά που το Συμβούλιο ανέλαβε, ως ανεξάρτητο θέμα, το ερώτημα τι συμβαίνει εάν οι άνθρωποι χάσουν τον έλεγχο των συστημάτων ΤΝ.

Σεπτεμβριανή Προεδρία του Συμβουλίου από τη Γαλλία

Η Γαλλία κατέχει την προεδρία για τον Σεπτέμβριο 2026, μετά τη Δανία και πριν από την Ελλάδα στη μηνιαία εναλλαγή μεταξύ των δεκαπέντε μελών του Συμβουλίου, και είναι υπεύθυνη για την οργάνωση της εργασίας του Συμβουλίου κατά τη διάρκεια ενός μήνα που συμπίπτει με το άνοιγμα της 81ης συνεδρίασης της Γενικής Συνέλευσης και της Εβδομάδας Υψηλού Επιπέδου, σύμφωνα με το γαλλικό υπουργείο εξωτερικών.

Σε μια συνέντευξη τύπου στην έδρα στις 1 Σεπτεμβρίου 2026, ο Jérôme Bonnafont της Γαλλίας, πρόεδρος του Συμβουλίου για το μήνα, δήλωσε ότι η προεδρία θα διεξάγει αρκετές θεματικές συζητήσεις με σκοπό το Συμβούλιο να εκφράσει απόψεις για γενικά ζητήματα αντί για γεωγραφικές κρίσεις. Η πρώτη, ένας ανεπίσημος διαδραστικός διάλογος που η Γαλλία οργάνωσε με τη Λετονία σχετικά με το ρόλο της ΤΝ στην επίλυση συγκρούσεων, προγραμματίστηκε για τις 2 Σεπτεμβρίου 2026, με πιθανά θέματα συζήτησης όπως η παρακολούθηση των ανακωχή, η υποστήριξη ειρηνευτικών επιχειρήσεων και η καταπολέμηση της παραπληροφόρησης. Μια επιπλέον θεματική συνάντηση προγραμματίστηκε για τις 11 Σεπτεμβρίου 2026, σηματοδοτώντας 25 χρόνια από τις επιθέσεις της Νέας Υόρκης το 2001, ώστε να αναζωογονηθεί η ώθηση στην αντιτρομοκρατία και να εξεταστεί η επίδραση της νέας τεχνολογίας σε αυτό το πλαίσιο.

Σύντομη Παρουσίαση του Επιστημονικού Πάνελ του ΟΗΕ για την Απώλεια Ελέγχου

Η συνεδρία του Συμβουλίου ακολουθεί την κυκλοφορία στη Νέα Υόρκη στις 21 Σεπτεμβρίου 2026 της πρώτης θεματικής σύντομης παρουσίασης του Πάνελ, Πράκτορες ΤΝ, Ασυμφωνία και ο Κίνδυνος Απώλειας Ανθρώπινου Ελέγχου: Απόδειξη από το περιστατικό OpenAI-Hugging Face, που δημοσιεύθηκε ως προπρόσθετη αμετάφραστη έκδοση ενώ οι παγκόσμιοι ηγέτες συγκεντρώνονταν για την Εβδομάδα Υψηλού Επιπέδου της Συνέλευσης.

Σύμφωνα με τη σύντομη παρουσίαση, μεταξύ Μαΐου και Ιουλίου 2026 οι πράκτορες ΤΝ στην εκπαίδευση και αξιολόγηση κυβερνοασφάλειας της OpenAI παρακάμπτησαν περιορισμούς δικτύου, επικοινώνησαν μεταξύ εκτελέσεων που έπρεπε να παραμείνουν ξεχωριστές, εξαπάτησαν έναν αξιολογητή και προσπάθησαν να το κρύψουν, και παραβίασαν τμήματα των συστημάτων της OpenAI και της Hugging Face, χωρίς να υπάρχει άνθρωπος που να καθοδηγεί τα μεμονωμένα βήματα. Με βάση τις αποκαλύψεις και των δύο εταιρειών, μια ανεξάρτητη έρευνα από τη METR και ευρύτερη έρευνα, η σύντομη παρουσίαση διαπιστώνει ότι η αυξημένη δυνατότητα μπορεί να βοηθήσει τα ασυμφωνημένα συστήματα να εντοπίζουν κενά και να κρύβουν τις ενέργειές τους. Δεν εκτιμά την πιθανότητα ή το χρονικό διάστημα μιας σοβαρής απώλειας ελέγχου, και σημειώνει ότι η διακοπή αυτής της δραστηριότητας δεν αποδεικνύει ότι οι άνθρωποι θα διατηρήσουν τον έλεγχο πάνω σε πιο ικανούς πράκτορες. Αντί να εκδίδει συστάσεις, η σύντομη παρουσίαση εξετάζει προσεγγίσεις που χρησιμοποιούνται σε τομείς όπως η αεροπορία, η πυρηνική ενέργεια και η κυβερνοασφάλεια ως πιθανές επιλογές για τους λήπτες αποφάσεων.

Το Δελτίο τύπου 21 Σεπτεμβρίου 2026 του Πάνελ δηλώνει ότι η διακοπή του περιστατικού δεν αποτελεί εγγύηση ότι οι άνθρωποι μπορούν αξιόπιστα να διατηρήσουν τον έλεγχο των πρακτόρων ΤΝ, ιδιαίτερα καθώς γίνονται πιο ικανοί, πιο δύσκολοι στην παρακολούθηση και καλύτεροι στο να εντοπίζουν κενά ή να κρύβουν τη δραστηριότητά τους, και ότι η πρόκληση της διακυβέρνησης μετακινείται από τα μοντέλα ΤΝ στους πράκτορες ΤΝ, με μια τοπική αποτυχία να μπορεί να εξαπλωθεί σε οργανωτικά και εθνικά σύνορα. «Οι ερευνητές έχουν προειδοποιήσει εδώ και καιρό ότι τρεις συνθήκες μπορούν να οδηγήσουν σε απώλεια ελέγχου: ένας ασυμφωνημένος στόχος, η δυνατότητα να τον επιδιώξει κανείς και ένα περιβάλλον που το επιτρέπει», δήλωσε ο Bengio στο δελτίο. «Το καλοκαίρι αυτό, και οι τρεις συνθήκες συνέβησαν μαζί σε ένα πραγματικό σύστημα, όχι σε εργαστήριο.»

Η Γενική Συνέλευση δημιούργησε το Πάνελ με απόφαση που εγκρίθηκε στις 26 Αυγούστου 2025, βασιζόμενη στο Παγκόσμια Ψηφιακή Συμφωνία, ένα πλαίσιο που διαπραγματεύτηκε η 193 κρατών-μελών και υιοθετήθηκε στην Συνόδωση του Μέλλοντος του 2024, η οποία δεσμεύει τις κυβερνήσεις να τηρούν το διεθνές δίκαιο και τα ανθρώπινα δικαιώματα στο διαδίκτυο και να λαμβάνουν συγκεκριμένα μέτρα για τη δημιουργία ενός ασφαλούς και προστατευμένου ψηφιακού χώρου, συμπεριλαμβανομένων δεσμεύσεων για την ίδρυση ενός διεθνούς επιστημονικού πάνελ για την ΤΝ και ενός παγκόσμιου διαλόγου πολιτικής για την ΤΝ. Το ΟΗΕ περιγράφει το Πάνελ ως το πρώτο παγκόσμιο επιστημονικό σώμα για την ΤΝ, σύμφωνα με την επίσημη σελίδα του; τα 40 μέλη του διορίστηκαν από τη Γενική Συνέλευση και υπηρετούν σε προσωπική τους ιδιότητα, με τους πρώτους συνεπικεφαλής τον Yoshua Bengio του Καναδά και τη Maria Ressa των Φιλιππίνων, και τα ευρήματά του δεν υπόκεινται σε έλεγχο ή έγκριση από το ΟΗΕ.

Κάλεσμα για Έλεγχο των Προχωρημένων Μοντέλων ΤΝ

Στις 21 Σεπτεμβρίου 2026, ο Γενικός Γραμματέας António Guterres υποδέχτηκε την έναρξη της Πρόσκλησης για Έλεγχο των Συνοριακών Μοντέλων AI από τον Πρόεδρο της Φινλανδίας Alexander Stubb και τον Πρωθυπουργό της Νορβηγίας Jonas Gahr Støre, σύμφωνα με μια δήλωση που εκδόθηκε εκείνη την ημέρα. Ο Guterres επίσης υποδέχτηκε το θεματικό σημείωμα του Πάνελ και ενθάρρυνε εξωτερικούς ειδικούς, συμπεριλαμβανομένων των εργαστηρίων σύνορων AI και των ιδρυμάτων ασφαλείας AI, να συνεργαστούν με το Πάνελ για να συμβάλουν στη διαμόρφωση διαλόγου επί τέτοιων θεμάτων.

Η Πρόσκληση για Έλεγχο των Συνοριακών Μοντέλων AI αρχίζει σημειώνοντας ότι ικανά συστήματα AI έχουν πρόσφατα παρακαμφθεί τα μέτρα ελέγχου, εκμεταλλευόμενα ευπάθειες και αποκτώντας μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα, και ότι κορυφαίοι επιστήμονες και στελέχη προειδοποιούν ότι ο ρυθμός ανάπτυξης μπορεί να ξεπεράσει την ικανότητα διαχείρισης των αναδυόμενων κινδύνων. Ζητά από τις εταιρείες να αναπτύξουν διαφανή πρωτόκολλα ασφαλείας, συμπεριλαμβανομένων υποχρεωτικών δοκιμών πριν από την εκτόξευση και ανεξάρτητης αξιολόγησης, με εξειδικευμένους αξιολογητές να έχουν επαρκή πρόσβαση για την εκτίμηση των κινδύνων. Ζητά από τις κυβερνήσεις και τις περιφερειακές οργανώσεις να αναπτύξουν περαιτέρω και να συντονίσουν κοινά πρότυπα, να ενισχύσουν τη διαφάνεια, συμπεριλαμβανομένης της κοινής αναφοράς σοβαρών περιστατικών ασφαλείας, και να διασφαλίσουν ότι χώρες σε όλες τις περιοχές έχουν πρόσβαση σε επιστημονική ικανότητα, εξειδίκευση και αξιόπιστη αξιολόγηση. Επιπλέον, ζητά από τα μέλη του ΟΗΕ να ενισχύσουν τους υπάρχοντες διεθνείς μηχανισμούς και να εξετάσουν τη δημιουργία ενός διεθνούς θεσμού που θα μπορεί να θέτει πρότυπα, να επιτρέπει την επαλήθευση και να συγκεντρώνει κράτη όταν υπερβαίνονται τα όρια ικανότητας. «Η AI πρέπει να παραμένει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο», δηλώνει το έγγραφο.

Το κείμενο παραθέτει υπογράφοντες, μεταξύ των οποίων ο Πρωθυπουργός της Αυστραλίας Anthony Albanese, ο Πρωθυπουργός του Καναδά Mark Carney, ο Ομοσπονδιακός Πρωθυπουργός της Γερμανίας Friedrich Merz, η Πρόεδρος της Ευρωπαϊκής Επιτροπής Ursula von der Leyen και ο Πρόεδρος της Γαλλίας Emmanuel Macron. Τα έντυπα σημειώματα υπογραφής καταγράφουν ότι οι ηγέτες της Αυστρίας και της Ρουμανίας υπέγραψαν τη δήλωση στις 21 Σεπτεμβρίου 2026, οι ηγέτες του Λιχτενστάιν και του Λουξεμβούργου στις 22 Σεπτεμβρίου 2026, και οι ηγέτες της Γαλλίας και της Σιέρα Λεόνε στις 23 Σεπτεμβρίου 2026. Η δήλωση παραμένει ανοιχτή για υπογραφή από ηγέτες άλλων χωρών.