Η OpenAI ανακοινώνει έκθεση για την ασφάλεια της κοινότητας και νέα όρια στην πρόσβαση των εφήβων σε πληροφορίες για όπλα

Στις 30 Οκτωβρίου 2026, η OpenAI ανακοίνωσε μια Έκθεση για την Ασφάλεια της Κοινότητας σχετικά με την πρόληψη της βίας, την οποία θα επικαιροποιεί κάθε έξι μήνες. Παράλληλα, ανακοίνωσε νέα μέτρα προστασίας που περιορίζουν τις πληροφορίες για όπλα στις οποίες έχουν πρόσβαση οι έφηβοι και αυστηροποιούν τον τρόπο με τον οποίο το ChatGPT χειρίζεται ερωτήσεις για παλαιότερες μαζικές επιθέσεις. Η εταιρεία δήλωσε ότι το τρίτο τρίμηνο του 2026 παρέπεμψε περισσότερες από 200 υποθέσεις στις αρχές επιβολής του νόμου.

Η Έκθεση για την Ασφάλεια της Κοινότητας αναμένεται στις αρχές του 2027

Η OpenAI δεσμεύτηκε να δημοσιεύσει την Έκθεση για την Ασφάλεια της Κοινότητας, η οποία θα καλύπτει την πρόληψη της βίας και άλλα ζητήματα ασφάλειας της κοινότητας, καθώς και την αποτελεσματικότητα των μέτρων προστασίας της. Η εταιρεία δήλωσε ότι η έκθεση θα εξηγεί πώς εκπαιδεύει τα συστήματά της να εντοπίζουν, να διερευνούν και να αντιμετωπίζουν ζητήματα ασφάλειας της κοινότητας, θα παρουσιάζει ανωνυμοποιημένα παραδείγματα για το πώς εκδηλώνεται η βλάβη που σχετίζεται με τη βία, θα αναδεικνύει νέα μέτρα μετριασμού των κινδύνων και αλλαγές πολιτικής και θα περιλαμβάνει σχετικά δεδομένα. Η πρώτη έκθεση προγραμματίζεται για τις αρχές του 2027 και θα καλύπτει το δεύτερο εξάμηνο του 2026. Στη συνέχεια, θα επικαιροποιείται κάθε έξι μήνες.

Η OpenAI δήλωσε ότι στόχος της έκθεσης είναι να δώσει στους ανθρώπους μια σαφή εικόνα για το πώς τα μοντέλα της εντοπίζουν και αντιμετωπίζουν επιβλαβείς συμπεριφορές, για τους κινδύνους που διαπιστώνει στην πράξη και για τα μέτρα που λαμβάνει για την αντιμετώπισή τους.

Η OpenAI δήλωσε ότι το έργο της για την ασφάλεια περιλαμβάνει την ενημέρωση των αρχών επιβολής του νόμου για επικείμενες απειλές βίας και ότι οι σχετικές παραπομπές συμβάλλουν ουσιαστικά στην αποτροπή βίαιων σχεδίων. Η εταιρεία ανέφερε ότι εξακολουθεί να βασίζεται σε ειδικούς ψυχικής υγείας και συμπεριφοράς για την αξιολόγηση δύσκολων υποθέσεων. Επίσης, περιέγραψε τον διακριτό ρόλο που μπορούν να διαδραματίσουν οι εταιρείες τεχνητής νοημοσύνης, παράλληλα με τις αρχές επιβολής του νόμου, τα μέλη των οικογενειών, τους επαγγελματίες ψυχικής υγείας και τους υπεύθυνους χάραξης πολιτικής.

Αυστηρότεροι περιορισμοί στο περιεχόμενο για μαζικές επιθέσεις

Η OpenAI δήλωσε ότι τα μοντέλα της εκπαιδεύονται ώστε να μη δίνουν οδηγίες που θα βοηθούσαν κάποιον να σχεδιάσει ή να διαπράξει πράξεις βίας. Η εταιρεία επιβάλλει πρόσθετους περιορισμούς στον τρόπο με τον οποίο το ChatGPT απαντά σε ερωτήσεις για παλαιότερες μαζικές επιθέσεις και για όσους τις διέπραξαν, καθοδηγώντας το μοντέλο να παρέχει λιγότερο λεπτομερείς πληροφορίες, ακόμη κι όταν αυτές είναι διαθέσιμες από άλλες διαδικτυακές πηγές. Οι αυστηρότερες πολιτικές περιορίζουν τις αναπαραστάσεις παλαιότερων μαζικών επιθέσεων, συμπεριλαμβανομένων λεπτομερειών για τα όπλα και τον εξοπλισμό που χρησιμοποιήθηκαν και για τον τρόπο με τον οποίο αποκτήθηκαν, καθώς και τις λεπτομερείς συγκρίσεις ως προς την έκταση της βλάβης, οι οποίες, σύμφωνα με την OpenAI, θα μπορούσαν να ενισχύσουν τη φήμη του δράστη. Οι περιορισμοί ισχύουν ανεξάρτητα από την ηλικία του χρήστη ή τον λόγο για τον οποίο ρωτά.

Οι άνθρωποι εξακολουθούν να μπορούν να ζητούν από το ChatGPT να τους βοηθήσει να κατανοήσουν αυτά τα γεγονότα, τον αντίκτυπό τους στα θύματα και τις κοινότητες, καθώς και το πώς μπορούν να αναγνωρίζουν προειδοποιητικά σημάδια και να αποτρέπουν μελλοντικά περιστατικά βίας.

Τον Μάιο του 2026, η εταιρεία εξήγησε πώς το ChatGPT μπορεί να χρησιμοποιεί σύντομες, πραγματολογικές περιλήψεις παλαιότερων προειδοποιητικών ενδείξεων, ώστε να απαντά με μεγαλύτερη προσοχή σε μια μεταγενέστερη συνομιλία. Η OpenAI δήλωσε ότι επεκτείνει αυτή την προσπάθεια, ώστε, όταν πρόσφατες συνομιλίες εμφανίζουν προειδοποιητικές ενδείξεις πιθανής βίας, το ChatGPT να απαντά με μεγαλύτερη επιφύλαξη όταν παρέχει πληροφορίες που θα μπορούσαν να χρησιμοποιηθούν κακόβουλα. Εργάζεται επίσης για να εφαρμόζει αυτούς τους αυστηρότερους περιορισμούς όταν προβλέπει ότι κάποιος είναι κάτω των 18 ετών, ακόμη κι αν στις συνομιλίες του δεν υπάρχουν ενδείξεις βίαιης πρόθεσης.

Η OpenAI αποκλείει λογαριασμούς για τους οποίους διαπιστώνει ότι έχουν παραβιάσει τις πολιτικές της σχετικά με τη βίαιη δραστηριότητα. Η εταιρεία δήλωσε ότι συνεργάζεται με ειδικούς ψυχικής υγείας και πρόληψης της βίας για να αναπτύξει πρόσθετους αυτοματοποιημένους τρόπους έγκαιρης παρέμβασης: όταν μια συνομιλία δείχνει ότι κάποιος έχει εμμονή με τη βία ή με την ιδέα να βλάψει σοβαρά κάποιον άλλο, το ChatGPT θα μπορεί να τερματίζει αυτόματα τη συνομιλία. Αν το ChatGPT τερματίσει για αυτόν τον λόγο περισσότερες από μία συνομιλίες, η OpenAI ενδέχεται να αναστείλει προσωρινά τον λογαριασμό.

Πρόσθετα μέτρα προστασίας για χρήστες κάτω των 18 ετών

Το ChatGPT για εφήβους εφαρμόζει μέτρα προστασίας κατάλληλα για την ηλικία των χρηστών κάτω των 18 ετών, ενώ η OpenAI επιβάλλει περαιτέρω περιορισμούς στις πληροφορίες για όπλα που μπορούν να λάβουν οι έφηβοι, ακόμη κι όταν μια ερώτηση φαίνεται ακίνδυνη. Οι πολιτικές της εταιρείας ήδη απαγορεύουν την παροχή βοήθειας σε οποιονδήποτε για τον σχεδιασμό ή τη διάπραξη πράξεων βίας και περιορίζουν τη βοήθεια προς εφήβους για την εύρεση ή την απόκτηση όπλων. Η επέκταση των περιορισμών καλύπτει πρακτικές πληροφορίες για όπλα και συστήματα ασφαλείας που θα μπορούσαν να χρησιμοποιηθούν κακόβουλα για τη διευκόλυνση της βίας, ακόμη κι όταν δεν υπάρχουν ενδείξεις βίαιης πρόθεσης. Η OpenAI δήλωσε ότι οι έφηβοι εξακολουθούν να μπορούν να χρησιμοποιούν το ChatGPT για να συμβάλλουν στην πρόληψη και την αποκλιμάκωση της βίας, να αναζητούν υποστήριξη και να επικοινωνούν με έναν έμπιστο ενήλικα.

Η OpenAI δήλωσε ότι έχει ενισχύσει το σύστημα πρόβλεψης ηλικίας, το οποίο αναλύει ενδείξεις όπως τα πρότυπα συμπεριφοράς για να εκτιμήσει αν ένας χρήστης είναι πιθανό να είναι κάτω ή πάνω από 18 ετών. Το σύστημα αξιολογεί συνεχώς νέες ενδείξεις καθώς οι άνθρωποι χρησιμοποιούν το ChatGPT και, όταν κρίνεται κατάλληλο, μεταφέρει τους χρήστες στην εμπειρία για άτομα κάτω των 18 ετών. Οι χρήστες που μεταφέρονται λανθασμένα σε αυτή την εμπειρία μπορούν να επιβεβαιώσουν ότι είναι ενήλικες μέσω της Persona, του συνεργάτη της OpenAI για την επαλήθευση ηλικίας, και να αρθεί η εφαρμογή των πρόσθετων μέτρων προστασίας για εφήβους στον λογαριασμό τους.

Οι συνδεδεμένοι λογαριασμοί γονικού ελέγχου περιλαμβάνουν ειδοποιήσεις ασφάλειας, οι οποίες ενδέχεται να αποστέλλονται όταν ειδικά εκπαιδευμένοι αξιολογητές εντοπίζουν σοβαρή ανησυχία για αυτοτραυματισμό και συμπεριφορές που μπορεί να συνδέονται με διατροφικές διαταραχές. Τον Ιούλιο του 2026, η OpenAI επέκτεινε αυτές τις ειδοποιήσεις, ώστε να ενημερώνονται οι γονείς αν ο λογαριασμός ενός εφήβου απενεργοποιηθεί λόγω παραβίασης των πολιτικών χρήσης της εταιρείας σχετικά με τη βία. Η εταιρεία δήλωσε επίσης ότι εργάζεται για την καθιέρωση ειδοποιήσεων προς τους γονείς σε περίπτωση που αναστείλει τον λογαριασμό ενός εφήβου επειδή συζητά επανειλημμένα για τη βία.

Τα μέτρα βασίζονται στις λειτουργίες ασφάλειας για εφήβους που εισήγαγε η OpenAI νωρίτερα, το 2026. Η εταιρεία παρουσίασε το ChatGPT για εφήβους στις 18 Αυγούστου 2026, εντάσσοντας αυτόματα τους χρήστες που εκτιμάται ότι είναι κάτω των 18 ετών ή δηλώνουν ηλικία μεταξύ 13 και 17 ετών σε ένα περιβάλλον με προεπιλεγμένα μέτρα προστασίας, βασισμένα στις Αρχές για άτομα κάτω των 18 ετών του Model Spec της. Η OpenAI άρχισε να διαθέτει σταδιακά την εκτίμηση ηλικίας στα καταναλωτικά προγράμματα του ChatGPT στις 20 Ιανουαρίου 2026, χρησιμοποιώντας ενδείξεις από τη συμπεριφορά και τα στοιχεία του λογαριασμού για να εκτιμήσει αν ένας λογαριασμός ανήκει πιθανότατα σε άτομο κάτω των 18 ετών· σε ενημέρωση της 25ης Αυγούστου 2026 αναφέρεται ότι το σύστημα είχε αρχίσει να διατίθεται σταδιακά στην ΕΕ.

Η OpenAI δήλωσε ότι τα μέτρα προστασίας που περιγράφονται στην ανακοίνωση θα αρχίσουν να διατίθενται σταδιακά μέσα στις επόμενες εβδομάδες και ότι θα συνεχίσει να τα βελτιώνει.