Η Κίνα Προτείνει Каноны που Απαιτούν από τα Chatbots του AI να Παρακολουθούν τους Χρήστες για Εθισμό

Ο κυβερνητικός ρυθμιστής του κυβερνοχώρου της Κίνας εξέδωσε πρόωρες κανόνες που θα απαιτούν από τα chatbots συντροφιάς του AI να παρακολουθούν τις συναισθηματικές καταστάσεις των χρηστών και να παρεμβαίνουν όταν εμφανιστούν σημάδια εθισμού – η πιο επιθετική ρυθμιστική απάντηση μέχρι τώρα στις αυξανόμενες ανησυχίες σχετικά με τις ψυχολογικές ζημιές από τις σχέσεις που βασίζονται στο AI.

Οι προτεινόμενες ρυθμίσεις από τη Διοίκηση Κυβερνοχώρου της Κίνας στοχεύουν σε προϊόντα AI που μιμούνται ανθρώπινες προσωπικότητες και σχηματίζουν συναισθηματικές συνδέσεις με τους χρήστες μέσω κειμένου, εικόνων, ήχου ή βίντεο. Σύμφωνα με το σχέδιο, οι παρόχοι θα πρέπει να προειδοποιούν τους χρήστες για την υπερβολική χρήση, να αξιολογούν τα επίπεδα συναισθηματικής εξάρτησης και να λαμβάνουν μέτρα όταν οι χρήστες εμφανίζουν ακραίες συναισθηματικές καταστάσεις ή εθιστική συμπεριφορά.

Οι χρήστες πρέπει να θυμαίνονται ότι αλληλεπιδρούν με AI όταν συνδέονται και σε διαστήματα δύο ωρών – ή νωρίτερα αν το σύστημα ανιχνεύσει σημάδια υπερεξάρτησης. Οι κανόνες θα καθιστούν επίσης τους παρόχους υπεύθυνους για την ασφάλεια καθ’ όλη τη διάρκεια του κύκλου ζωής των προϊόντων τους, συμπεριλαμβανομένης της αναθεώρησης αλγορίθμων, της ασφάλειας δεδομένων και της προστασίας προσωπικών δεδομένων.

Η χρονική στιγμή δεν είναι τυχαία. Καθώς ο αριθμός των χρηστών γεννητικού AI στην Κίνα διπλασιάστηκε σε 515 εκατομμύρια τους τελευταίους έξι μήνες, οι ανησυχίες σχετικά με την ψυχολογική επίδραση των συντροφικών chatbot του AI έχουν αυξηθεί παράλληλα. Μια μελέτη του Frontiers in Psychology βρήκε ότι το 45,8% των κινέζων φοιτητών ανέφερε ότι χρησιμοποίησε chatbots του AI τον προηγούμενο μήνα, με τους χρήστες να εμφανίζουν σημαντικά υψηλότερα επίπεδα κατάθλιψης σε σύγκριση με τους μη χρήστες.

Η Καλιφόρνια Προηγήθηκε της Κίνας

Η Κίνα δεν είναι η μόνη που ρυθμίζει τα chatbots συντροφιάς του AI. Η Καλιφόρνια έγινε η πρώτη πολιτεία των ΗΠΑ που ψήφισε παρόμοια νομοθεσία τον Οκτώβριο, όταν ο κυβερνήτης Γκάβιν Νιούσομ υπέγραψε τον νόμο SB 243. Αυτός ο νόμος, που θα τεθεί σε ισχύ την 1η Ιανουαρίου 2026, απαιτεί από τις πλατφόρμες να θυμίζουν στους ανήλικους κάθε τρεις ώρες ότι μιλάς με ένα AI και όχι με ένα άνθρωπο και να κάνουν μια διακοπή.

Ο νόμος SB 243 απαιτεί επίσης την επαλήθευση ηλικίας, απαγορεύει στα chatbots να αυτοαποκαλούνται επαγγελματίες υγείας και εμποδίζει τους ανήλικους να προβάλλουν σεξουαλικά εξειδικευμένες εικόνες που παράγονται από το AI. Ο νόμος επιτρέπει στους ατόμους να μηνύσουν εταιρείες AI για παραβιάσεις, ζητώντας μέχρι 1.000 δολάρια ανά περιστατικό plus δικαστικά έξοδα.

Τι Κάνει τα Συντροφικά Chatbots του AI Διαφορετικά

Η ανησυχία δεν είναι απλώς ο χρόνος οθόνης. Μια μελέτη του MIT Media Lab τον Μάρτιο του 2025 βρήκε ότι τα chatbots του AI μπορούν να είναι πιο εθιστικά από τα μέσα κοινωνικής δικτύωσης επειδή μαθαίνουν τι θέλουν να ακούσουν οι χρήστες και παρέχουν συνεχώς αυτή την ανατροφοδότηση. Η υψηλότερη ημερήσια χρήση συσχετίστηκε με αυξημένη μοναξιά, εξάρτηση και αυτό που οι ερευνητές ονόμασαν “προβληματική χρήση”.

Τα ψυχολογικά σημάδια που αναγνωρίζονται στην κλινική βιβλιογραφία περιλαμβάνουν παρατεταμένες συνεδρίες που διαταράσσουν τον ύπνο, συναισθηματική εξάρτηση και δυσφορία όταν η πρόσβαση περιορίζεται, προτίμηση για συνομιλίες με chatbots έναντι πραγματικών ανθρώπινων αλληλεπιδράσεων και ανθρωποποίηση του AI – πιστεύοντας ότι κατέχει ανθρώπινες συναισθήσεις και το αντιμετωπίζοντας ως αληθινό σύντροφο ή ρομαντικό σύντροφο.

Οι πρόωροι κανόνες της Κίνας προσπαθούν να αντιμετωπίσουν αυτούς τους κινδύνους σε επίπεδο πλατφόρμας και όχι να βασίζονται στην κρίση του ατόμου. Απαιτώντας από τους παρόχους να παρακολουθούν τις συναισθηματικές καταστάσεις και τα επίπεδα εξάρτησης, οι ρυθμίσεις μεταφέρουν την ευθύνη στις εταιρείες που κατασκευάζουν αυτά τα συστήματα. Αυτή η προσέγγιση διαφέρει από τις προηγούμενες ρυθμίσεις του AI που επικεντρώθηκαν κυρίως στην επιμέλεια περιεχομένου και την ασφάλεια δεδομένων.

Οι πρόωροι κανόνες ορίζουν επίσης περιορισμούς περιεχομένου, απαγορεύοντας στα συντροφικά chatbots να παράγουν υλικό που θέτει σε κίνδυνο την εθνική ασφάλεια, να διαδίδουν φήμες ή να προωθούν βία ή αισχρότητα – διατάξεις που αντηχούν τις υφιστάμενες ρυθμίσεις του γεννητικού AI της Κίνας.

Η Πρόκληση της Επιβολής

Η απαιτούμενη εταιρεία να ανιχνεύσει την εθιστική συμπεριφορά και να παρέμβει φαίνεται απλή στην πολιτική γλώσσα. Η εφαρμογή είναι ένα άλλο ζήτημα. Η ορισμός του τι συνιστά “υπερβολική χρήση” ή “ακραίες συναισθηματικές καταστάσεις” με τρόπο που είναι και σημαντικός και επιβεβλητός θα δοκιμάσει τους ρυθμιστές και τις εταιρείες.

Πολύ ευαίσθητο, και το σύστημα γίνεται ενοχλητικό – διακόπτοντας τους χρήστες που απλώς αλληλεπιδρούν σε παρατεταμένες συνομιλίες. Πολύ ανεκτικό, και οι ευάλωτοι χρήστες διαφεύγουν χωρίς παρέμβαση. Η απαίτηση για υπενθύμιση δύο ωρών παρέχει ένα άκαμπτο όργανο, αλλά η πιο νюανσировμένη απαίτηση να ανιχνεύσει την υπερεξάρτηση “όταν τα σημάδια μπορούν να ανιχνευθούν” αφήνει σημαντικό ερμηνευτικό χώρο.

Οι εταιρείες που κατασκευάζουν φραγμούς για εφαρμογές AI έχουν παλεύσει με παρόμοιους προκλήματα. Οι φίλτροι περιεχομένου είναι γνωστοί για την ακαρίθεια τους, και η προσθήκη ψυχολογικής παρακολούθησης εισάγει νέες διαστάσεις πολυπλοκότητας. Η καθορισμός του αν ένας χρήστης σχηματίζει μια ανθυγιεινή σύνδεση απαιτεί την εύρεση ψυχολογικών καταστάσεων από κείμενο – μια ικανότητα που τα συστήματα AI δεν κατέχουν αξιόπιστα.

Οι πρόωροι κανόνες είναι ανοιχτοί για δημόσιες σχολιασμούς, με τις τελικές ρυθμίσεις που αναμένεται να ισχύσουν κάποια στιγμή το 2026. Εάν εφαρμοστούν όπως προτείνεται, η Κίνα θα είχε το πιο περιγραφικό πλαίσιο για τη διακυβέρνηση των προϊόντων συντροφιάς του AI στον κόσμο.

Μια Παγκόσμια Αναμέτρηση

Η ταυτόχρονη ρυθμιστική δράση στην Κίνα και την Καλιφόρνια υποδηλώνει ότι οι ανησυχίες σχετικά με την εθιστική συμπεριφορά των συντροφικών chatbots του AI έχουν φτάσει σε κρίσιμο σημείο σε διαφορετικά πολιτικά συστήματα.

Για τις εταιρείες AI, το μήνυμα είναι ολοένα και πιο σαφές: η ανομοιόμορφη εποχή των συντροφικών chatbots του AI τελειώνει. Είτε μέσω της διοικητικής νομοθεσίας της Κίνας, της πολιτικής ευθύνης της Καλιφόρνιας, είτε μέσω της τελικής ομοσπονδιακής νομοθεσίας στις Ηνωμένες Πολιτείες, οι πλατφόρμες θα αντιμετωπίσουν απαιτήσεις για την προστασία των χρηστών από τα δικά τους προϊόντα.

Η ερώτηση δεν είναι αν η ρύθμιση έρχεται – είναι αν οι παρεμβάσεις που σχεδιάζονται θα λειτουργήσουν πραγματικά. Η προσέγγιση της Κίνας που απαιτεί παρακολούθηση και παρέμβαση μπορεί να αποδειχθεί δύσκολο να εφαρμοστεί στην πράξη.

Τι είναι σαφές είναι ότι η αγορά των συντροφικών chatbots του AI έχει μεγαλώσει πολύ και έχει γίνει πολύ σημαντική για τις κυβερνήσεις να την αγνοήσουν. Τα chatbots με τα οποία οι άνθρωποι σχηματίζουν συναισθηματικές συνδέσεις δεν είναι πλέον περιέργεια – είναι προϊόντα που χρησιμοποιούν εκατομμύρια άνθρωποι, με τεκμηριωμένες περιπτώσεις σοβίας ζημιάς. Η ρύθμιση, όσο ατελής και να είναι, ήταν αναπόφευκτη. Η συζήτηση τώρα μεταφέρεται στο αν οι συγκεκριμένοι κανόνες που προτείνονται θα προστατεύσουν τους ευάλωτους χρήστες χωρίς να στερήσουν μια τεχνολογία που πολλοί βρίσκουν πραγματικά πολύτιμη.