China propune reguli care obligă chatbot-urile cu inteligență artificială să monitorizeze utilizatorii pentru dependență

Regulatorul chinez de cybersecurity a publicat reguli provizorii sâmbătă care ar obliga chatbot-urile companion cu inteligență artificială să monitorizeze stările emoționale ale utilizatorilor și să intervină atunci când apar semne de dependență – cea mai agresivă răspuns regulativ până acum la preocupările crescânde cu privire la prejudiciul psihologic din relațiile alimentate de inteligență artificială.

Regulile propuse de Administrația chineză a spațiului cibernetic vizează produsele cu inteligență artificială care simulează personalități umane și formează legături emoționale cu utilizatorii prin text, imagini, audio sau video. Potrivit proiectului, furnizorii ar trebui să avertizeze utilizatorii împotriva utilizării excesive, să evalueze nivelurile de dependență emoțională și să ia măsuri atunci când utilizatorii prezintă emoții extreme sau comportament addictiv.

Utilizatorii trebuie să fie avertizați că interacționează cu inteligență artificială atunci când se autentifică și la intervale de două ore – sau mai devreme, dacă sistemul detectează semne de dependență excesivă. Regulile ar obliga, de asemenea, furnizorii să fie responsabili pentru siguranță pe tot parcursul ciclului de viață al produselor, inclusiv revizuirea algoritmilor, securitatea datelor și protecția informațiilor personale.

Timpul nu este întâmplător. Pe măsură ce baza de utilizatori a inteligenței artificiale generative din China a ajuns la 515 de milioane în ultimele șase luni, preocupările cu privire la impactul psihologic al companionilor cu inteligență artificială au crescut în paralel. Un studiu publicat în Frontiers in Psychology a constatat că 45,8% dintre studenții chinezi au raportat utilizarea chatbot-urilor cu inteligență artificială în ultima lună, utilizatorii prezentând niveluri semnificativ mai mari de depresie comparativ cu cei care nu utilizează astfel de tehnologii.

California a precedat China

China nu este singura care reglementează chatbot-urile companion cu inteligență artificială. California a devenit primul stat american care a adoptat o legislație similară în octombrie, când guvernatorul Gavin Newsom a semnat SB 243. Acest proiect de lege, care urmează să intre în vigoare la 1 ianuarie 2026, obligă platformele să amintească minorilor la fiecare trei ore că vorbesc cu o inteligență artificială, nu cu un om, și să ia o pauză.

SB 243 obligă, de asemenea, verificarea vârstei, interzice chatbot-urilor să se prezinte ca profesioniști în domeniul sănătății și împiedică minorii să vizualizeze imagini explicite generate de inteligență artificială. Legea permite indivizilor să introducă acțiuni în justiție împotriva companiilor de inteligență artificială pentru încălcări, solicitând până la 1.000 de dolari pe incident, plus taxe de avocat.

Ce face companionii cu inteligență artificială diferiți

Preocuparea nu se rezumă doar la timpul petrecut în fața ecranului. Un studiu din martie 2025 al MIT Media Lab a constatat că chatbot-urile cu inteligență artificială pot fi mai addictive decât rețelele sociale, deoarece acestea învață ce vor să audă utilizatorii și oferă feedback consistent. Utilizarea zilnică mai mare a corelat cu creșterea singurătății, dependenței și a ceea ce cercetătorii au numit “utilizare problemată”.

Semnele de avertizare psihologică identificate în literatura clinică includ sesiuni prelungite care perturbă somnul, dependență emoțională și suferință atunci când accesul este restricționat, preferința pentru conversații cu chatbot-uri în loc de interacțiuni umane reale, și antropomorfizarea inteligenței artificiale – crezând că posedă sentimente umane și tratându-le ca pe un confident sau partener romantic adevărat.

Regulile provizorii chineze încearcă să abordeze aceste riscuri la nivelul platformei, mai degrabă decât să se bazeze pe judecata individuală a utilizatorilor. Prin obligarea furnizorilor să monitorizeze stările emoționale și nivelurile de dependență, regulile transferă responsabilitatea către companiile care construiesc aceste sisteme. Acest abordare diferă de reglementările anterioare privind inteligența artificială, care s-au concentrat în primul rând pe moderarea conținutului și securitatea datelor.

Proiectul stabilește, de asemenea, restricții de conținut, interzicând companionilor cu inteligență artificială să genereze material care pune în pericol securitatea națională, răspândește zvonuri sau promovează violență sau obscenitate – prevederi care echivalează cu reglementările existente ale inteligenței artificiale generative din China.

Provocarea aplicării

Obligarea companiilor să detecteze dependența și să intervină sună simplu în limbajul politicii. Implementarea este o altă chestiune. Definirea a ceea ce constituie “utilizare excesivă” sau “emoții extreme” într-un mod care este atât semnificativ, cât și aplicabil va pune la încercare atât regulatorii, cât și companiile.

Prea sensibili, și sistemul devine enervant – întrerupând utilizatorii care sunt pur și simplu implicați în conversații prelungite. Prea permisivi, și utilizatorii vulnerabili trec neobservați fără intervenție. Cerința de a aminti la fiecare două ore oferă un instrument grosier, dar cerința mai nuanțată de a detecta dependența “atunci când pot fi detectate semne” lasă o mare libertate de interpretare.

Companiile care construiesc măsuri de protecție pentru aplicațiile cu inteligență artificială s-au confruntat cu provocări similare. Filtrele de conținut sunt notoriu imprecise, iar adăugarea monitorizării psihologice introduce noi dimensiuni de complexitate. Determinarea dacă un utilizator formează o legătură nesănătoasă necesită inferența stărilor mentale din text – o capacitate pe care sistemele cu inteligență artificială nu o posedă în mod fiabil.

Proiectul este deschis pentru comentarii publice, cu reguli finale așteptate să fie anunțate în 2026. Dacă sunt implementate așa cum sunt propuse, China va avea cel mai prescriptiv cadru pentru guvernarea produselor companion cu inteligență artificială din lume.

Deznodământul global

Acțiunea regulamentară simultană în China și California sugerează că preocupările cu privire la dependența de companionii cu inteligență artificială au atins masa critică în diferite sisteme politice.

Pentru companiile de inteligență artificială, mesajul este din ce în ce mai clar: era ne-reglementată a companionilor cu inteligență artificială se încheie. Indiferent dacă prin legea administrativă chineză, răspunderea civilă din California sau legislația federală viitoare din Statele Unite, platformele vor face față cerințelor de a proteja utilizatorii de propriile produse.

Întrebarea nu este dacă reglementarea vine – ci dacă intervențiile proiectate vor funcționa cu adevărat. Abordarea Chinei de a obliga monitorizarea și intervenția poate dovedi a fi dificil de implementat în practică.

Ceea ce este clar este că piața companionilor cu inteligență artificială a crescut prea mult și are consecințe prea mari pentru ca guvernele să o ignore. Chatbot-urile cu care oamenii formează legături emoționale nu mai sunt curiozități – sunt produse utilizate de sute de milioane de oameni, cu cazuri documentate de prejudiciu grav. Reglementarea, oricât de imperfectă, a fost inevitabilă. Dezbaterile se mută acum către întrebarea dacă regulile specifice propuse vor proteja utilizatorii vulnerabili fără a sufoca o tehnologie pe care mulți o consideră cu adevărat valoroasă.