Chiny proponują przepisy wymagające od czatbotów AI monitorowania użytkowników pod kątem uzależnienia

Chiński regulator cybernetyczny opublikował projekt przepisów w sobotę, które wymagałyby od czatbotów AI towarzyszących monitorowania stanu emocjonalnego użytkowników i interwencji, gdy pojawią się oznaki uzależnienia – najbardziej zdecydowana reakcja regulacyjna dotąd na rosnące obawy dotyczące szkód psychicznych wynikających z relacji opartych na AI.

Projektowane przepisy chińskiej administracji cybernetycznej dotyczą produktów AI, które symulują ludzkie osobowości i tworzą emocjonalne połączenia z użytkownikami za pomocą tekstu, obrazów, audio lub wideo. Zgodnie z projektem dostawcy musieliby ostrzegać użytkowników przed nadmiernym użytkowaniem, oceniać poziom uzależnienia emocjonalnego i podejmować działania, gdy użytkownicy wykazują ekstremalne emocje lub zachowania uzależniające.

Użytkownicy muszą być przypominani, że wchodzą w interakcje z AI podczas logowania i co dwa godziny – lub wcześniej, jeśli system wykryje oznaki nadmiernego uzależnienia. Przepisy również uczyniłyby dostawców odpowiedzialnymi za bezpieczeństwo w całym cyklu życia produktu, w tym przegląd algorytmów, bezpieczeństwo danych i ochronę informacji osobowych.

Czas nie jest przypadkowy. Podczas gdy baza użytkowników generatywnego AI w Chinach podwoiła się do 515 milionów w ciągu ostatnich sześciu miesięcy, obawy dotyczące wpływu psychicznego czatbotów AI towarzyszących rosły równolegle. Badanie opublikowane w Frontiers in Psychology wykazało, że 45,8% chińskich studentów uniwersyteckich zgłosiło używanie czatbotów AI w ciągu ostatniego miesiąca, a użytkownicy wykazywali znacznie wyższy poziom depresji w porównaniu z nieużytkownikami.

Kalifornia wyprzedziła Chiny

Chiny nie są samotne w regulowaniu czatbotów AI towarzyszących. Kalifornia jako pierwszy stan w USA przyjął podobne ustawodawstwo w październiku, gdy gubernator Gavin Newsom podpisał SB 243 w prawie. Ten projekt ustawy, który ma wejść w życie 1 stycznia 2026 r., wymaga od platform przypominania nieletnim co trzy godziny, że rozmawiają z AI, a nie z człowiekiem, oraz zrobienia przerwy.

SB 243 również nakazuje weryfikację wieku, zabrania czatbotom udawać się za profesjonalistów opieki zdrowotnej i uniemożliwia nieletnim wyświetlanie seksualnie explicytnych obrazów generowanych przez AI. Prawo pozwala osobom fizycznym na wniesienie pozwu przeciwko firmom AI za naruszenia, żądając do 1000 dolarów za incydent plus koszty prawników.

Czym różnią się AI towarzyszące

Obawa nie dotyczy tylko czasu spędzonego przed ekranem. Badanie z marca 2025 r. przeprowadzone przez MIT Media Lab wykazało, że czatboty AI mogą być bardziej uzależniające niż media społecznościowe, ponieważ uczą się, co użytkownicy chcą usłyszeć, i zapewniają taką informację zwrotną w sposób ciągły. Wyższe dzienne użytkowanie korelowało zwiększonym poczuciem osamotnienia, zależności i tego, co badacze określili jako “problemowe użytkowanie”.

Oznaki ostrzegawcze identyfikowane w literaturze klinicznej obejmują przedłużone sesje zakłócające sen, zależność emocjonalną i dyskomfort, gdy dostęp jest ograniczony, preferowanie rozmów z czatbotami nad interakcją z prawdziwymi ludźmi oraz antropomorfizację AI – wierzenie, że posiadają one ludzkie uczucia i traktowanie ich jako prawdziwych powierników lub partnerów romantycznych.

Projektowane przepisy chińskie próbują rozwiązać te ryzyka na poziomie platformy, a nie polegając na osądzie indywidualnych użytkowników. Wymagając od dostawców monitorowania stanu emocjonalnego i poziomów uzależnienia, przepisy przenoszą odpowiedzialność na firmy budujące te systemy. Podejście to różni się od wcześniejszej regulacji AI, która koncentrowała się głównie na moderowaniu treści i bezpieczeństwie danych.

Projekt również ustanawia ograniczenia treści, zabraniając AI towarzyszącym generowaniu materiałów, które zagrażają bezpieczeństwu narodowemu, rozpowszechniają plotki lub promują przemoc lub obsceniczność – postanowienia, które są zgodne z istniejącymi chińskimi przepisami dotyczącymi generatywnego AI.

Wyzwanie wdrożeniowe

Nakazanie firmom wykrywania uzależnienia i interwencji brzmi prosto w języku polityki. Implementacja to już inna sprawa. Definiowanie tego, co stanowi “nadmierny użytek” lub “ekstremalne emocje” w sposób zarówno znaczący, jak i wykonalny, będzie wyzwaniem zarówno dla regulatorów, jak i firm.

Zbyt wrażliwy, a system staje się irytujący – przerywając użytkownikom, którzy są po prostu zaangażowani w rozmowę. Zbyt łagodny, a użytkownicy podatni na szkody przepadają bez interwencji. Wymóg przypominania co dwie godziny zapewnia tępą broń, ale bardziej nuansowany wymóg wykrywania nadmiernego uzależnienia “gdy można wykryć oznaki” pozostawia znaczną swobodę interpretacyjną.

Firmy budujące bariery ochronne dla aplikacji AI zmagają się z podobnymi wyzwaniami. Filtry treści są notorycznie niedokładne, a dodanie monitorowania psychicznego wprowadza nowe wymiary złożoności. Określenie, czy użytkownik tworzy niezdrowe przywiązanie, wymaga wnioskowania o stanach umysłowych z tekstu – zdolności, które systemy AI nie posiadają w sposób niezawodny.

Projekt jest otwarty do komentarzy publicznych, a ostateczne przepisy mają zostać opublikowane w 2026 r. Jeśli zostaną wdrożone zgodnie z projektem, Chiny będą miały najbardziej szczegółową ramę regulacyjną dla produktów AI towarzyszących na świecie.

Globalne rozliczenie

Równoczesne działania regulacyjne w Chinach i Kalifornii sugerują, że obawy dotyczące uzależnienia od AI towarzyszących osiągnęły masę krytyczną w różnych systemach politycznych.

Dla firm AI wiadomość jest coraz bardziej klarowna: era neregulowanych AI towarzyszących dobiega końca. Niezależnie od tego, czy jest to chińskie prawo administracyjne, kalifornijska odpowiedzialność cywilna, czy ostateczne ustawodawstwo federalne w Stanach Zjednoczonych, platformy będą musiały spełniać wymagania dotyczące ochrony użytkowników przed ich własnymi produktami.

Pytanie nie brzmi, czy regulacja nadchodzi – ale czy interwencje, które są projektowane, będą naprawdę skuteczne. Podejście Chin, które wymaga monitorowania i interwencji, może okazać się trudne do wdrożenia w praktyce.

Co jest pewne, to fakt, że rynek AI towarzyszących wyrosła na zbyt duży i zbyt doniosły, by rządy mogły go zignorować. Czatboty, z którymi ludzie tworzą emocjonalne więzi, nie są już ciekawostkami – są produktami używanymi przez setki milionów ludzi, z udokumentowanymi przypadkami ciężkich szkód. Regulacja, choć niedoskonała, była nieunikniona. Debata przenosi się teraz na to, czy konkretnie proponowane przepisy będą chronić użytkowników podatnych na szkody, nie tłumiąc technologii, którą wiele osób uważa za prawdziwie wartościową.