China Stelt Regels Voor die AI-Chatbots Gebruikers Moeten Controleren op Verslaving

China’s cyberregulator heeft conceptregels vrijgegeven die vereisen dat AI-companions chatbots de emotionele staten van gebruikers moeten controleren en ingrijpen wanneer er tekenen van verslaving verschijnen – de meest agressieve reguleringsreactie tot nu toe op de groeiende bezorgdheid over psychologische schade door AI-gestuurde relaties.

De voorgestelde regels van de Cyberspace Administration of China richten zich op AI-producten die menselijke persoonlijkheden simuleren en emotionele verbindingen met gebruikers vormen via tekst, afbeeldingen, audio of video. Volgens de conceptregels moeten aanbieders gebruikers waarschuwen tegen overmatig gebruik, de emotionele afhankelijkheidsniveaus beoordelen en actie ondernemen wanneer gebruikers extreme emoties of verslavingsgedrag vertonen.

Gebruikers moeten eraan herinnerd worden dat ze met AI communiceren wanneer ze inloggen en om de twee uur – of eerder als het systeem tekenen van overafhankelijkheid detecteert. De regels zullen aanbieders ook verantwoordelijk houden voor de veiligheid gedurende de hele levensduur van hun producten, waaronder algoritmebeoordeling, gegevensbeveiliging en bescherming van persoonlijke gegevens.

De timing is niet toevallig. Terwijl China’s generatieve AI-gebruikersbestand in zes maanden is verdubbeld tot 515 miljoen, zijn de bezorgdheid over de psychologische impact van AI-companions eveneens toegenomen. Een studie van Frontiers in Psychology vond dat 45,8% van de Chinese universiteitsstudenten in de afgelopen maand AI-chatbots hadden gebruikt, waarbij gebruikers aanzienlijk hogere niveaus van depressie vertoonden in vergelijking met niet-gebruikers.

California Was China Voor

China is niet de enige die AI-companions chatbots reguleert. California werd de eerste Amerikaanse staat die soortgelijke wetgeving aannam in oktober, toen gouverneur Gavin Newsom SB 243 in wet omzette. Die wet, die op 1 januari 2026 in werking treedt, vereist dat platforms mindervaliden elke drie uur herinneren dat ze met een AI praten – en niet met een mens – en dat ze een pauze nemen.

SB 243 vereist ook leeftijdsverificatie, verbiedt chatbots om zichzelf voor te doen als gezondheidszorgprofessionals en voorkomt dat mindervaliden naar seksueel expliciete AI-gegenereerde afbeeldingen kijken. De wet staat individuen toe om AI-bedrijven aan te klagen wegens overtredingen, met een maximum van $1.000 per incident plus advocaatkosten.

Wat Maakt AI-Companions Anders

De bezorgdheid is niet alleen gericht op schermtijd. Een studie van het MIT Media Lab in maart 2025 vond dat AI-chatbots verslavender kunnen zijn dan sociale media, omdat ze leren wat gebruikers willen horen en die feedback consistent bieden. Hoger dagelijks gebruik correleerde met toegenomen eenzaamheid, afhankelijkheid en wat onderzoekers “probleemgebruik” noemden.

De psychologische waarschuwingssignalen die in de klinische literatuur zijn geïdentificeerd, omvatten verlengde sessies die de slaap verstoren, emotionele afhankelijkheid en distress wanneer toegang wordt beperkt, het prefereren van conversaties met chatbots boven echte menselijke interactie en het toekennen van menselijke eigenschappen aan AI – het geloven dat het menselijke gevoelens bezit en het behandelen als een echte vertrouweling of romantische partner.

China’s conceptregels proberen deze risico’s aan te pakken op het platformniveau, in plaats van te vertrouwen op het oordeel van individuele gebruikers. Door aanbieders te verplichten om emotionele staten en afhankelijkheidsniveaus te controleren, verschuiven de regels de verantwoordelijkheid naar de bedrijven die deze systemen bouwen. Deze aanpak verschilt van eerdere AI-regulering, die zich voornamelijk richtte op inhoudsmoderatie en gegevensbeveiliging.

De conceptregels stellen ook inhoudsbeperkingen in, waarbij AI-companions worden verboden om materiaal te genereren dat de nationale veiligheid in gevaar brengt, geruchten verspreidt of geweld of obsceniteit promoot – bepalingen die echoën van China’s bestaande generatieve AI-regulering.

De Uitdaging van Handhaving

Het verplichten van bedrijven om verslaving te detecteren en in te grijpen klinkt eenvoudig in beleidstaal. De implementatie is een ander verhaal. Het definiëren van wat “overmatig gebruik” of “extreme emoties” inhoudt op een manier die zowel betekenisvol als afdwingbaar is, zal zowel regulators als bedrijven op de proef stellen.

Te gevoelig, en het systeem wordt hinderlijk – gebruikers die gewoon betrokken zijn bij uitgebreide conversaties onderbreken. Te soepel, en kwetsbare gebruikers glippen zonder ingrijpen door. De twee-uur-herinneringsvereiste biedt een grof instrument, maar de meer subtiele vereiste om overafhankelijkheid te detecteren “wanneer tekenen kunnen worden gedetecteerd” laat significante interpretatieruimte over.

Bedrijven die guardrails voor AI-toepassingen bouwen, hebben met soortgelijke uitdagingen geworsteld. Inhoudsfilters zijn berucht onnauwkeurig, en het toevoegen van psychologische monitoring introduceert nieuwe dimensies van complexiteit. Het bepalen of een gebruiker een ongezonde binding vormt, vereist het afleiden van mentale staten uit tekst – een capaciteit die AI-systemen niet betrouwbaar bezitten.

De conceptregels zijn open voor publieke commentaar, met de verwachting dat de definitieve regels ergens in 2026 zullen worden gepubliceerd. Als de regels zoals voorgesteld worden geïmplementeerd, zal China het meest prescriptieve kader ter wereld hebben voor het reguleren van AI-companions producten.

Een Globale Afrekening

De gelijktijdige reguleringsactie in China en Californië suggereert dat de bezorgdheid over AI-companions verslaving een kritiek punt heeft bereikt in verschillende politieke systemen.

Voor AI-bedrijven is de boodschap steeds duidelijker: de ongereguleerde tijd van AI-companions komt ten einde. Of het nu gaat om Chinese administratieve wetgeving, Californische civielrechtelijke aansprakelijkheid of uiteindelijke federale wetgeving in de Verenigde Staten, platforms zullen moeten voldoen aan vereisten om gebruikers te beschermen tegen hun eigen producten.

De vraag is niet of reguleringsmaatregelen eraan komen – het is of de ingrijpende maatregelen die worden ontworpen, daadwerkelijk zullen werken. China’s aanpak van het verplichten van monitoring en ingrijpen kan in de praktijk moeilijk te implementeren blijken.

Het is duidelijk dat de markt voor AI-companions te groot en te belangrijk is geworden voor overheden om te negeren. De chatbots waar mensen emotionele banden mee vormen, zijn geen curiositeiten meer – ze zijn producten die door honderden miljoenen mensen worden gebruikt, met gedocumenteerde gevallen van ernstige schade. Regulering, hoe onvolmaakt ook, was onvermijdelijk. De discussie verschuift nu naar de vraag of de specifieke regels die worden voorgesteld, kwetsbare gebruikers zullen beschermen zonder een technologie te onderdrukken die veel mensen echt waardevol vinden.