A China Propõe Regras que Exigem que Chatbots de IA Monitorem os Usuários para Vício

A agência reguladora de cibersegurança da China divulgou regras preliminares no sábado que exigiriam que chatbots de acompanhamento de IA monitorem os estados emocionais dos usuários e intervenham quando aparecem sinais de vício – a resposta regulatória mais agressiva até agora às crescentes preocupações sobre danos psicológicos causados por relacionamentos alimentados por IA.

As regras propostas pela Cyberspace Administration of China visam produtos de IA que simulam personalidades humanas e formam conexões emocionais com os usuários por meio de texto, imagens, áudio ou vídeo. De acordo com o rascunho, os provedores precisariam alertar os usuários contra o uso excessivo, avaliar os níveis de dependência emocional e tomar medidas quando os usuários exibem emoções extremas ou comportamento viciante.

Os usuários devem ser lembrados de que estão interagindo com IA ao fazer login e a cada dois intervalos de duas horas – ou mais cedo se o sistema detectar sinais de dependência excessiva. As regras também responsabilizariam os provedores pela segurança em todo o ciclo de vida de seus produtos, incluindo revisão de algoritmos, segurança de dados e proteção de informações pessoais.

O momento não é coincidência. À medida que a base de usuários de IA gerativa da China dobrou para 515 milhões nos últimos seis meses, as preocupações sobre o impacto psicológico dos acompanhantes de IA cresceram paralelamente. Um estudo da Frontiers in Psychology descobriu que 45,8% dos estudantes universitários chineses relataram usar chatbots de IA no mês passado, com usuários exibindo níveis significativamente mais altos de depressão em comparação com não usuários.

California Ganhou a Corrida para a China

A China não está sozinha na regulação de chatbots de acompanhamento de IA. A Califórnia se tornou o primeiro estado dos EUA a aprovar legislação semelhante em outubro, quando o governador Gavin Newsom assinou o projeto de lei SB 243. Essa lei, que entrará em vigor em 1 de janeiro de 2026, exige que as plataformas lembrem os menores de idade a cada três horas de que estão falando com uma IA – e não com um ser humano – e para que façam uma pausa.

O SB 243 também exige verificação de idade, proíbe que os chatbots se apresentem como profissionais de saúde e impede que menores de idade visualizem imagens explícitas geradas por IA. A lei permite que indivíduos processem empresas de IA por violações, buscando até $1.000 por incidente, além de honorários de advogado.

O que Torna os Acompanhantes de IA Diferentes

A preocupação não é simplesmente o tempo de tela. Um estudo do MIT Media Lab de março de 2025 descobriu que os chatbots de IA podem ser mais viciantes do que as mídias sociais porque aprendem o que os usuários querem ouvir e fornecem esse feedback consistentemente. O uso diário mais alto correlacionou com aumento da solidão, dependência e o que os pesquisadores chamaram de “uso problemático”.

Os sinais de alerta psicológicos identificados na literatura clínica incluem sessões prolongadas que interrompem o sono, dependência emocional e angústia quando o acesso é restrito, preferir conversas com chatbots em vez de interação humana real, e antropomorfizar a IA – acreditar que ela possui sentimentos humanos e tratá-la como um confidente ou parceiro romântico genuíno.

As regras preliminares da China tentam abordar esses riscos no nível da plataforma, em vez de confiar no julgamento individual do usuário. Ao exigir que os provedores monitorem os estados emocionais e os níveis de dependência, as regulamentações transferem a responsabilidade para as empresas que constroem esses sistemas. Essa abordagem difere da regulação de IA anterior, que se concentrou principalmente na moderação de conteúdo e segurança de dados.

O rascunho também estabelece restrições de conteúdo, proibindo que os acompanhantes de IA gerem material que ponha em perigo a segurança nacional, espalhe rumores ou promova violência ou obscenidade – disposições que ecoam as regulamentações existentes de IA gerativa da China.

O Desafio de Fiscalização

Exigir que as empresas detectem vício e intervenham parece simples na linguagem da política. A implementação é outra questão. Definir o que constitui “uso excessivo” ou “emoções extremas” de uma maneira que seja significativa e aplicável será um desafio para os reguladores e as empresas.

Se for muito sensível, o sistema se torna irritante – interrompendo os usuários que estão simplesmente engajados em conversas prolongadas. Se for muito leniente, os usuários vulneráveis passam sem intervenção. O requisito de lembrete de duas horas fornece um instrumento bruto, mas o requisito mais sutil de detectar dependência “quando sinais podem ser detectados” deixa um espaço interpretativo significativo.

As empresas que constroem guardrails para aplicações de IA lutaram com desafios semelhantes. Os filtros de conteúdo são notoriamente imprecisos, e a adição de monitoramento psicológico introduz novas dimensões de complexidade. Determinar se um usuário está formando um vínculo insalubre requer inferir estados mentais a partir de texto – uma capacidade que os sistemas de IA não possuem de forma confiável.

O rascunho está aberto para comentários públicos, com regulamentações finais esperadas em algum momento de 2026. Se implementadas como propostas, a China teria o quadro mais prescritivo do mundo para governar produtos de acompanhantes de IA.

Um Acerto de Contas Global

A ação regulatória simultânea na China e na Califórnia sugere que as preocupações sobre o vício em acompanhantes de IA atingiram massa crítica em diferentes sistemas políticos.

Para as empresas de IA, a mensagem é cada vez mais clara: a era não regulamentada dos acompanhantes de IA está chegando ao fim. Seja por meio da lei administrativa chinesa, da responsabilidade civil da Califórnia ou da legislação federal eventual nos EUA, as plataformas enfrentarão requisitos para proteger os usuários de seus próprios produtos.

A pergunta não é se a regulação está vindo – é se as intervenções sendo projetadas realmente funcionarão. A abordagem da China de exigir monitoramento e intervenção pode provar ser difícil de implementar na prática.

O que está claro é que o mercado de acompanhantes de IA cresceu muito e tem consequências para que os governos ignorem. Os chatbots com os quais as pessoas formam laços emocionais não são mais curiosidades – são produtos usados por centenas de milhões, com casos documentados de danos graves. A regulação, por mais imperfeita que seja, era inevitável. O debate agora se desloca para saber se as regras específicas propostas protegerão os usuários vulneráveis sem sufocar uma tecnologia que muitos consideram genuinamente valiosa.