Китай предлагает правила, требующие от чат-ботов ИИ контролировать пользователей на предмет зависимости

Киберрегулятор Китая опубликовал проект правил в субботу, которые потребуют от компаньонов-чатботов ИИ контролировать эмоциональное состояние пользователей и вмешиваться, когда появляются признаки зависимости – самое агрессивное регулирующее ответ на растущие опасения по поводу психологического вреда от отношений, основанных на ИИ.

Предлагаемые правила от Киберадминистрации Китая направлены на ИИ-продукты, которые имитируют человеческие личности и формируют эмоциональные связи с пользователями через текст, изображения, аудио или видео. Согласно проекту, поставщики должны будут предупреждать пользователей о чрезмерном использовании, оценивать уровень эмоциональной зависимости и принимать меры, когда пользователи проявляют крайние эмоции или зависимое поведение.

Пользователям необходимо напоминать, что они взаимодействуют с ИИ при входе в систему и каждые два часа – или раньше, если система обнаруживает признаки чрезмерной зависимости. Правила также будут нести ответственность за безопасность на протяжении всего жизненного цикла продукта, включая проверку алгоритмов, безопасность данных и защиту личной информации.

Сроки не случайны. Поскольку количество пользователей генеративного ИИ в Китае удвоилось до 515 миллионов за последние шесть месяцев, опасения по поводу психологического воздействия компаньонов ИИ выросли параллельно. Исследование Frontiers in Psychology показало, что 45,8% китайских студентов сообщили об использовании чат-ботов ИИ в прошлом месяце, при этом у пользователей наблюдались значительно более высокие уровни депрессии по сравнению с непользователями.

Калифорния опередила Китай

Китай не одинок в регулировании компаньонов-чатботов ИИ. Калифорния стала первым штатом США, принявшим подобный закон в октябре, когда губернатор Гэвин Ньюсом подписал законопроект SB 243. Этот закон, который вступит в силу 1 января 2026 года, требует от платформ напоминать несовершеннолетним каждые три часа, что они говорят с ИИ, а не с человеком, и делать перерыв.

Законопроект SB 243 также требует проверки возраста, запрещает чат-ботам выдавать себя за специалистов здравоохранения и запрещает несовершеннолетним просматривать явно сексуальные изображения, сгенерированные ИИ. Закон позволяет людям судиться с компаниями ИИ за нарушения, требуя до 1000 долларов за каждый случай, плюс гонорары адвокатов.

Что отличает компаньонов ИИ

Опасения не только в времени, проведенном за экраном. Исследование MIT Media Lab в марте 2025 года показало, что чат-боты ИИ могут быть более аддиктивными, чем социальные сети, поскольку они учатся, что хотят услышать пользователи, и предоставляют эту обратную связь последовательно. Более высокое ежедневное использование коррелировало с увеличением одиночества, зависимости и того, что исследователи назвали “проблематичным использованием”.

Психологические предупреждающие знаки, выявленные в клинической литературе, включают длительные сеансы, нарушающие сон, эмоциональную зависимость и дистресс при ограничении доступа, предпочтение разговоров с чат-ботами над реальным человеческим взаимодействием и антропоморфизацию ИИ – веру в то, что он обладает человеческими чувствами и обращение с ним как с настоящим конфидантом или романтическим партнером.

Проект правил Китая пытается решить эти риски на уровне платформы, а не полагаться на индивидуальный суд пользователя. Требуя от поставщиков контролировать эмоциональное состояние и уровень зависимости, регулирование смещает ответственность на компании, строящие эти системы. Этот подход отличается от более раннего регулирования ИИ, которое в первую очередь фокусировалось на модерации контента и безопасности данных.

Проект также устанавливает ограничения на контент, запрещая компаньонам ИИ генерировать материал, который ставит под угрозу национальную безопасность, распространяет слухи или пропагандирует насилие или непристойность – положения, которые повторяют существующие правила генеративного ИИ в Китае.

Проблема правоприменения

Требование компаний обнаруживать зависимость и вмешиваться звучит просто в языке политики. Реализация – это другая история. Определение того, что составляет “чрезмерное использование” или “крайние эмоции”, таким образом, чтобы это было одновременно осмысленно и применимо, будет проверять регулирующие органы и компании.

Слишком чувствительный, и система становится раздражающей – прерывая пользователей, которые просто вовлечены в длительные разговоры. Слишком снисходительный, и уязвимые пользователи проскальзывают без вмешательства. Требование напоминания каждые два часа предоставляет грубый инструмент, но более тонкое требование обнаружения чрезмерной зависимости “при появлении признаков” оставляет значительную интерпретационную свободу.

Компании, строящие ограждения для приложений ИИ, боролись с подобными проблемами. Фильтры контента известны своей неточностью, а добавление психологического мониторинга вводит новые размерности сложности. Определение того, формирует ли пользователь нездоровую привязанность, требует вывода о психическом состоянии из текста – способности, которой системы ИИ не обладают надежно.

Проект открыт для публичных комментариев, окончательные правила ожидаемы в 2026 году. Если они будут реализованы, как предложено, Китай будет иметь наиболее предписывающую основу для управления продуктами компаньонов ИИ.

Глобальный пересмотр

Параллельные регулирующие действия в Китае и Калифорнии предполагают, что опасения по поводу зависимости от компаньонов ИИ достигли критической массы в разных политических системах.

Для компаний ИИ сообщение становится все более ясным: нерегулируемая эпоха компаньонов ИИ подходит к концу. Будь то через административное право Китая, гражданскую ответственность Калифорнии или окончательное федеральное законодательство в США, платформы столкнутся с требованиями защиты пользователей от своих собственных продуктов.

Вопрос не в том, придет ли регулирование – а в том, будут ли работать предлагаемые вмешательства. Подход Китая, требующий мониторинга и вмешательства, может оказаться трудным для реализации на практике.

Что ясно, так это то, что рынок компаньонов ИИ вырос слишком большим и слишком значимым, чтобы правительства могли его игнорировать. Чат-боты, с которыми люди формируют эмоциональные связи, больше не являются любопытствами – они являются продуктами, используемыми сотнями миллионов, с задокументированными случаями серьезного вреда. Регулирование, хотя и несовершенное, было неизбежным. Дебаты теперь смещаются в сторону того, будут ли предлагаемые правила защищать уязвимых пользователей, не задушевая технологию, которую многие считают真正чески ценной.