Китай пропонує правила, які вимагають від чат-ботів AI контролювати користувачів за залежністю

Кіберрегулятор Китаю опублікував проєкт правил у суботу, які б вимагали від чат-ботів-компаньйонів AI контролювати емоційний стан користувачів та втручатися, коли з’являються ознаки залежності – найбільш агресивна регуляторна реакція на зростаючі побоювання щодо психологічної шкоди від відносин, підтримуваних за допомогою AI.

Пропоновані правила від Адміністрації кіберпростору Китаю стосуються продуктів AI, які імітують людські особистості та формують емоційні зв’язки з користувачами через текст, зображення, аудіо чи відео. За проєктом провайдери повинні попереджувати користувачів про надмірне використання, оцінювати рівень емоційної залежності та вживати заходів, коли користувачі демонструють крайні емоції чи поведінку, пов’язану з залежністю.

Користувачів необхідно нагадувати, що вони взаємодіють з AI під час входу в систему та через кожні два години – або раніше, якщо система виявляє ознаки надмірної залежності. Правила також зобов’язують провайдерів нести відповідальність за безпеку протягом всього життєвого циклу продукту, включаючи аналіз алгоритмів, безпеку даних та захист особистої інформації.

Тимінг не випадковий. Коли база користувачів генерації AI в Китаї подвоїлася до 515 мільйонів за останні шість місяців, побоювання щодо психологічного впливу чат-ботів-компаньйонів AI також зростають. Дослідження, опубліковане в журналі Frontiers in Psychology, показало, що 45,8% китайських студентів університету повідомили про використання чат-ботів AI за останній місяць, а користувачі демонстрували значно вищий рівень депресії порівняно з тими, хто не користувався.

Каліфорнія випередила Китай

Китай не одинок у регулюванні чат-ботів-компаньйонів AI. Каліфорнія стала першим штатом США, який прийняв подібний закон у жовтні, коли губернатор Ґевін Ньюсом підписав законопроєкт SB 243. Цей закон, який набере чин 1 січня 2026 року, вимагає від платформ нагадувати неповнолітнім кожні три години, що вони спілкуються з AI, а не з людиною, та робити перерву.

Законопроєкт SB 243 також зобов’язує провайдерів підтверджувати вік користувачів, забороняє чат-ботам видавати себе за фахівців у галузі охорони здоров’я та запобігає неповнолітнім переглядати явно сексуальні зображення, згенеровані AI. Закон дозволяє особам подавати позови проти компаній AI за порушення, вимагаючи до 1000 доларів США за інцидент плюс судові витрати.

Що робить чат-ботів-компаньйонів AI особливими

Побоювання не полягають лише у тривалості часу, проведеного перед екраном. Дослідження, опубліковане в березні 2025 року в MIT Media Lab, показало, що чат-боти AI можуть бути більш залежними, ніж соціальні медіа, оскільки вони вчаться, чого хочуть користувачі, і надають їм цю інформацію послідовно. Вищий щоденний рівень використання корелював з підвищеною самотністю, залежністю та тим, що дослідники назвали “проблематичним використанням”.

Психологічні ознаки небезпеки, визначені в клінічній літературі, включають тривалі сеанси, які порушують сон, емоційну залежність та дистрес, коли доступ обмежений, перевагу розмов з чат-ботами над реальними людськими взаєминами, та антропоморфізм AI – переконання, що воно володіє людськими почуттями та ставленням до нього як до справжнього конфіданта чи романтичного партнера.

Проєкт правил Китаю намагається звернутися до цих ризиків на рівні платформи, а не покладати відповідальність на окремих користувачів. Вимагаючи від провайдерів контролювати емоційний стан та рівень залежності, правила перекладають відповідальність на компанії, які будують ці системи. Цей підхід відрізняється від попереднього регулювання AI, яке зосереджувалося в основному на модерації контенту та безпеці даних.

Проєкт також встановлює обмеження на контент, забороняючи чат-ботам-компаньйонам генерувати матеріали, які загрожують національній безпеці, поширюють чутки або пропагують насильство чи непристойність – положення, які повторюють існуючі правила генерації AI в Китаї.

Виклик виконання

Вимога до компаній виявляти залежність та втручатися здається простою у політичній мові. Реалізація – це інша справа. Визначення того, що становить “надмірне використання” або “крайні емоції”, таким чином, щоб це було якісним і виконуваним, буде випробовувати як регуляторів, так і компанії.

Занадто чутливі, і система стає дратівливою – перериваючи користувачів, які просто зайняті тривалими розмовами. Занадто ліберальні, і вразливі користувачі залишаються без втручання. Вимога нагадувати кожні два години надає грубу інструмент, але більш тонка вимога виявляти надмірну залежність “коли з’являються ознаки” залишається суттєву інтерпретаційну свободу.

Компанії, які будують захисні механізми для застосунків AI, зіткнулися з подібними викликами. Фільтри контенту відомі своєю неточністю, а додавання психологічного моніторингу вводить нові виміри складності. Визначення того, чи формує користувач нездорову прив’язаність, вимагає висновку про психічний стан з тексту – можливість, якої системи AI не володіють надійно.

Проєкт правил відкритий для громадського обговорення, а остаточні правила очікуються у 2026 році. Якщо вони будуть реалізовані, як запропоновано, Китай матиме найбільш детальну структуру регулювання продуктів-компаньйонів AI у світі.

Глобальне переосмислення

Симультанне регуляторне діяння в Китаї та Каліфорнії свідчить про те, що побоювання щодо залежності від чат-ботів-компаньйонів AI досягли критичної маси в різних політичних системах.

Для компаній AI повідомлення все більш чітке: безрегуляторний період чат-ботів-компаньйонів AI закінчується. Чи через китайське адміністративне право, каліфорнійську цивільну відповідальність або майбутнє федеральне законодавство в США, платформи будуть зазнавати вимог щодо захисту користувачів від власних продуктів.

Питання не полягає в тому, чи прийде регулювання – а в тому, чи будуть спроектовані заходи насправді працювати. Підхід Китаю, який полягає у вимозі контролювати та втручатися, може виявитися складним для реалізації на практиці.

Чого можна бути певним, так це того, що ринок чат-ботів-компаньйонів AI виріс надто великим і надто суттєвим, щоб уряди могли його ігнорувати. Чат-боти, з якими люди формують емоційні зв’язки, вже не є курйозами – вони є продуктами, які використовують сотні мільйонів людей, з задокументованими випадками серйозної шкоди. Регулювання, хоч би яким недосконалим, було неминучим. Дебати тепер зосереджуються на тому, чи конкретні правила, які пропонуються, захистять вразливих користувачів без того, щоб задушити технологію, яку багато людей вважають真正ньо цінною.