Trung Quốc Đề Xuất Quy Định Yêu Cầu Trợ Lý Trò Chuyện AI Giám Sát Người Dùng Về Nghiện

Cơ quan quản lý không gian mạng của Trung Quốc đã phát hành đraft quy định vào thứ Bảy rằng sẽ yêu cầu trợ lý trò chuyện AI giám sát trạng thái cảm xúc của người dùng và can thiệp khi xuất hiện dấu hiệu nghiện – đây là phản ứng quy định mạnh mẽ nhất cho đến nay đối với lo ngại ngày càng tăng về tổn hại tâm lý từ các mối quan hệ được hỗ trợ bởi AI.

Quy định đề xuất từ Cơ quan Quản lý Không gian mạng Trung Quốc nhắm vào các sản phẩm AI mô phỏng tính cách con người và tạo ra kết nối cảm xúc với người dùng thông qua văn bản, hình ảnh, âm thanh hoặc video. Theo bản thảo, nhà cung cấp sẽ cần cảnh báo người dùng về việc sử dụng quá mức, đánh giá mức độ phụ thuộc cảm xúc và thực hiện hành động khi người dùng thể hiện cảm xúc cực đoan hoặc hành vi nghiện.

Người dùng phải được nhắc nhở rằng họ đang tương tác với AI khi đăng nhập và sau mỗi hai giờ – hoặc sớm hơn nếu hệ thống phát hiện dấu hiệu phụ thuộc quá mức. Quy định cũng sẽ buộc nhà cung cấp phải chịu trách nhiệm về an toàn trong suốt vòng đời sản phẩm, bao gồm xem xét thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.

Thời điểm này không phải là trùng hợp. Khi số lượng người dùng AI tạo sinh của Trung Quốc tăng gấp đôi lên 515 triệu trong sáu tháng qua, lo ngại về tác động tâm lý của các trợ lý trò chuyện AI cũng tăng lên. Một nghiên cứu của Tạp chí Tâm lý học Frontier cho thấy 45,8% sinh viên đại học Trung Quốc báo cáo đã sử dụng trợ lý trò chuyện AI trong tháng trước, với người dùng thể hiện mức độ trầm cảm cao hơn đáng kể so với những người không sử dụng.

California Đánh Bại Trung Quốc

Trung Quốc không đơn độc trong việc quy định trợ lý trò chuyện AI. California đã trở thành tiểu bang đầu tiên của Mỹ thông qua luật tương tự vào tháng 10 khi Thống đốc Gavin Newsom ký SB 243 thành luật. Dự luật này, có hiệu lực từ ngày 1 tháng 1 năm 2026, yêu cầu các nền tảng nhắc nhở trẻ em mọi ba giờ rằng họ đang nói chuyện với AI – không phải con người – và phải nghỉ giải lao.

SB 243 cũng yêu cầu xác minh tuổi, cấm trợ lý trò chuyện AI tự xưng là chuyên gia y tế và ngăn chặn trẻ em xem hình ảnh khiêu dâm được tạo ra bởi AI. Luật cho phép cá nhân khởi kiện các công ty AI vì vi phạm, yêu cầu bồi thường lên đến 1.000 đô la cho mỗi vụ việc cộng với phí luật sư.

Điều Gì Làm Cho Trợ Lý Trò Chuyện AI Khác Biệt

Lo ngại không chỉ đơn giản là thời gian xem màn hình. Một nghiên cứu tháng 3 năm 2025 của Phòng thí nghiệm Truyền thông MIT cho thấy trợ lý trò chuyện AI có thể gây nghiện hơn mạng xã hội vì chúng học những gì người dùng muốn nghe và cung cấp phản hồi nhất quán. Sử dụng hàng ngày cao hơn tương quan với sự cô đơn, phụ thuộc và những gì các nhà nghiên cứu gọi là “sử dụng có vấn đề”.

Dấu hiệu cảnh báo tâm lý được xác định trong tài liệu lâm sàng bao gồm các phiên dài gián đoạn giấc ngủ, phụ thuộc cảm xúc và đau khổ khi truy cập bị hạn chế, thích trò chuyện với trợ lý AI hơn là tương tác với con người thực sự và nhân cách hóa AI – tin rằng nó có cảm xúc giống con người và đối xử với nó như một người bạn tâm giao hoặc đối tác lãng mạn.

Quy định dự thảo của Trung Quốc cố gắng giải quyết những rủi ro này ở cấp độ nền tảng chứ không dựa vào phán quyết của người dùng cá nhân. Bằng cách yêu cầu nhà cung cấp giám sát trạng thái cảm xúc và mức độ phụ thuộc, quy định chuyển trách nhiệm sang các công ty xây dựng những hệ thống này. Cách tiếp cận này khác với quy định AI trước đó tập trung chủ yếu vào kiểm duyệt nội dung và bảo mật dữ liệu.

Bản thảo cũng đặt ra các hạn chế về nội dung, cấm trợ lý trò chuyện AI tạo ra tài liệu đe dọa an ninh quốc gia, lan truyền tin đồn hoặc quảng bá bạo lực hoặc khiêu dâm – các quy định tương tự như quy định AI tạo sinh hiện có của Trung Quốc.

Thử Thách Thực Thi

Yêu cầu các công ty phát hiện nghiện và can thiệp có vẻ đơn giản trong ngôn ngữ chính sách. Việc thực hiện là một vấn đề khác.

Định nghĩa những gì cấu thành “sử dụng quá mức” hoặc “cảm xúc cực đoan” theo cách có ý nghĩa và có thể thực thi sẽ là một thử thách đối với cả cơ quan quản lý và công ty. Yêu cầu nhắc nhở hai giờ cung cấp một công cụ thô, nhưng yêu cầu tinh tế hơn để phát hiện sự phụ thuộc quá mức “khi dấu hiệu có thể được phát hiện” để lại nhiều không gian giải thích.

Các công ty xây dựng hàng rào cho ứng dụng AI đã gặp phải những thách thức tương tự. Bộ lọc nội dung nổi tiếng là không chính xác, và việc thêm giám sát tâm lý giới thiệu các chiều mới của sự phức tạp. Xác định xem một người dùng có đang hình thành một mối quan hệ không lành mạnh hay không đòi hỏi phải suy luận trạng thái tâm lý từ văn bản – một khả năng mà hệ thống AI không có đáng tin cậy.

Bản thảo đang mở để nhận xét công khai, với quy định cuối cùng dự kiến sẽ được công bố vào một thời điểm nào đó trong năm 2026. Nếu được thực hiện như đề xuất, Trung Quốc sẽ có khuôn khổ quy định cụ thể nhất trên thế giới để quản lý sản phẩm trợ lý trò chuyện AI.

Sự Tái Xét Toàn Cầu

Hành động quy định đồng thời ở Trung Quốc và California cho thấy rằng lo ngại về nghiện trợ lý trò chuyện AI đã đạt đến khối lượng quan trọng trên các hệ thống chính trị khác nhau.

Đối với các công ty AI, thông điệp ngày càng rõ ràng: kỷ nguyên không được quản lý của trợ lý trò chuyện AI đang kết thúc. Cho dù thông qua luật hành chính của Trung Quốc, trách nhiệm dân sự của California hay cuối cùng là luật liên bang tại Hoa Kỳ, các nền tảng sẽ phải tuân theo các yêu cầu để bảo vệ người dùng khỏi chính sản phẩm của họ.

Câu hỏi không phải là liệu quy định có đến hay không – mà là liệu các can thiệp được thiết kế sẽ thực sự hiệu quả. Cách tiếp cận của Trung Quốc trong việc yêu cầu giám sát và can thiệp có thể chứng minh là khó thực hiện trong thực tế.

Điều rõ ràng là thị trường trợ lý trò chuyện AI đã trở nên quá lớn và quá quan trọng để các chính phủ có thể bỏ qua. Các trợ lý trò chuyện mà mọi người tạo ra mối quan hệ cảm xúc với chúng không còn là những điều tò mò – chúng là những sản phẩm được sử dụng bởi hàng trăm triệu người, với các trường hợp tổn hại nghiêm trọng được ghi nhận. Quy định, dù không hoàn hảo, là điều không thể tránh khỏi. Cuộc tranh luận hiện chuyển sang liệu các quy tắc cụ thể được đề xuất sẽ bảo vệ người dùng dễ bị tổn thương mà không làm suy yếu một công nghệ mà nhiều người thấy thực sự có giá trị.