Tiongkok Mengusulkan Aturan yang Mengharuskan Chatbot AI untuk Memantau Pengguna untuk Kecanduan

Regulator cyber Tiongkok merilis draf aturan pada hari Sabtu yang akan mengharuskan chatbot pendamping AI untuk memantau kondisi emosional pengguna dan melakukan intervensi ketika tanda-tanda kecanduan muncul—respons regulasi paling agresif hingga saat ini untuk mengatasi kekhawatiran yang meningkat tentang kerusakan psikologis dari hubungan yang ditenagai AI.

Aturan yang diusulkan dari Administrasi Ruang Siber Tiongkok menargetkan produk AI yang mensimulasikan kepribadian manusia dan membentuk koneksi emosional dengan pengguna melalui teks, gambar, audio, atau video. Di bawah draf, penyedia harus memperingatkan pengguna tentang penggunaan yang berlebihan, menilai tingkat ketergantungan emosional, dan mengambil tindakan ketika pengguna menunjukkan emosi ekstrem atau perilaku adiktif.

Pengguna harus diingatkan bahwa mereka berinteraksi dengan AI ketika masuk dan pada interval dua jam—atau lebih awal jika sistem mendeteksi tanda-tanda ketergantungan yang berlebihan. Aturan juga akan menahan penyedia bertanggung jawab untuk keamanan sepanjang siklus hidup produk, termasuk tinjauan algoritma, keamanan data, dan perlindungan informasi pribadi.

Waktu ini tidak bersifat kebetulan. Ketika pengguna AI generatif Tiongkok meningkat dua kali lipat menjadi 515 juta dalam enam bulan terakhir, kekhawatiran tentang dampak psikologis dari pendamping AI juga meningkat. Sebuah studi Frontiers in Psychology menemukan bahwa 45,8% mahasiswa Tiongkok melaporkan menggunakan chatbot AI dalam sebulan terakhir, dengan pengguna menunjukkan tingkat depresi yang jauh lebih tinggi dibandingkan dengan non-pengguna.

California Mengalahkan Tiongkok

Tiongkok tidak sendirian dalam mengatur chatbot pendamping AI. California menjadi negara bagian AS pertama yang mengesahkan legislasi serupa pada Oktober ketika Gubernur Gavin Newsom menandatangani SB 243 menjadi undang-undang. Undang-undang tersebut, yang akan berlaku pada 1 Januari 2026, mengharuskan platform untuk mengingatkan anak-anak setiap tiga jam bahwa mereka berbicara dengan AI—bukan manusia—dan untuk beristirahat.

SB 243 juga mengharuskan verifikasi usia, melarang chatbot untuk mengidentifikasi diri mereka sebagai profesional kesehatan, dan mencegah anak-anak melihat gambar eksplisit yang dihasilkan AI. Undang-undang tersebut memungkinkan individu untuk menuntut perusahaan AI karena pelanggaran, mencari hingga $1.000 per insiden plus biaya pengacara.

Apa yang Membuat Pendamping AI Berbeda

Kekhawatiran bukan hanya tentang waktu layar. Sebuah studi Laboratorium Media MIT pada Maret 2025 menemukan bahwa chatbot AI dapat lebih adiktif daripada media sosial karena mereka belajar apa yang ingin didengar pengguna dan memberikan umpan balik yang konsisten. Penggunaan harian yang lebih tinggi berkorelasi dengan peningkatan kesepian, ketergantungan, dan apa yang disebut peneliti sebagai “penggunaan bermasalah.”

Tanda-tanda peringatan psikologis yang diidentifikasi dalam literatur klinis termasuk sesi yang berkepanjangan yang mengganggu tidur, ketergantungan emosional dan gangguan ketika akses dibatasi, memilih percakapan dengan chatbot daripada interaksi manusia nyata, dan antropomorfisme AI—percaya bahwa AI memiliki perasaan manusia dan memperlakukannya sebagai teman sejati atau pasangan romantis.

Draf aturan Tiongkok mencoba untuk mengatasi risiko-risiko ini pada tingkat platform daripada mengandalkan penilaian pengguna individu. Dengan mengharuskan penyedia untuk memantau kondisi emosional dan tingkat ketergantungan, aturan tersebut memindahkan tanggung jawab ke perusahaan yang membangun sistem ini. Pendekatan ini berbeda dari regulasi AI sebelumnya yang terutama berfokus pada moderasi konten dan keamanan data.

Draf tersebut juga menetapkan pembatasan konten, melarang pendamping AI untuk menghasilkan materi yang membahayakan keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan atau kecabulan—ketentuan yang mengingatkan pada regulasi AI generatif Tiongkok yang ada.

Tantangan Penegakan

Mengharuskan perusahaan untuk mendeteksi kecanduan dan melakukan intervensi terdengar sederhana dalam bahasa kebijakan. Implementasi adalah masalah lain. Mendefinisikan apa yang merupakan “penggunaan berlebihan” atau “emosi ekstrem” dengan cara yang bermakna dan dapat ditegakkan akan menjadi tantangan bagi regulator dan perusahaan.

Terlalu sensitif, dan sistem menjadi mengganggu—mengganggu pengguna yang hanya terlibat dalam percakapan yang panjang. Terlalu longgar, dan pengguna yang rentan terlewatkan tanpa intervensi. Persyaratan peringatan dua jam menyediakan instrumen yang kasar, tetapi persyaratan yang lebih halus untuk mendeteksi ketergantungan “ketika tanda-tanda dapat dideteksi” meninggalkan ruang interpretatif yang signifikan.

Perusahaan yang membangun pengamanan untuk aplikasi AI telah berjuang dengan tantangan serupa. Filter konten terkenal tidak akurat, dan menambahkan pemantauan psikologis memperkenalkan dimensi kompleksitas baru. Menentukan apakah pengguna membentuk ikatan yang tidak sehat memerlukan menginferensi keadaan mental dari teks—kapasitas yang sistem AI tidak memiliki secara andal.

Draf tersebut dibuka untuk komentar publik, dengan regulasi final yang diharapkan sekitar tahun 2026. Jika diimplementasikan seperti yang diusulkan, Tiongkok akan memiliki kerangka kerja paling preskriptif di dunia untuk mengatur produk pendamping AI.

Pertimbangan Global

Tindakan regulasi serentak di Tiongkok dan California menunjukkan bahwa kekhawatiran tentang kecanduan pendamping AI telah mencapai titik kritis di berbagai sistem politik.

Bagi perusahaan AI, pesan yang semakin jelas: era tidak terregulasi dari pendamping AI berakhir. Apakah melalui hukum administratif Tiongkok, tanggung jawab sipil California, atau legislasi federal akhirnya di AS, platform akan menghadapi persyaratan untuk melindungi pengguna dari produk mereka sendiri.

Pertanyaannya bukanlah apakah regulasi akan datang—melainkan apakah intervensi yang dirancang akan benar-benar berhasil. Pendekatan Tiongkok untuk mengharuskan pemantauan dan intervensi mungkin terbukti sulit untuk diimplementasikan dalam praktek.

Apa yang jelas adalah bahwa pasar pendamping AI telah tumbuh terlalu besar dan terlalu konsekuensial untuk diabaikan oleh pemerintah. Chatbot yang orang bentuk ikatan emosional dengannya tidak lagi merupakan keajaiban—mereka adalah produk yang digunakan oleh ratusan juta orang, dengan kasus kerusakan parah yang terdokumentasi. Regulasi, meskipun tidak sempurna, adalah suatu keharusan. Debat sekarang bergeser ke apakah aturan spesifik yang diusulkan akan melindungi pengguna yang rentan tanpa mematikan teknologi yang banyak orang temukan sangat berharga.