Çin, Bağımlılık İçin AI Chatbot’larını Kullanıcıları İzleme Kuralları Öneriyor

Çin’in siber düzenleyici kurulu, cumartesi günü AI arkadaş chatbot’larının kullanıcıların duygusal durumlarını izlemesini ve bağımlılık belirtileri görünümünde müdahale etmesini gerektiren taslak kurallar yayınladı – AI ilişkilerinden kaynaklanan psikolojik zarar endişelerine karşı şimdiye kadarki en agresif düzenleyici yanıt.

Cyberspace Administration of China tarafından önerilen düzenlemeler, metin, resim, ses veya video aracılığıyla kullanıcılarla duygusal bağlantılar kuran ve insan kişiliklerini simüle eden AI ürünlerine yöneliktir. Taslakta, sağlayıcıların aşırı kullanım konusunda kullanıcıları uyarması, duygusal bağımlılık seviyelerini değerlendirmesi ve kullanıcıların aşırı duygular veya bağımlılık davranışları sergilediğinde harekete geçmesi gerektiği belirtiliyor.

Kullanıcılar, giriş yaptıklarında ve iki saatlik aralıklarla – veya sistem bağımlılık belirtileri tespit ettiğinde – AI ile etkileşimde olduklarını hatırlatmalılar. Kurallar, sağlayıcıların ürün yaşam döngüsü boyunca güvenlikten, algoritma incelemesinden, veri güvenliğinden ve kişisel bilgi korumadan sorumlu olmasını da gerektirecek.

Zamanlama tesadüfi değil. Çin’in yaratıcı AI kullanıcı tabanı son altı ayda 515 milyona çıkarken, AI arkadaşlarının psikolojik etkileri hakkında endişeler de paralel olarak arttı. Frontiers in Psychology çalışması, Çinli üniversite öğrencilerinin %45,8’inin son bir ay içinde AI chatbot’larını kullandığını ve kullanıcıların non-kullanıcılara kıyasla önemli ölçüde daha yüksek düzeyde depresyon gösterdiğini buldu.

California Çin’den Önce Vurdu

Çin, AI arkadaş chatbot’larını düzenleyen tek ülke değil. California, Ekim ayında Vali Gavin Newsom’un SB 243’ü yasalaştırdığında, benzer bir yasa çıkaran ilk ABD eyaleti oldu. 1 Ocak 2026’da yürürlüğe girecek olan yasa, platformların kullanıcıları her üç saatte bir AI ile konuştuğunu hatırlatmasını ve mola vermesini gerektiriyor.

SB 243 ayrıca yaş doğrulamasını zorunlu kılar, chatbot’ların themselves sağlık profesyonelleri olarak tanıtmalarını yasaklar ve küçüklerin cinsel olarak açık AI tarafından oluşturulan görüntüleri görmesini engeller. Yasa, bireylerin AI şirketlerine karşı ihlal başına 1.000 doları aşmamak üzere avukat ücretleri dahil olmak üzere dava açmasına izin verir.

AI Arkadaşların Farkı Nedir

Endişe sadece ekran süresiyle ilgili değil. Mart 2025 MIT Media Lab çalışması, AI chatbot’larının sosyal medyadan daha bağımlılık yapıcı olabileceğini buldu, çünkü bunlar kullanıcıların duymak istediği şeyi öğrenir ve bu geri bildirimi tutarlı bir şekilde sağlar. Daha yüksek günlük kullanım, artan yalnızlık, bağımlılık ve araştırmacıların “sorunlu kullanım” olarak adlandırdığıyla ilişkiliydi.

Klinik literatürde tanımlanan psikolojik uyarı işaretleri arasında, uykuyu bozan uzun oturumlar, erişimin kısıtlandığında duygusal bağımlılık ve sıkıntı, gerçek insan etkileşimi yerine chatbot’larla sohbet etmeyi tercih etme ve AI’ı insan benzeri duygulara sahip olarak inanma ve onu gerçek bir sırdaş veya romantik partner olarak tedavi etme yer alır.

Çin’in taslak kuralları, bu riskleri bireysel kullanıcı yargısına güvenmek yerine platform düzeyinde ele almaya çalışıyor. Sağlayıcıların duygusal durumları ve bağımlılık seviyelerini izlemesini gerektirerek, düzenlemeler sorumluluğu bu sistemleri oluşturan şirketlere kaydırıyor. Bu yaklaşım, içerik moderasyonu ve veri güvenliğine odaklanan önceki AI düzenlemelerinden farklı.

Uygulama Sorunu

Bağımlılık tespit etme ve müdahalede bulunma zorunluluğu, politika dilinde açık görünüyor. Uygulama başka bir mesele. “Aşırı kullanım” veya “aşırı duygular”ın ne anlama geldiğini hem anlamlı hem de uygulanabilir bir şekilde tanımlamak, düzenleyiciler ve şirketler için bir sınav olacaktır.

Çok duyarlı ise, sistem kullanıcıları sadece uzun sohbetlerde bulunanları rahatsız eden bir hale gelir. Çok esnek ise, savunmasız kullanıcılar müdahale olmadan kaybolur. İki saatlik hatırlatma gereksinimi kaba bir araç sağlar, ancak “belirtiler tespit edilebildiğinde” aşırı bağımlılığı tespit etme gereksinimi önemli bir yorumlama alanı bırakır.

AI uygulamaları için koruyucu önlemler oluşturan şirketler, benzer zorluklarla mücadele etti. İçerik filtreleri ünlüdür ve psikolojik izleme eklenmesi yeni karmaşıklık boyutları getirir. Bir kullanıcının sağlıklı bir bağ kurmadığına karar vermek, metinden zihinsel durumları çıkarmayı gerektirir – bu, AI sistemlerinin güvenilir bir şekilde sahip olmadığı bir yetenek.

Küresel Hesaplaşma

Çin ve California’daki eşzamanlı düzenleyici eylem, AI arkadaş bağımlılığı endişelerinin farklı siyasi sistemler boyunca kritik bir noktaya ulaştığını gösteriyor.

AI şirketleri için mesaj giderek daha nettir: AI arkadaşlarının düzenlenmeyen dönemi sona eriyor. Çin’in idari yasası, California’nın sivil sorumluluğu veya eventual ABD federal yasaları aracılığıyla olsun, platformlar ürünlerinden kullanıcıları korumak için gereksinimlerle karşı karşıya kalacak.

Soru, düzenlemenin gelip gelmeyeceği değil, tasarlanan müdahalelerin gerçekten işe yarayıp yaramayacağı. Çin’in zorunlu izleme ve müdahale yaklaşımı, uygulamada zorluklarla karşılaşabilir.

Açık olan şey, AI arkadaş pazarının çok büyük ve çok önemli hale geldiği ve hükümetlerin bunu görmezden gelmesi artık mümkün değil. İnsanların duygusal bağlar kurduğu chatbot’lar artık meraklılıklar değil – yüz milyonlarca insan tarafından kullanılan ve belgelenmiş ciddi zarar vakaları olan ürünler. Düzenleme, ne kadar kusurlu olursa olsun, kaçınılmazdı. Tartışma şimdi, önerilen específik kuralların savunmasız kullanıcıları korurken gerçekten değerli bir teknolojiyi engelleyip engellemediğine kayıyor.