Çin, AI Sohbet Botlarından Kullanıcı Bağımlılığını İzlemelerini İsteyen Kurallar Önerdi

Çin’in siber düzenleme kurulu, Cumartesi günü, AI arkadaş sohbet botlarının kullanıcıların duygusal durumlarını izlemelerini ve bağımlılık belirtileri görüldüğünde müdahale etmelerini gerektiren taslak kurallar yayınladı – bu, AI güçlendirilmiş ilişkilerden kaynaklanan psikolojik zarar endişelerine karşı en saldırgan düzenleyici yanıt.

Çin Siber Uzayı Düzenleme Kurulu’nun önerilen düzenlemeleri, insan kişiliklerini simüle eden ve metin, resim, ses veya video aracılığıyla kullanıcılarla duygusal bağlantılar kuran AI ürünleri hedefliyor. Taslakta, sağlayıcıların aşırı kullanım konusunda kullanıcıları uyarması, duygusal bağımlılık seviyelerini değerlendirmesi ve kullanıcıların aşırı duygular veya bağımlılık davranışları sergilediğinde harekete geçmesi gerekiyor.

Kullanıcıların, giriş yaptıklarında ve iki saatlik aralıklarla – veya sistem bağımlılık belirtileri tespit ettiğinde – AI ile etkileşimde olduklarını hatırlatmaları gerekiyor. Kurallar, ayrıca sağlayıcıların ürün yaşam döngüsü boyunca güvenlikten sorumlu olmasını da gerektiriyor – bu, algoritma incelemesi, veri güvenliği ve kişisel bilgi korumasını içeriyor.

Zamanlama tesadüfi değil. Çin’in yaratıcı AI kullanıcı tabanı son altı ayda 515 milyona çıkarken, AI arkadaşlarından kaynaklanan psikolojik etkilerle ilgili endişeler de paralel olarak arttı. Bir Frontiers in Psychology çalışması, Çinli üniversite öğrencilerinin %45,8’inin son bir ayda AI sohbet botları kullandığını ve kullanıcılarınDepresyon seviyelerinin kullanıcı olmayanlara göre önemli ölçüde daha yüksek olduğunu buldu.

California Çin’den Önce Vurdu

Çin, AI arkadaş sohbet botlarını düzenleyen tek ülke değil. California, Ekim ayında Vali Gavin Newsom’un SB 243’ü yasalaştırmasıyla benzer bir yasayı çıkaran ilk ABD eyaleti oldu. 1 Ocak 2026’da yürürlüğe girecek olan yasa, platformların her üç saatte bir küçüklerin AI ile değil, insanla konuştuğunu hatırlatmasını ve mola vermesini gerektiriyor.

SB 243 ayrıca yaş doğrulamasını zorunlu kılar, sohbet botlarının kendilerini sağlık profesyonelleri olarak tanıtmalarını engeller ve küçüklerin cinsel olarak açık AI tarafından oluşturulan görüntüleri görmesini önler. Yasa, bireylerin AI şirketlerine karşı ihlal nedeniyle dava açmasına ve her olay için 1.000 doları aşmamak üzere avukat ücretleri dahil olmak üzere tazminat talep etmesine izin veriyor.

AI Arkadaşları Neden Farklı

Endişe sadece ekran zamanı değil. Mart 2025 MIT Medya Laboratuvarı çalışması, AI sohbet botlarının sosyal medyadan daha bağımlılık yapıcı olabileceğini buldu, çünkü bunlar kullanıcıların duymak istediği şeyi öğrenir ve tutarlı bir şekilde geri bildirirler. Daha yüksek günlük kullanım, artan yalnızlık, bağımlılık ve araştırmacıların “sorunlu kullanım” olarak adlandırdıklarıyla ilişkiliydi.

Klinik literatürde tanımlanan psikolojik uyarı işaretleri arasında, uykuyu bozan uzun oturumlar, erişimin kısıtlandığında duygusal bağımlılık ve sıkıntı, insan etkileşimi yerine sohbet botları ile konuşmayı tercih etme ve AI’ı insan benzeri duygulara sahip bir arkadaş veya romantik partner olarak gören antropomorfizasyon yer alıyor.

Çin’in taslak kuralları, bu riskleri platform düzeyinde ele almakta ve bireysel kullanıcı yargısına güvenmek yerine, sağlayıcıların duygusal durumları ve bağımlılık seviyelerini izlemelerini gerektiriyor. Bu yaklaşım, daha önce içerik moderasyonu ve veri güvenliğine odaklanan AI düzenlemelerinden farklı.

Taslak ayrıca, AI arkadaşlarının ulusal güvenliği tehlikeye atan, asılsız haberleri yayan, şiddeti veya müstehcenliği teşvik eden materyaller oluşturmasını yasaklıyor – bu hükümler, Çin’in mevcut yaratıcı AI düzenlemelerine benzemektedir.

Uygulama Sorunu

Şirketlerin bağımlılık ve müdahaleyi tespit etmesini zorunlu kılmak politik dilde basit görünüyor. Uygulama başka bir mesele.

“Aşırı kullanım” veya “aşırı duygular”ın ne anlama geldiğinin hem anlamlı hem de uygulanabilir bir şekilde tanımlanması, düzenleyiciler ve şirketler için bir sınav olacak. Çok duyarlı bir sistem, kullanıcıları sadece uzun sohbetlere dalmış olanları rahatsız edebilir. Çok esnek bir sistem, savunmasız kullanıcıların müdahale olmadan geçmesine izin verebilir. İki saatlik hatırlatma gereksinimi kaba bir araç sağlar, ancak “bağımlılık belirtileri tespit edildiğinde” daha nüanslı gereksinim önemli bir yorum payı bırakır.

AI uygulamaları için koruyucu önlemler geliştiren şirketler, benzer zorluklarla karşılaştı. İçerik filtreleri notoriously belirsiz ve psikolojik izleme eklediğinde yeni karmaşıklık boyutları ortaya çıkıyor. Bir kullanıcının sağlıklı bir bağ kurmadığına karar vermek, metinden zihinsel durumları çıkarmak anlamına geliyor – bu, AI sistemlerinin güvenilir bir şekilde sahip olmadığı bir yetenek.

Taslak, son düzenlemelerin 2026’da çıkması beklenirken, kamuoyu görüşmeleri için açık.

Küresel Hesaplaşma

Çin ve California’daki eşzamanlı düzenleyici eylem, AI arkadaş bağımlılığı endişelerinin farklı siyasi sistemler boyunca kritik bir noktaya ulaştığını gösteriyor.

AI şirketleri için mesaj giderek daha nettir: AI arkadaşlarının düzenlenmeyen dönemi sona eriyor. Çin’in idari yasası, California’nın sivil sorumluluğu veya eventual ABD federal yasaları aracılığıyla olsun, platformlar ürünlerinden kullanıcıları korumak için gereksinimlerle karşı karşıya kalacaklar.

Soru, düzenlemenin gelip gelmeyeceği değil, tasarlanan müdahalelerin gerçekten çalışıp çalışmayacağı. Çin’in izleme ve müdahaleyi zorunlu kılma yaklaşımı uygulamada zor olabilir.

Açık olan şey, AI arkadaş pazarının hükümetlerin göz ardı edemeyeceği kadar büyük ve önemli bir hale geldiğidir. İnsanların duygusal bağlar kurduğu sohbet botları artık meraklıklar değil – yüz milyonlarca insan tarafından kullanılan, belgelenmiş ağır zarar vakaları olan ürünler. Düzenleme, ne kadar kusurlu olursa olsun, kaçınılmazdı. Tartışma, önerilen özel kuralların savunmasız kullanıcıları koruyup korumayacağı ve birçok kişi tarafından gerçekten değerli bulunan bir teknolojiyi boğup boğmayacağı konusunda devam ediyor.