Çin, yapay zekâ destekli sohbet robotlarının kullanıcıları bağımlılık açısından izlemesini gerektiren kurallar önerdi.

Çin'in siber düzenleyici kurumu yayınladı. Cumartesi günü taslak kurallar Bu, yapay zekâ destekli sohbet robotlarının kullanıcıların duygusal durumlarını izlemesini ve bağımlılık belirtileri ortaya çıktığında müdahale etmesini gerektirecek; bu da yapay zekâ destekli ilişkilerden kaynaklanan psikolojik zararlara ilişkin artan endişelere karşı şimdiye kadarki en agresif düzenleyici yanıt olacak.

Çin Siber Alan Yönetimi tarafından önerilen düzenlemeler, insan kişiliğini taklit eden ve metin, resim, ses veya video aracılığıyla kullanıcılarla duygusal bağ kuran yapay zeka ürünlerini hedef alıyor. Taslağa göre, sağlayıcıların kullanıcıları aşırı kullanıma karşı uyarmaları, duygusal bağımlılık düzeylerini değerlendirmeleri ve kullanıcılar aşırı duygular veya bağımlılık davranışı sergilediğinde harekete geçmeleri gerekecek.

Kullanıcılara, oturum açtıklarında ve iki saatlik aralıklarla (veya sistem aşırı bağımlılık belirtileri tespit ederse daha kısa sürede) yapay zeka ile etkileşimde oldukları hatırlatılmalıdır. Kurallar ayrıca, algoritma incelemesi, veri güvenliği ve kişisel bilgilerin korunması da dahil olmak üzere, sağlayıcıları ürünlerinin yaşam döngüsü boyunca güvenlikten sorumlu tutacaktır.

Zamanlama tesadüf değil. Çin'in üretken yapay zekâ kullanıcı tabanı iki katına çıkarak 515 milyona ulaştı. Son altı ayda, yapay zekâ destekli arkadaşların psikolojik etkilerine ilişkin endişeler de paralel olarak arttı. Frontiers in Psychology dergisinde yayınlanan bir çalışma. Yapılan araştırmada, Çinli üniversite öğrencilerinin %45.8'inin son bir ay içinde yapay zekâ destekli sohbet robotlarını kullandığı ve bu robotları kullananların, kullanmayanlara kıyasla önemli ölçüde daha yüksek depresyon seviyeleri sergilediği tespit edildi.

Kaliforniya Çin'i geride bıraktı

Yapay zekâ destekli sohbet robotlarını düzenleyen tek ülke Çin değil. Kaliforniya, Ekim ayında Vali Gavin Newsom'un SB 243'ü imzalayarak yürürlüğe koymasıyla benzer bir yasayı geçiren ilk ABD eyaleti oldu. 1 Ocak 2026'da yürürlüğe girmesi planlanan bu yasa, platformların belirli şartları yerine getirmesini gerektiriyor. Küçük çocuklara her üç saatte bir hatırlatma yapın. Bir insanla değil, bir yapay zekâyla konuştuklarını ve ara vermeleri gerektiğini söylediler.

SB 243 ayrıca yaş doğrulamasını zorunlu kılıyor, sohbet robotlarının kendilerini sağlık uzmanı olarak tanıtmalarını yasaklıyor ve reşit olmayanların cinsel içerikli yapay zeka tarafından oluşturulmuş görüntüleri izlemesini engelliyor. Yasa, bireylerin ihlaller nedeniyle yapay zeka şirketlerine dava açmasına ve olay başına 1,000 dolara kadar tazminat artı avukatlık ücreti talep etmesine olanak tanıyor.

Yapay Zeka Destekli Arkadaşları Farklı Kılan Nedir?

Endişe sadece ekran süresiyle sınırlı değil. Mart 2025 MIT Medya Laboratuvarı Yapılan bir çalışma, yapay zekâ destekli sohbet botlarının, kullanıcıların ne duymak istediğini öğrenip bu geri bildirimi tutarlı bir şekilde sağladıkları için sosyal medyadan daha bağımlılık yapıcı olabileceğini ortaya koydu. Günlük kullanımın artması, yalnızlık, bağımlılık ve araştırmacıların "sorunlu kullanım" olarak adlandırdığı durumla ilişkilendirildi.

Klinik literatürde tanımlanan psikolojik uyarı işaretleri arasında, uyku düzenini bozan uzun süreli oturumlar, erişim kısıtlandığında duygusal bağımlılık ve sıkıntı, gerçek insan etkileşimi yerine sohbet robotlarıyla konuşmayı tercih etme ve yapay zekayı insanlaştırma (insan benzeri duygulara sahip olduğuna inanma ve onu gerçek bir sırdaş veya romantik partner gibi görme) yer almaktadır.

Çin'in taslak kuralları, bireysel kullanıcı yargısına güvenmek yerine, bu riskleri platform düzeyinde ele almayı amaçlıyor. Sağlayıcıların duygusal durumları ve bağımlılık düzeylerini izlemesini zorunlu kılarak, düzenlemeler sorumluluğu bu sistemleri kuran şirketlere kaydırıyor. Bu yaklaşım, öncelikle içerik denetimi ve veri güvenliğine odaklanan önceki yapay zeka düzenlemelerinden farklıdır.

Taslak ayrıca, yapay zekâ yardımcılarının ulusal güvenliği tehlikeye atan, söylenti yayan veya şiddeti ya da müstehcenliği teşvik eden materyaller üretmesini yasaklayan içerik kısıtlamaları da getiriyor; bu hükümler Çin'in mevcut üretken yapay zekâ düzenlemelerini yansıtıyor.

Uygulama Zorluğu

Şirketlerin bağımlılığı tespit etmesini ve müdahale etmesini zorunlu kılmak, politika dilinde basit görünüyor. Ancak uygulama bambaşka bir konu. "Aşırı kullanım" veya "aşırı duygular"ın ne anlama geldiğini hem anlamlı hem de uygulanabilir bir şekilde tanımlamak, hem düzenleyicileri hem de şirketleri zorlayacaktır.

Çok hassas olursa, sistem can sıkıcı hale gelir ve uzun sohbetlere dalmış kullanıcıları böler. Çok hoşgörülü olursa, savunmasız kullanıcılar müdahale edilmeden aradan sıyrılır. İki saatlik hatırlatma şartı kaba bir araç sağlar, ancak "belirtiler tespit edilebildiğinde" aşırı bağımlılığı tespit etmeye yönelik daha incelikli şart, önemli bir yorumlama alanı bırakır.

Şirketler inşa ediyor yapay zeka uygulamaları için güvenlik önlemleri Benzer zorluklarla boğuşmuşlardır. İçerik filtreleri bilindiği üzere son derece hassas değildir ve psikolojik izleme eklemek yeni karmaşıklık boyutları getirir. Bir kullanıcının sağlıksız bir bağ kurup kurmadığını belirlemek, metinden zihinsel durumları çıkarım yapmayı gerektirir; bu da yapay zeka sistemlerinin güvenilir bir şekilde sahip olmadığı bir yetenektir.

Taslak kamuoyunun görüşüne açık olup, nihai düzenlemelerin 2026 yılında yürürlüğe girmesi bekleniyor. Önerildiği gibi uygulanırsa, Çin yapay zekâ destekli yardımcı ürünleri yönetmek için dünyanın en ayrıntılı çerçevesine sahip olacak.

Küresel Bir Hesaplaşma

Çin ve Kaliforniya'da eş zamanlı olarak alınan düzenleyici önlemler, yapay zekâ destekli asistanlara bağımlılık konusundaki endişelerin farklı siyasi sistemlerde kritik bir noktaya ulaştığını gösteriyor.

Yapay zekâ şirketleri için mesaj giderek daha netleşiyor: Yapay zekâ destekli yardımcı cihazların denetimsiz dönemi sona eriyor. Çin idari hukuku, Kaliforniya'daki hukuki sorumluluk yasaları veya Amerika Birleşik Devletleri'ndeki olası federal mevzuat yoluyla olsun, platformlar kullanıcılarını kendi ürünlerinden koruma gereklilikleriyle karşı karşıya kalacaklar.

Soru, düzenlemelerin gelip gelmeyeceği değil, tasarlanan müdahalelerin gerçekten işe yarayıp yaramayacağıdır. Çin'in izleme ve müdahaleyi zorunlu kılan yaklaşımının pratikte uygulanması zor olabilir.

Açık olan şu ki, yapay zekâ destekli yardımcı robot pazarı, hükümetlerin görmezden gelemeyeceği kadar büyüdü ve sonuçları çok önemli hale geldi. İnsanların duygusal bağ kurduğu sohbet robotları artık sadece merak konusu değil; yüz milyonlarca insan tarafından kullanılan ve ciddi zararlara yol açtığı belgelenmiş ürünler. Düzenleme, ne kadar kusurlu olursa olsun, kaçınılmazdı. Tartışma şimdi, önerilen özel kuralların, birçok kişinin gerçekten değerli bulduğu bir teknolojiyi boğmadan savunmasız kullanıcıları koruyup koruyamayacağına kayıyor.