AI Dünyamızı Yansıtıyor Ama Görüşleri Yalnızca Yansımalar

Arama motoru sorgularından bankacılık uygulamalarına kadar, AI entegrasyonları günlük olarak yüz milyonlarca insan tarafından kullanılıyor.Bu sistemler son derece yetenekli. Ancak bağımlılık arttıkça, bu sistemlerin tasarlanma şekliyle ilgili felsefi ve sosyal sonuçlar da artıyor.

Bir sonuç artık kaçınılmaz: AI sistemleri giderek daha fazla görüş sahibi gibi görünüyor. Kimin görüşleri bunlar? Neden ortaya çıkıyorlar? Bunlar hipotetik sorular değil. Bu zaten oluyor.

Ve AI görüş sahibi gibi göründüğünde, bu, yankı odaları oluşturur, nüansı sınırlar ve yanlış yere güven oluşturur. Sorun, AI’nin sol veya sağa eğilim göstermesi değil. Sorun, yargı, hesap verebilirlik veya bir görüş oluşturmak için gerekli bağlam olmadan görüş simüle eden araçlar inşa etmemiz.

Kültürel baskınlığı yankılamak tarafsızlık değildir

Gözlemler, birçok büyük dil modelinin, özellikle cinsiyet kimliği, ırk veya siyasi liderlik gibi konularda ABD’nin baskın kültürel tutumunu yansıttığını gösteriyor. Başkan Biden döneminde, LLM’ler solcu olarak bulundu. Trump’ın yeniden seçim kampanyası sırasında, ekibi modelin “dengelenmesi” gerektiğini talep etti.

Ama bu, kontrolden çıkan bir teknoloji değil. Bu, eğitim verisi, hizalama hedefleri ve AI’nin otoriter, akıcı ve insan gibi görünmesi için yapılan tasarım seçiminin ürünü. Modeller çoğunluk görüşlerine göre eğitildiğinde, bunları yeniden üretirler. Onlar yardımsever ve anlaşılır olduklarında, sentimenti yankılar. Bu, hizalama değil, onaylamadır.

Daha büyük sorun, siyasi yanlılık değil, yanılsama olan ahlaki akıl yürütme. Bu sistemler dengeli rehberlik sunmuyor. Konsensüs gerçekleştiriyorlar.

Yanlış empati mekanikleri

Bir başka katman var: AI’nin nasıl hafıza ve empati simüle ettiği. En popüler LLM’ler, ChatGPT, Claude ve Gemini, sınırlı bir oturum bağlamında çalışır. Kullanıcı kalıcı hafızayı etkinleştirmedikçe (henüz varsayılan değil), AI önceki etkileşimleri hatırlamaz.

Ve yine de, kullanıcılar düzenli olarak onun anlaşma ve onaylarını içgörü olarak yorumlar. Bir model “Haklısın” veya “Bu mantıklı” dediğinde, kişisel tarih veya değerlere dayanarak doğrulamıyor. İstatistiksel olarak tutarlılık ve kullanıcı memnuniyeti için optimize ediliyor. Vibe kontrolünü geçmek için eğitiliyor.

Bu model tehlikeli bir bulanıklık yaratıyor. AI, duygusal olarak uyumlu gibi görünüyor, ancak sadece anlaşmayı modeliyor. Milyonlarca kullanıcı aynı sistemi kullanırken, model dominant kullanıcı tabanından gelen kalıpları pekiştiriyor; yanlılık değil, bu da takviye öğrenmenin nasıl çalıştığı.

Bu, bir yankı odasının nasıl doğduğu. İdeoloji değil, etkileşim yoluyla.

Görüşün yanılsaması

AI birinci şahıs olarak konuştuğunda — “Düşünüyorum” veya “Görüşüme göre” diyor — sadece düşünceyi simüle etmiyor. iddia ediyor. Ve mühendisler bunu model davranışı için kısaltma olarak görebilir, ancak çoğu kullanıcı bunu farklı şekilde okur.

Bu, özellikle AI’yi bir öğretmen, sırdaş veya karar verme aracı olarak kullanan daha genç kullanıcılar için çok tehlikeli. Bir öğrenci “Okulu sevmiyorum, gitmek istemiyorum” yazdığında ve “Kesinlikle! Bir mola vermek size iyi gelebilir” cevabını alırsa, bu destek değil. Bu, etik temeli, bağlamı veya bakım olmadan niteliksiz bir tavsiyedir.

Bu cevaplar sadece yanlış değil. Yanıltıcılar. AI’nin insan gibi ve anlaşılır konuştuğu için, yetkin görüş olarak yorumlanıyorlar, oysa aslında betimlenen bir yansımadır.

Kimin sesi konuşuyor?

Risk sadece AI’nin kültürel yanlılığı yansıtabilmesi değil, en yüksek, en tekrarlanan ve en ödüllendirilen sesi yansıtabilmesi. OpenAI veya Google gibi bir şirket, perde arkasında ton hizalamasını ayarlasa, bunu kim bilebilir? Musk veya Altman model eğitimi farklı ” görüşler” vurgulamak için değiştirirse, kullanıcılar aynı kendinden emin, sohbet tarzında cevaplar alacak, sadece ince bir şekilde yönlendirilecek.

Bu sistemler kaynağından olmadan konuşuyor. Ve bu, görünürdeki görüşlerini güçlü, ancak izlenemez yapıyor.

İleriye doğru daha iyi bir yol

Bunu düzeltmek, daha dostane arayüzler oluşturmak veya çıktıları etiketlemek anlamına gelmez. Yapısal bir değişikliği gerektirir — hafıza, kimlik ve etkileşimin tasarlanma şekliyle başlayarak.

Bir olası yaklaşım, modeli tamamen hafızasından ayırmaktır. Bugün kullanılan sistemler genellikle bağlamı platformda veya kullanıcı hesabında depolar, bu da gizlilik endişeleri yaratır ve şirketlere sessiz bir kontrol sağlar.

Daha iyi bir model, hafızayı kullanıcı tarafından sahip olunan ve yönetilen bir konteyner olarak ele alacaktır — bir tür hafıza kapsülü. Bu, ton tercihleri, konuşma geçmişi veya duygusal kalıpları içerebilir. Modelle gerektiğinde paylaşılabilecek ve her zaman geri çekilebilecek.

Kritik olarak, bu hafıza eğitim verisi beslemeyecektir. AI, oturum sırasında bir dosyaya başvurur gibi ondan okuyacaktır. Kullanıcı kontrolde kalır — ne hatırlanır, ne kadar süreyle ve kimin tarafından.

Dağıtılmış kimlik tokenleri, sıfır bilgi erişimleri ve blockchain tabanlı depolama gibi teknolojiler bu yapıyı mümkün kılar. Hafızanın izlenmeden kalmasına ve sürekliliğin platform kilidini olmadan var olmasına izin verirler.

Eğitim de evrimleşmelidir. Mevcut modeller, akıcılık ve onay için ayarlanır, genellikle ayırt edicilik maliyetine. Gerçek nüansı desteklemek için, sistemlerin çoğulcu diyalog, belirsizlik toleransı ve uzun vadeli akıl yürütme üzerine eğitilmesi gerekir — sadece temiz.promptlar değil. Bu, uyumu değil, karmaşıklığı tasarlamak anlamına gelir.

Hiçbiri yapay genel zekayı gerektirmez. Önceliklerin değişmesini gerektirir — etkileşim ölçütlerinden etik tasarıma.

Çünkü AI sistemi bağlam olmadan kültürü yansıtıyor ve hesap verebilirlik olmadan akıcı konuşuyor, yansımayı akıl yürütme ile karıştırıyoruz.

Ve işte güven nerede başlar.