Artık AI’ları Hizalamıyoruz. Medeniyetleri Hizalıyoruz

Yapay zeka (AI) alanında uzun yıllar boyunca ana soru, AI modellerini insan değerleri ile nasıl hizalayacağımızdı. Araştırmacılar, AI kararlarını yönlendiren güvenlik kuralları, etik ilkeleri ve kontrol mekanizmaları tanımlamaya çalıştılar. Bu çalışma önemli ilerleme kaydetti. Ancak şimdi, bu AI sistemleri daha yetenekli ve yaygın hale geldikçe, hizalamanın odak noktası değişmeye başlıyor. Tek bir modeli tek bir set talimata hizalamakla başlayan şey, şimdi bu sistemleri küresel ölçekte kullanan tüm medeniyetleri hizalamakla daha büyük bir zorluğa dönüşmüştür. AI artık sadece bir araç değil. Toplumların çalıştığı, iletişim kurduğu, müzakere ettiği ve rekabet ettiği bir ortam haline evrimleşiyor. Sonuç olarak, hizalama artık sadece bir teknik problem değil. Bir medeniyet problemi haline geldi. Bu makalede, neden hizalamanın artık sadece modeller hakkında olmadığını ve neden medeniyetler yerine makinelerden düşünmeye başlamamız gerektiğini açıklıyorum. Ayrıca, bu değişimin sorumluluklarımızı nasıl etkilediğini ve küresel işbirliği için ne anlama geldiğini tartışıyorum.

AI Gerçekten Kimin Değerlerini Temsil Ediyor?

Bir AI’a duyarlı bir tarihi olay hakkında soru sorarsanız, cevabı incelemiş olduğu verilere bağlıdır. Eğer bu veriler çoğunlukla Batı internetinden geliyorsa, cevap Batı yanlısı olacaktır. Bireyciliği, açık konuşmayı ve demokratik idealleri önceliklendirecektir. Bu değerler birçok insan için iyidir. Ancak dünya üzerindeki tek değerler değildir.

Singapur’da bir kullanıcı, Riyad’da bir kullanıcı ve San Francisco’da bir kullanıcı, “yararlı” ve “zararlı” olanın farklı tanımlarına sahiptir. Bazı kültürlerde, sosyal uyum, mutlak konuşma özgürlüğünden daha önemlidir. Başka kültürlerde, hiyerarşiye saygı, değişimden daha önemlidir.

Bir Silicon Valley şirketi “Reinforcement Learning from Human Feedback” (RLHF) kullanıyorsa, AI’ın cevaplarını değerlendirmek için insanları işe alır. Ancak bu insanlar kimlerdir? İnançları nelerdir? Eğer modeli Amerikan standartlarına hizalarsanız, istemeden bir Amerikan kültürel ihracatını inşa ediyorsunuz. Bir dijital diplomat inşa ediyorsunuz ki bu, bir medeniyetin kurallarını dünyanın geri kalanına dayatıyor.

Geri Bildirim Döngülerinin Yükselişi

Sorun sadece AI’ın bir kültürün inançlarını yansıtması değil. Bu inançların bizi nasıl değiştirebileceğidir. Modern AI sistemleri, bireylerin, organizasyonların ve hatta ulusların davranışlarını şekillendirmeye potansiyeli sahiptir. Düşünme, çalışma, güvenme ve rekabet etme şeklimizi etkileyebilir. Bu, AI sistemleri ve insan toplumları arasında geri bildirim döngüleri oluşturur; AI’ı eğitiriz ve AI da bizim nasıl düşündüğümüzü ve davrandığımızı şekillendirir. Bu döngüler, AI’ın daha yaygın hale gelmesiyle güçleniyor. Bu geri bildirim döngüsünü görmek için iki örnek verelim:

• Büyük ölçekli AI dağıtımı sosyal davranışı değiştirir ve sosyal davranış yeni sistemlerin eğitildiği verilerin değişmesine neden olur. Örneğin, bir öneri algoritması insanların ne izlediğini, ne okuduğunu ve neye inandığını şekillendirebilir. Verimlilik araçları nasıl işbirliği yaptığımızı ve öğrencilerin nasıl öğrendiğini yeniden şekillendirir. Bu davranış değişiklikleri, farklı izleme alışkanlıkları, işyeri iletişim kalıpları veya yazım stilleri gibi veri desenlerinde değişikliklere neden olur. Bu veriler gelecekteki eğitim veri setlerine aktarıldığında, modeller varsayımlarını ve çıktılarını buna göre ayarlar. İnsan davranışı modelleri şekillendirir ve modeller de insan davranışını şekillendirir.
• Otomatik karar araçları kamu politikalarını etkiler ve kamu politikası gelecekteki model eğitiminin şekillenmesine etki eder. Örneğin, birçok hükümet artık kaynakları nereye tahsis edeceklerine karar vermek için AI’ı kullanıyor, Örneğin, hangi mahallelerin daha fazla sağlık desteğine ihtiyacı olabileceğini veya hangi alanların daha yüksek suç riski taşıyabileceğini belirlemek için. Politikacılar bu önerilere göre hareket ettiklerinde, bu kararların sonuçları daha sonra yeni veri setlerinin bir parçası haline gelir. Zamanla, AI tarafından şekillendirilen politika kararları, bir sonraki AI modeli neslini şekillendirir.

Bu geri bildirim döngüsünü tanımladığınızda, AI’ın yavaş yavaş medeniyetleri şekillendirdiği ve hizaladığı açık hale gelir. Sonuç olarak, ülkeler artık nasıl kendi değerlerini koruyabileceklerini ve toplumlarına ve kurumlarına AI’ı entegre ederken bunu nasıl sağlayacaklarını sormaya başlıyorlar?

Sovereign AI’nın Doğuşu

Bu hizalama zorluğu, dünya çapındaki hükümetlerden önemli bir tepkiyi tetikledi. Ülkeler, ithal AI’a güvenmenin kendi egemenliklerine bir risk oluşturduğunu fark ettiler. Vatandaşlarının yabancı bir düşünce yapısına sahip bir kara kutu tarafından eğitilmesini, bilgilendirilmesini ve yönlendirilmesini göze alamazlar.

Bu realization, “Sovereign AI“ın yükselişine yol açtı. Fransa, Fransız yasalarına ve kültürüne uygun modeller inşa etmek için ağır bir şekilde yatırım yapıyor. Hindistan, kültürel değerlerini güvence altına almak için yerli AI modelleri inşa ediyor. Birleşik Arap Emirlikleri ve Çin, kendi ulusal vizyonlarına uygun AI modelleri inşa ediyor.

Bu, yeni bir silah yarışması. Bu, bir anlatı kontrolü yarışması. Bir medeniyetin kendi AI’ı yoksa, sonunda kendi hafızasını kaybedecek. Çocuklarınız bir makineye soru sorarsa ve makine başka bir kültürün mantığıyla cevap verirse, sizin kültürünüz aşınmaya başlar. Ancak bu realization, farklı dijital blokların oluşmasına yol açabilir. Batı AI’sı, Çin AI’sı, Hint AI’sı ve benzeri sistemlerle karşılaşabiliriz. Bu sistemler farklı gerçekler ve farklı ahlaki pusulalarla çalışacaklar. Bu gelişmeler, gerçekten hizalanmış bir AI modeli yaratmak istiyorsak, önce medeniyetleri hizalamamız gerektiğini gösteriyor.

Diplomatik AI İhtiyacı

Geleneksel hizalama, bir modelin dikkatli eğitim, yönlendirme ve güvenlik önlemleriyle hizalanabileceğini varsayar. Bu düşünce, erken AI güvenlik araştırmalarının teknik zihniyetinden geliyor. Ancak nawet mükemmel model düzeyinde hizalama, medeniyetleri hizalama zorluklarını çözemez. Hizalama, toplumlar karşıt yönlerde çekildiğinde istikrarlı kalamaz. Eğer ülkeler, şirketler ve topluluklar çatışan hedeflere sahipse, AI sistemlerini bu çatışmaları yansıtmaya itecekler. Bu sınırlar, hizalamanın sadece bir teknik problem olmadığını, aynı zamanda bir yönetim, kültürel ve koordinasyon problemi olduğunu gösterir. Ve bu problemler sadece uzmanlar veya geliştiriciler tarafından çözülemez. Tüm medeniyetleri içerir.

Peki, nasıl ilerleyeceğiz? Evrensel hizalamanın imkansız olduğunu kabul edersek, stratejimizi değiştirmemiz gerekir. Teknik bir problema felsefi bir çözüm aramayı bırakmalıyız. Diplomatlar gibi düşünmeye başlamalıyız. “Medeniyet Hizalaması” protokollerini inşa etmemiz gerekiyor. AI’ın bir toplumun inançlarına ve değerlerine saygı göstermesini, diğer kültürlerin inançlarını dayatmadan, nasıl sağlayacağımızı çözmeliyiz. Diğer bir deyişle, algoritmalarımız için bir dijital Birleşmiş Milletler kurmamız gerekiyor.

Bu, şeffaflık gerektirir. Şu anda, derin öğrenme ağlarının derin katmanlarında hangi değerlerin saklı olduğunu gerçekten bilmiyoruz. Sadece çıktıları görüyoruz. Medeniyetleri hizalamak için her modelin “Anayasası” hakkında açık olmalıyız. Bir model, “Ben bu verilerle eğitildim, bu güvenlik kurallarıyla, bu değerleri önceliklendiren” demelidir. Sadece gdyör.bias görünür olduğunda sistemi güvenebiliriz. Bir kullanıcı, farklı perspektifler arasında geçiş yapabilmelidir. Bir soru sorabilirsiniz ve “Batı” modelinin cevabını “Doğu” modelinin cevabıyla karşılaştırabilirsiniz. Bu, AI’ı bir beyin yıkama aracı yerine, anlama aracı haline getirecektir.

Alt Çizgi

Terminator hakkında fazla zaman harcadık. Gerçek risk, bir robotun bizi yok etmesi değil. Gerçek risk, bir robotun bizi kim olduğumuzu unutturmasıdır. Hizalama, bir kere yazıp unutabileceğimiz bir kod değil. AI modelleriyle sürekli olarak bizim inançlarımızla ve değerlerimizle hizalı kalmasını sağlamak için müzakere etmek. Bu, bir siyasi eylemdir. Zeka çağındaki bu sonraki aşama boyunca, ekranın ötesine bakmalıyız. AI’ın bizim tarihimizi, sınırlarımızı ve inançlarımızı nasıl yorumladığını düşünmeliyiz. Dünyayı yönetmemize yardımcı olacak zihinleri inşa ediyoruz. Bu zihinlerin medeniyetler arasındaki farklılıklara saygı gösterdiğinden emin olmalıyız.