Yapay Zekâ Kıyametçiliği ve Yapay Zekâ Temalı Kafeler: Göz Ardı Etmeyi Göze Alamayacağımız Yönetişim Soruları

Sonumuz geldi mi? Yapay zekâ bilinçli mi? Yapay zekâ şirketleri neden kafe açıyor?

Bu sorular çarpıcı, huzursuz edici ve—özellikle bilinç söz konusu olduğunda—gerçekten zor. Ayrıca yapay zekâ hikâyesinin en spekülatif ya da duygusal açıdan en etkileyici kısımlarına bizi çekme eğilimindeler. Öte yandan, daha az sinematik sorular şimdiden insanların yaşamlarını şekillendiriyor: Bir yapay zekâ sistemi zarar verdiğinde kim sorumlu? Bu sistemi mümkün kılan veriler nelerdi ve bu iş için kimler çalıştı? Hangi kararları etkilemesine izin verilmeli? Söz hakkı kimde olmalı?

Varoluşsal riskleri gündeme getiren, makine bilincini tartışan ya da kafe açan herkesin bunu bu sorulardan kaçmak amacıyla yaptığını varsaymıyorum. Her konu kendi başına ilgimizi hak edebilir. Ancak ilgimiz sınırlı. Çarpıcı bir hikâye öne çıktığında, başka nelerin gözden kaçtığını sormaya değer.

Somut Bir Yapay Zekânın Cazibesi

Yapay zekâ sektörü, büyük ölçüde soyut ürünlerine fiziksel adresler kazandırmaya başladı. Anthropic’in New York’taki “Zero Slop Zone” adlı mekânı, ziyaretçileri kahve, kitap, kalem ve kâğıt eşliğinde yavaşlamaya davet etti; Perplexity ise şirketin yapay zekâsının deneyimin bir parçası olduğu Seul’deki Cafe Curious adlı kafeyi açtı. Anthropic’in geçici mekânına ilişkin haberler ile Perplexity’nin Seul’deki kafesine ilişkin haberler, soyut bir teknolojiyi gündelik ve sosyal bir ortama taşıma yönündeki iki ayrı girişimi anlatıyor.

Bu yaklaşımın bir mantığı var. Çoğu insan bir dil modelini göremez, arkasındaki altyapıyı inceleyemez ya da bir komut ile yanıt arasında neler olduğunu kolayca gözünde canlandıramaz. Bir kafe, bunun yerine geçebilecek somut bir ortam sunar: bir oda, bir fincan, bir sohbet. Böyle bir ortam, şirketle ve teknolojisiyle karşılaşmayı, belki de onları anlamayı kolaylaştırabilir.

Bir de işin ikinci bir boyutu var. Fiziksel bir mekân, şirketi içinde bulunduğu toplulukta görünür kılar. En azından, “şimdilik, bu yerdeyiz” mesajını verir. Ürünlerin, politikaların ve beklentilerin hızla değiştiği bir alanda bu, güven verici gelebilir. Ancak görünür olmak hesap verebilir olmakla aynı şey değildir. Davetkâr bir mekân, teknolojiyi daha tanıdık hissettirebilir; ancak bize onun nasıl eğitildiğini, hangi durumlarda güvenilir olduğunu ya da önemli bir konuda hata yaptığında kişinin hangi yollara başvurabileceğini anlatmaz.

Bu ayrım, yıllardır dönüp dolaşıp üzerinde durduğum bir düşünceyi hatırlatıyor: dijital deneyimler hiçbir zaman yalnızca dijital değildir. İnsanlarla belirli mekânlarda, ilişkilerde ve kurumlarda buluşurlar. Tasarım sorusu, bir yapay zekâ sistemini yalnızca nasıl daha erişilebilir hissettireceğimiz değildir. Asıl soru, bu deneyimin insanların sistemin sınırlarını anlamasına ve anlamlı bir özerkliği korumasına yardımcı olup olmadığıdır.

Bilinç Tartışması ve Bundan Zaten Etkilenen İnsanlar

Aynı ayrım, yapay zekâ bilinci tartışmalarında da önem taşıyor. Makine bilincinin mümkün olup olmadığı, hangi kanıtların yeterli sayılacağı ve belirsizliğin sorumluluklarımızı nasıl şekillendirmesi gerektiği konusunda gerçek bir görüş ayrılığı var. Anil Seth’in Noema’da ileri sürdüğü görüş, zekâ ile bilincin birbirinin yerine kullanılabilecek kavramlar sayılmaması gerektiğini savunuyor; The Guardian’da yakın zamanda yayımlanan haberler de bu sorunun neden hâlâ çözüme kavuşmadığını ortaya koyuyor. Bu tartışmanın kolay yanıtları yok.

Ancak bir makinenin iç dünyasına ilişkin belirsizlik, günümüzde insanlar üzerindeki sonuçlarla ilgili soruları belirsiz kılmaz. Sorumluluk, bilincin ne olduğu konusunda bir uzlaşmaya varmamızı beklemez. İnsanları etkileyen sistemleri kuran, devreye alan ve bunlardan kâr sağlayan kuruluşlar olduğunda başlar.

Şimdi inceleyebileceğimiz soruları ele alalım. Bir sistemi eğitmek için hangi bilgiler, hangi koşullar altında kullanıldı? Sistemin çıktılarını hazırlama ve denetleme işini kim yapıyor? Sistem, farklı gruplar üzerinde nasıl performans gösteriyor? Sağlık hizmetlerinde, işe alımda, eğitimde veya kamu hizmetlerinde kullanıldığında ne oluyor? Bir kişi otomatik bir öneriye itiraz edebilir, kararı veren bir insana ulaşabilir ve anlamlı bir açıklama alabilir mi?

Bunlar varsayımsal kaygılar değil. Tıbbi yapay zekâdaki önyargıları inceleyen bir değerlendirme, önyargılı verilerin ve tasarım tercihlerinin eşitsiz klinik kararlara nasıl yol açabileceğini anlatıyor. Öte yandan, yapay zekâ ve istihdam konusundaki araştırmalar hâlâ gelişme aşamasında: Anthropic’in iş gücü piyasası analizi, etkilenme düzeyini ölçmenin bir yolunu sunarken Hamilton Project’in değerlendirmesi, iş gücü piyasası genelindeki etkiler hakkında eldeki kanıtların hâlâ eksik olduğu uyarısında bulunuyor. Bu kaynaklar, bugün hangi sonuçlara varabileceğimiz konusunda farklı yönlere işaret ediyor; ancak kanıtların yerine kendinden emin anlatılar koymak yerine etkileri ölçme gereğini birlikte vurguluyor.

Sistemlerden söz etme biçimimiz de benzer bir risk taşıyor. İnsanı andıran adlar, sesler ve konuşma tarzları, yapay zekânın bir üründen çok bir insan gibi algılanmasına yol açabilir. Bu da insanların ona duyduğu güveni ve yanıtlarını ne ölçüde sorgulamadan kabul ettiğini etkileyebilir. Bilinç tartışmalarının ya da insanbiçimci tasarımın, dikkati sistemin amaçlarını ve sınırlarını belirleyen kuruluşlardan başka yöne çevirip çevirmediğini sormak makuldür. MIT Technology Review’da yayımlanan bir analiz, bilinç anlatılarının şirketlerin sorumluluğuna ilişkin soruları gölgeleyebileceğini savunuyor. Bu, çerçevelemenin etkilerine ilişkin bir savdır; soruyu gündeme getiren herkesin gizli bir amacı olduğunun kanıtı değildir.

Kıyamet Söylemi Bir Yönetişim Planı Değildir

Varoluşsal riskler ciddiye alınmalı. Felaket boyutundaki sonuçlar, daha yakın vadeli zararların varlığı nedeniyle daha az önemli hâle gelmez; yakın vadeli zararlar da felaket olasılığı yüzünden daha az önemli değildir. Bir zaman ufkunu seçip diğerini göz ardı etmek zorunda değiliz.

Ancak “Sonumuz geldi mi?” sorusu tüm konuşmanın merkezine yerleştiğinde, uzun vadeli riskler bir kez daha günümüzdeki zararların önüne geçiyor. Felaket söylemi, harekete geçme çağrısından çok bir hüküm gibi duyulabilir: Sonuç kaçınılmazsa, onu değiştirmek için zorlu bir çabaya neden girişelim? New Yorker’da yayımlanan, varoluşsal risk üzerine bir dersi konu alan bir yazı, bir öğrencinin “katedral inşa etme” sorusunu aktarıyor: Dünyanın sona erebileceğine inanıyorsanız, sizden daha uzun süre ayakta kalabilecek bir şey inşa etmeye neden kendinizi adayın? Yanıt, risklerin ortadan kalktığı değil. Belirsizlik, bundan sonra neyin önemli olduğuna karar verme ve sonrasında yaşanacakları şekillendirmeye yardımcı olma kapasitemizi ya da sorumluluğumuzu ortadan kaldırmıyor.

“Stratejik iyimserlik” felsefemden kastım bu. Bu, düşünmeden söylenen bir “her şey yoluna girecek” sözü de kanıtlara bakmayı reddetmek de değil. Gerçek riskleri kabul etmek, onları azaltmak için çalışmak ve bu sırada ulaşmaya değer bir gelecek için ciddi çaba göstermektir. Umut, titizliğin karşıtı değildir. Titizliği eyleme bağlı tutan şey umut olabilir.

Gösterinin Ardındaki Yönetişim Soruları

Bir kuruluş ister yapay zekâ aracı satın alıyor, ister böyle bir araç geliştiriyor, isterse bu konuda politika belirliyor olsun, yanıtlanması gereken pratik sorular bir kafe ya da bilinç iddiası kadar gösterişli değil; ama çok daha yararlı:

• Amaç: Sistem hangi sorunu çözmek için tasarlandı ve bu sorun için doğru araç yapay zekâ mı?
• Kanıt: Farklı kullanıcılar ve daha az rastlanan durumlar da dâhil olmak üzere sistem nasıl test edildi?
• Sınırlar: Hangi kararlar mutlaka bir insana bırakılmalı ve sistem neleri yapamaz?
• Hesap verebilirlik: Sistem başarısız olduğunda kim sorumlu olacak ve bundan etkilenen kişiler karara nasıl itiraz edebilecek?
• Şeffaflık: İnsanlar yapay zekânın ne zaman devrede olduğunu ve çıktısını hangi bilgilerin şekillendirdiğini anlayabiliyor mu?
• Sürekli denetim: Sistem kullanıma sunulduktan sonra performansı, değişen verileri ve istenmeyen etkileri kim izliyor?

NIST’in Yapay Zekâ Risk Yönetimi Çerçevesi gibi çerçeveler, kuruluşlara bir yapay zekâ sisteminin yaşam döngüsü boyunca riskleri belirlemek ve yönetmek için yapılandırılmış bir yöntem sunuyor. Hiçbir çerçeve sağduyulu değerlendirmelerin ya da kamusal tartışmanın yerini tutamaz; ancak sorumluluklar, testler ve telafi yolları açıkça tanımlandığında yönetişim daha somut hâle gelir.

Yönetişimin fiziksel bir boyutu da var. Yapay zekâ yalnızca arayüzlere değil; veri merkezlerine, elektriğe, suya, araziye ve finansmana da bağlı. Büyük bir veri merkezi projesinin finansman yapısına ilişkin haberler, altyapı risklerinin nasıl açıklandığı ve sonuçta bu riskleri kimin üstlendiği konusunda soruları gündeme getiriyor. Bir kafe, insanların yapay zekâyla tanışmasına yardımcı olabilir; ancak tek başına, yapay zekânın ardındaki altyapıyı anlaşılır kılamaz.

Öyleyse kafenin tadını çıkarın. Bilinç üzerine büyük sorular sorun. Felaket riskini ciddiye alın. Ardından, bugün inceleyip etkileyebileceğimiz kararlara dönün: Neler inşa ediliyor, kim yarar sağlıyor, maliyetleri kim üstleniyor ve bir şeyler ters gittiğinde hangi güvenceler devreye giriyor?

Gelecek, bir manşetin verdiği hüküm değildir. Şirketlerin, kurumların, hükümetlerin ve toplulukların aldığı; hâlâ sorgulanıp değiştirilebilecek bir dizi karardan oluşur. Sorulması gereken en yararlı soru yalnızca sonumuzun gelip gelmediği değil. Yapay zekânın insanların gelişimine hizmet etmesini hangi koşulların sağlayacağı ve bu koşulları gerçeğe dönüştürmek için neler yapmaya hazır olduğumuz da sorulmalı.