Yapay Zekâ Giderek Akıllanıyor; Bütünlüğü Sağlamak Giderek Zorlaşıyor

Tüm kariyerim boyunca zekâyı anlamaya çalıştım. Yapay zekâyla ilgilendiğim için nörobilim okudum ve işe başlamanın iyi bir yolunun önce beynin nasıl çalıştığını öğrenmek olduğunu düşündüm. Önce zekâ, sonra “yapay” zekâ. Aldığım eğitim bende bir alışkanlık bıraktı. Yeni bir yetenek ya da teknoloji ortaya çıktığında ilk sorum pratik olur: Bu gerçekten ne yapabilir ve ne tür gerçek dünya sorunlarını çözebilir?

Yapay zekâ alanında çalışan biri olarak yapay zekâ hakkındaki manşetleri alkışlamaya pek yanaşmam. Gürültünün ötesine bakar, yeni yeteneklerin yalnızca çığır açan yanlarını değil, sınırlarını da anlamaya çalışırım.

Sıradan Araçlardan Kritik Güvenilirliğe

2020’de, yapay zekâ güvenliği tartışmalarının abartılı beklentilerle alevlendiği dönemde, basit bir tavsiyem vardı: Yapay zekâyı güçlü bir araç olarak görün, ama yine de bir araç olduğunu unutmayın. Gösterişsiz kullanım alanlarına odaklanın. Teknolojinin yardımcı olacak kadar güvenilir olduğu görev düzeyinde çalışın. İyimser senaryom, gösterişsiz ama yararlı araçlardan oluşuyordu.

Birkaç yıl sonra yapay zekâ ajanları dalgası yükselmeye başladığında aynı bakış açısını korudum ve ikna olmadım. Ajan tabanlı bir sistem, altında yatan görevler kadar güçlüdür; oysa bu sistemlerin etkili olabilmesi için gereken görev düzeyindeki güvenilirliği henüz görmemiştim.

Ancak beklentiler giderek yükseliyordu. Geçen yılın başlarında RSA’ya katıldığımda, söylemle somut sonuçlar arasındaki fark hâlâ göz ardı edilemeyecek kadar büyüktü. “Ajan tabanlı” ifadesinin ne anlama geldiği konusunda ortak bir anlayış bile yoktu; herkesin tanımı ve bakış açısı farklıydı. Yapısal bir sorun da beni kaygılandırıyordu. Her biri yaklaşık yüzde 95 doğruluk oranına sahip on ajan düşünün. Birinin çıktısını bir sonrakinin girdisi hâline gelecek şekilde bunları zincirleyin. Zincirin sonuna gelindiğinde doğruluk oranı yaklaşık yüzde 60’a düşer. Güvenilirlik, katmanlar üst üste eklendikçe korunmaz. O sıralarda ajan sistemleri üzerine düşünmeye başlamıştım; ancak kaygım hâlâ bu sistemlere güvenilip güvenilemeyeceği ve anlamlı bir fark yaratıp yaratamayacaklarıydı.

Ardından kodlama ajanlarındaki hızlı gelişmeler fikrimi değiştirdi.

Bu konudaki makalemi yayımlamamın üzerinden birkaç ay geçmeden, inanılmaz ilerleme hızı bana bir şeyi açıkça gösterdi: Bazı gerçek dünya görevlerinde güvenilirliğe ulaşmak artık yalnızca zaman meselesiydi. Etraflarında daha iyi mühendislik düzenekleri bulunan daha iyi modeller, kaygılandığım açığı kapatacaktı. Beni endişelendiren sınır ortadan kalkacaktı.

Asıl sorun o zaman netleşti; üstelik bu, izlediğim sorun değildi. Tek tek ajanlara güvenebildiğinizde, ilkini devreye alıp durmazsınız. Çok sayıda ajanı devreye alırsınız. Her işlev alanında, her biri yetkin ve kendi görevini yerine getiren ajan filoları kurarsınız. Böylece güvenilirlikle ilgisi olmayan yeni bir soru ortaya çıkar: Filodaki her ajan tasarlandığı işi yapıyorsa, filonun bütünü yine de kuruluşun amaçladığı sonuca ulaşıyor mu?

Örgütsel Özduyum İhtiyacı

Yetenekli uzuvlara sahip bir beden, tüm parçalarının nerede olduğunu ve ne yaptığını sürekli olarak içsel biçimde algılamadan düzgün hareket edemez. Beyincik bu geri bildirime yalnızca tepki vermekle kalmaz; öngörüde de bulunur. Beyin bir hareket komutu verdiğinde, bu hareketin yaratması gereken duyuma ilişkin bir beklenti oluşturur ve sonra bu beklentiyi gerçekte ortaya çıkan duyumla karşılaştırır. İkisi arasındaki fark, bir sonraki hareketi düzeltmeye yarayan sinyaldir. Ustalaşmış hareket, sonucu öngörüp aradaki farkı düzeltmeye dayanan bir döngüdür.

Ajan filolarıyla çalışan bir kuruluşun da kendisine ilişkin aynı farkındalığa ihtiyacı vardır. Sistemlerinin nerede olduğunu ve amaçlanan durumlarından ne kadar uzaklaştıklarını sürekli olarak bilmelidir. Bu içsel farkındalık olmadan, yetenekli parçalar birleşip eşgüdümlü eyleme dönüşemez. Bu, bedeni daha güvenli kılmak için sonradan eklenen bir algılama mekanizması değildir. Bedenin hareket edebilmesi için en başından gerekir.

Bu duyuyu vücudunun büyük bölümünde yitiren Ian Waterman adlı bir adamın vakası iyi incelenmiştir. Yeniden hareket etmeyi öğrendi, ancak bunu yalnızca kendini izleyerek, her adımını ve uzanışını gözleriyle yönlendirerek başarabiliyordu. İşe yarıyor. Ama aynı zamanda yorucu ve kırılgan. Işıkları kapatın; hiçbir şekilde koordinasyon sağlayamaz. Ajanlarını elle yapılan denetimler ve düzenli incelemeler yoluyla yöneten bir kuruluş da onun durumundadır. Hiç geliştirmediği bir duyunun eksikliğini sürekli çaba harcayarak telafi eder; bu telafinin maliyeti, yerine koyduğu şeyden daha fazladır. Koşullar değiştiği anda tüm sistem çöker.

Adını anmaya değer, daha da tuhaf bir başarısızlık var; bu, nörobilimci V S Ramachandran’ın büyüleyici bir kitabında anlatılıyor. Bir uzuv kesildiğinde beyin sessizleşmez. Eksik uzuv için sinyaller üretmeye devam eder ve kişi bunları canlı bir şekilde hisseder. Yönetişim de aynı şekilde başarısız olabilir. Yeniden yapılanma ya da ihmal yoluyla bir gözetim işlevinden gerçek muhakemeyi söküp alın; bu işlev sessizleşmez. İncelemeler yine tamamlanır, ölçütler yine üretilir. Kuruluş, arkasındaki muhakeme içi boşaltılmış olsa da gözetim hissini yaşamayı sürdürür. Burada, şeffaflık konusundaki 2020 tarihli tavsiyem yeniden gündeme geliyor. Şeffaflık olmadan gözetim olmaz; yalnızca izleniyor olma görüntüsü üreten bir sistemde de şeffaflık yoktur.

Kıt Bir Kaynak Olarak Bütünlük

Zekâ giderek ucuzluyor. Yakında her iş akışında ve her araçta yer alacak. Bu dünyada kıt olan kaynak, her sistemin kendi başına yaptıklarıyla kurumun gerçekleştirmeye çalıştığı şey arasındaki canlı bağ olan tutarlılıktır. Tutarlılık, dağıtık zekânın tek bir amaç doğrultusunda uyum içinde kalmasını sağlayan bağ dokusudur.

Bir beynin pek çok parçasını nasıl tek bir bütün olarak çalışır halde tuttuğunu yıllarca inceledim. Ajanlar çağı, kuruma da aynı soruyu yöneltiyor. Amaç 2020’den bu yana değişmedi. Sıkıcı ama hâlâ yararlı. Artık inşa edilmesi gereken sıkıcı ama yararlı şey, tutarlılığın ta kendisi.