Kitap İncelemesi: Demis Hassabis, DeepMind ve Süper Zeka Arayışı – The Infinity Machine

Önce The Power Law, adlı kitabı okudum ve bu kitabın venture sermayesi hakkında yazılmış en iyi kitap olduğunu düşünüyorum. Sebastian Mallaby’in son kitabına da aynı yüksek beklentilerle yaklaştım. The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence bu beklentileri karşıladı.

The Power Law gibi, bu kitap da başarılı oluyor çünkü Mallaby, dönüştürücü şirketlerin yalnızca teknoloji veya finansal sonuçlar aracılığıyla açıklanamayacağını anlıyor. Bu şirketleri, onları kuran insanların hırsı, kişilikleri, rekabetleri ve derinlemesine benimsedikleri inançlar aracılığıyla anlamak gerekiyor.

The Infinity Machine, kısmen tarihte en önemli yapay zeka şirketlerinden birinin yaratılmasının hikayesi. Ancak daha da önemli olarak, bu bir bilim insanının hikayesi ve bu bilim insanı, bilimsel soruları takip etmek için girişimciliği bir araç olarak kullanıyor.

Demis Hassabis, DeepMind’i esas olarak zengin olmak, ünlü olmak veya teknoloji girişimcisi olarak tanınmak için kurduğu biri gibi görünmüyor. O, zekayı en önemli sonuçları doğurabilecek problem olarak tanımlayan ve hayatını bunu çözmeye adamış biri gibi görünüyor.

Bu ayrım, kitabın bu kadar çekici olmasının nedenidir.

Bir Bilim İnsanı ve Girişimci

Mallaby, Hassabis’in çocukluk döneminde satranç dehası ve video oyunu tasarımcısı olarak başlayan yolculuğunu, nörobilimci, yapay zeka araştırmacısı ve sonunda DeepMind’in kurucu ortaklarından biri olmasını anlatıyor. Kitap, Hassabis ile 30’dan fazla saatlik konuşmalardan ve 100’den fazla röportajdan oluşuyor.

Bu erişim, Mallaby’e Hassabis’i sadece Google DeepMind’in kamu yüzü olarak değil, aynı zamanda ilgi alanlarının şaşırtıcı derecede tutarlı kaldığı bir kişi olarak sunma olanağı tanıyor.

Satranç, ona birkaç hamle öncesini düşünmeyi öğretti. Simülasyon oyunları tasarlamak, karmaşık dünyaların nispeten basit kurallardan nasıl ortaya çıkabileceğini öğretti. Nörobilim, ona hafıza, hayal gücü, planlama ve zekanın insan beyninde nasıl çalıştığını sormayı öğretti.

Bu uğraşlar, kariyerinin farklı ve ayrı aşamaları değildi. Aynı temel soruya farklı yaklaşımlardı: Zeka yeterince iyi anlaşılabilecek ve yeniden yaratılabilecek mi?

Kitap boyunca dikkat çeken Hassabis’in problemleri temellerine indirgeme eğilimidir. Mevcut teknoloji ne başarabileceğine bakmak yerine, her zaman olması gereken sonucu belirleyerek geriye doğru çalışıyordu.

Bu ilk prensipler yaklaşımı, aynı zamanda onun olağanüstü uzun vadeli zaman dilimini de açıklıyor. Hassabis, bir problemi yıllarca veya hatta on yıllar boyunca aklında tutmaya hazır olabilirdi, bilim ve hesaplama yetenekleri onu uygun şekilde ele alabilecek seviyeye gelene kadar.

En net örnek protein yapısı tahmini.

Protein Katlama Tohumunun Ekildiği Konuşma

Cambridge’de bilgisayar bilimi okuyorken, Hassabis biyoloji öğrencileri ile arkadaş oldu. Onlardan biri protein katlama problemine özellikle ilgi duyuyordu ve bu problemi çözmek biyolojiyi dönüştürebileceğini açıkladı.

Hassabis, bu problemi hemen yapay zeka ile çözülebilecek bir sorun olarak tanıdı ve notlarına bilimsel problemleri ekledi. Protein katlama, neredeyse iki thập yıl boyunca bu listede kaldı.

Kitabın en büyüleyici bölümlerinden biri bu.

Görünüşte sıradan bir sohbet, Hassabis’i protein katlama problemine tanıttı ve bu problem, üniversite, nörobilim araştırmaları, girişimcilik, DeepMind’in kurulması ve öğrenme sistemlerinin geliştirilmesi boyunca aklında kaldı.

Sonrasında neler olduğu anlamak için, bu zorluğun ölçeklendirmesi gerektiğini takdir etmek gerekiyor.

Proteinler amino asit zincirleri olarak başlar ve bu zincirler karmaşık üç boyutlu yapılara katlanır. Sonuçta oluşan şekil, bir proteinin bir canlı organizma içinde ne yapabileceğini büyük ölçüde belirler. Bu nedenle, bu yapının anlaşılması, hastalıkları incelemek, ilaçlar tasarlamak ve yaşamın birçok mekanizmasını anlamak için esastır.

Zorluk, thậm chí küçük bir proteinin teorik olarak alabileceği olası yapıların astronomik sayısıdır. X-ışını kristalografisi veya kriyo-elektron mikroskobu gibi yöntemlerle deneysel olarak bir yapının belirlenmesi önemli zaman, uzmanlık ve masraf gerektirebilir.

Yaklaşık 50 yıldır, bilim insanları bir proteinin üç boyutlu yapısını amino asit dizisinden güvenilir bir şekilde tahmin etmeye çalıştı. Bu, hesaplamalı biyolojinin büyük çözülmemiş problemlerinden biri haline geldi.

Bazen AlphaFold’un “protein katlamayı çözdüğü” söylenir. Teknik olarak, bu tanım çok geneldir. AlphaFold protein yapısı tahmini; proteinin fiziksel katlama sürecini, protein hareketini, yanlış katlamayı veya moleküler etkileşimi açıklamıyor.

Bu sınırlama, başarıyı azaltmıyor. Deneysel yöntemlerle karşılaştırılabilir doğrulukta yapıları tahmin etmek, bir bilimsel alanın tamamını değiştiren bir atılımdı.

Oyunlar, Hedef Değil, Eğitim Alanı

DeepMind, biyoloji ile başlamadı. İlk atılımları oyunlar aracılığıyla geldi.

Oyunlar, bir yapay zeka laboratuvarına değer verilen bir şey sunuyor: Kontrollü ortamlar, net kurallar, ölçülebilir sonuçlar ve sayısız karar alma fırsatı. Bir ajan, gerçek dünyada risk almadan ve belirsizlik olmadan deney yapabilir, başarısız olabilir, geri bildirim alabilir ve gelişebilir.

DeepMind’in derin Q-ağı, bir öğrenme sistemi tarafından Atari oyunlarını ekran piksellerinden ve ödül sinyallerinden oyun özel talimatları olmadan ustalaştığını gösterdi. Bu çalışma, derin pekiştirme öğrenmesini modern yapay zekanın en umut verici yaklaşımlarından biri olarak kurdu.

Sonraki büyük test Go oyunuydu.

Go, geleneksel hesaplama yaklaşımlarına karşı direndi çünkü tahta pozisyonlarının sayısı tüketici bir aramayı imkansız kılıyordu. Başarı, desen tanıma, stratejik planlama ve her olası sonucu hesaplamadan önce umut verici hamleleri tanıma yeteneği gerektiriyordu.

Mart 2016’da AlphaGo, efsanevi Go oyuncusu Lee Sedol’u dört oyun bir karşı bir yenilgiyle mağlup etti. 200 milyondan fazla insan, bir makinenin, hatta elit oyuncuların bile ilk olarak anlamakta zorlandıkları hamleleri sergilediğini izledi.

AlphaGo Zero daha sonra insan oyun kayıtlarına bağımlılığı kaldırdı. Sadece kurallarla başlayarak, kendisiyle oynayarak ve sonunda önceki AlphaGo versiyonunu geride bıraktı. AlphaZero, yaklaşımı daha da genişletti ve insan örneklerine veya el ile oluşturulmuş stratejilere güvenmeden satranç, şogi ve Go’yu kendi kendine oynayarak ustalaştı.

Bu sistemler, AlphaFold’un doğrudan prototipleri değildi. Bağlantı daha çok felsefi ve organizasyoneldi.

Oyunlar, DeepMind’e nasıl sınırsız olasılık alanlarına navegasyon yapabilen sistemler inşa edeceğini öğretti. Nöral ağlar, pekiştirme öğrenmesi, arama ve büyük miktarda hesaplama ile insanların açıkça programlamadığı çözümlerin bulunabileceğini gösterdiler.

Daha da önemli olarak, Hassabis’e, yapay zeka’nın gerçekten faydalı içgörüler üretebileceğinden daha fazlasını yapabileceğine dair güven verdi.

AlphaGo, tarihi bir başarıydı, ancak asla nihai hedef değildi. Oyunlar, DeepMind’in gerçek bilimsel problemlerle karşılaştığında kullanabileceği fikirleri, insanları, altyapıyı ve güveni geliştirebileceği laboratuvarlardı.

Protein yapısı tahmini, orijinal misyonun nihayet test edileceği yerdi.

AlphaFold ve Kazanmak ile Çözmek Arasındaki Fark

DeepMind, resmen 2016’da protein yapısı tahmini üzerinde çalışmaya başladı. İlk AlphaFold sistemi, 2018’de CASP13 protein yapısı yarışmasına katıldı ve katılımcılar arasında en yüksek doğruluğu elde etti.

Çoğu organizasyon için, bu yarışmayı kazanmak yeterli olurdu. Bu, başlıklar, akademik tanınma ve projenin başarılı olduğu kanıtı üretirdi.

Hassabis daha fazlasını istedi.

Yalnızca bir benchmark’ı geçen ancak günlük bilimsel çalışmalarda yeterince güvenilir olmayan bir sistem, problemi gerçekten çözmemişti. DeepMind, ekibi genişletti, John Jumper’ı merkezi bir araştırma rolüne getirdi ve ilk yaklaşımını sadece geliştirmek yerine sistemi önemli ölçüde yeniden tasarladı.

Sonuç, AlphaFold2 idi.

2020’de CASP14’te AlphaFold2, organizatörler ve araştırmacılara göre birçok protein hedefi için deneysel yöntemlerle karşılaştırılabilir doğrulukta sonuçlar elde etti. İlgili araştırma, hesaplamalı tahminin düzenli olarak atomik doğruluğa ulaşabileceğini, hatta yakın bilinen bir yapı yoksa bile gösterdi.

DeepMind ve Avrupa Biyoinformatik Enstitüsü daha sonra, bilim tarafından kataloglanan neredeyse tüm protein yapıları için tahminleri kapsayan bir veritabanı yayınladı. Bu veritabanı, 190’dan fazla ülkeden 3 milyondan fazla araştırmacı tarafından erişildi.

2024’te Hassabis ve Jumper, protein yapısı tahmini için Nobel Kimya Ödülü’nü paylaştı. Diğer yarısı, hesaplamalı protein tasarımı için David Baker’a verildi.

Olayların bu dizisi, Hassabis hakkında beni en çok etkileyen şeyi yakalar.

O, kabul edilen bir problem ölçütünü kazanmaktan memnun görünmüyor. Sürekli olarak, temel problem gerçekten çözüldü mü diye soruyor.

Bu, ilk prensipler düşüncesinin en saf hali. Bir benchmark, yalnızca bir proxy’dir. Hedef, ilk sırada olmak değildir. Hedef, bilim insanlarının neler yapabileceğini değiştirebilecek bir şey yaratmaktır.

LLM Kör Noktası ve OpenAI’nin Ön Planına Geçmesi

Kitap, yakın zamanda yaşanan en karmaşık olaylardan birini de açıklığa kavuşturuyor.

Google araştırmacıları, 2017’de Attention Is All You Need adlı dönüm noktası makalesini sundu. Transformerlar, modern büyük dil modellerinin temelini oluşturdu.

Ancak Google, bu başlangıç avantajını, dönüştürücü AI dönemini tanımlayan ürün haline getiremedi. OpenAI, ChatGPT’yi çıkardı ve yüz milyonlarca insanın gelişmiş AI ile ilk kez karşılaştığı arayüzyi belirledi. Anthropic, geliştiriciler ve kurumsal kullanıcılar arasında özellikle bir lider olarak ortaya çıktı.

Bu hikayenin yaygın versiyonu, Google’un transformerı icat ettiğini ancak dil modelleri oluşturmada başarısız olduğunu söylüyor. Bu tam olarak doğru değil. Google ve DeepMind, önemli dil modeli araştırmaları yayınladı,包括 DeepMind’in 2021’de 280 milyar parametreli Gopher modeli.

Başarısızlık, araştırma eksikliğinden değildi. Stratejik inanç ve ürün yürütme eksikliğiydi.

Hassabis başlangıçta, dilin tek başına gerçek zeka üretebileceğinden şüpheliydi. Bir zeka sistemine, algı, eylem, robotik veya simüle edilmiş ortamlar aracılığıyla dünyaya dayanması gerektiğini düşünüyordu.

Kaygısı makuldü. Bir makine, ağırlık tanımını depolayabilirdi, ancak bir şeyi kaldırmadan gerçekten ağırlık kavramını anlayabilir miydi? Gravity tanımlarını işleyebilirdi, ancak bir camın düşürüldüğünde kırılacağını anlayabilir miydi?

DeepMind’in araştırma gündemi,因此, oyunlar ve simüle edilmiş dünyalar içinde hareket eden ajanlara öncelik verdi. Araştırmacıları, dil ile algı ve eylemi üç boyutlu ortamlarda bağlamak amacıyla tasarlanmış sistemler bile inşa ettiler.

Ne var ki, Hassabis, insanların doğrudan deneyimlerinden geri bildirim yoluyla fiziksel ve sosyal dünya hakkında already çok fazla bilgiyi dilde kodlayabileceğini küçümsedi.

Büyük modeller, insanların doğrudan dünyayı deneyimlemesinden gelen bir tür zemini miras alabilirdi.

Hassabis, daha sonra bu konuda yanlış yaptığını kabul etti ve dil modellerini “makul derecede etkili” olarak tanımladı.

Kitabın en değerli bölümlerinden biri bu, çünkü Google’ın davranışını çok daha anlaşılır kılıyor.

Dışarıdan bakıldığında, transformerı geliştiren organizasyonun OpenAI’ye LLM dönemini tanımlamasına izin vermesi anlaşılmaz görünüyordu. Hassabis’in entelektüel çerçevesinden bakıldığında, daha fazla anlam kazanıyor. Daha derin bir zeka türü arıyordu ve dil modellerini bu yolda eksik bir yol olarak görüyordu.

Bu yargı, AGI seviyesinde sonunda doğru olabilir. Dil modelleri alone yetmeyebilir. Ancak bir ürün ve platform kararı olarak, rakiplerine olağanüstü bir fırsat verdi.

Kendi gözlemlerime göre, Gemini güçlü bir sistem haline geldi ve bireysel değerlendirmelerde rakip modelleri geçebilir. Ancak sanki Google, OpenAI ve Anthropic tarafından belirlenen bir kategorinin tanımını yeniden tanımlamaya çalışıyor gibi görünüyor.

Kitap, AI yetenekleri ve altyapısı en yoğun olan organizasyonlardan birinin bu duruma nasıl geldiğini açıklamaya yardımcı oluyor.

DeepMind’i Google’a Satmanın Misyon ile Uygun Olması

Hassabis hakkında anlayışımı değiştiren diğer bir olay, DeepMind’in Google’a satışını içeriyor.

Kurucu efsanesi, bağımsızlığı kutlar. İdeal girişimci, kontrolü elinde tutmalı, satın almayı reddetmeli, bir imparatorluk kurmalı ve bir şirket oluşturarak kişisel tanınmayı hak etmelidir.

Hassabis, bu kararı farklı bir şekilde değerlendirdi.

2013’teki DeepMind’i satın alma yarışması sırasında, Larry Page, Hassabis’in önceliklerine doğrudan hitap eden bir argüman sundu. Eğer gerçek amacı süper zekayı yaratmak ise, neden yıllarca altyapı oluşturmak, sermaye toplamak ve Google’e benzer bir şirket kurmakla uğraşsın ki? Google’un already var olan kaynakları vardı.

Conversasyonlar, Larry Page, Mark Zuckerberg, Elon Musk ve diğer teknoloji figürlerinin katılımıyla, Musk’un doğum günü için New York’ta kiralanan bir şatoda bir araya gelme dahil, neredeyse süreal bir dizi toplantı ile gerçekleşti.

Google, hesaplama altyapısı, sermaye, araştırma yeteneği ve sabır sunabilirdi ve DeepMind’in önemli gördüğü etik koşulları kabul etmeye hazırdı. Hassabis sonunda Google’ı seçti, reportedly Facebook’tan daha büyük bir teklife rağmen.

Geleneksel bir girişimci perspektifinden bakıldığında, DeepMind’i bu kadar erken satmak, bağımsızlıktan vazgeçmek gibi görünebilir.

Hassabis’in perspektifinden bakıldığında, bağımsız kalmak daha büyük bir sapma olabilir.

Amacı, bir sonraki Google’ın kurucusu olarak tanınmak değildi. Bilim için gelişmiş zekayı kullanarak en hızlı inandırıcı yolu bulmaktı. Google bu yolu kısalttı.

Satış, bağımsızlık, yönetim, ticarileştirme ve AI’nin etik sınırları konusunda gerçek gerilimler üretti. Kitap, bu soruları DeepMind’i bir dev şirkete koyarak çözdüğünü öne sürmüyor. Aslında, bazı açılardan bunları daha da zor hale getirdi.

Bununla birlikte, bu karar, Hassabis hakkında önemli bir şeyi ortaya koyuyor. O, geleneksel girişimci statüsüne, bilimi mümkün kılan misyona hizmet etmekten daha az bağlı görünüyor.

İyi Adamlardan Biri – Ancak Yanılmaz Değil

Hassabis sonunda, AI yarışındaki iyi adamlardan biri olarak ortaya çıkıyor.

Bunun anlamı, her kararın doğru olduğu değildir. Dil modelleri konusundaki tereddütü önemliydi. DeepMind’in Google ile ilişkisi, uzlaşmalar içerdi. Güçlü AI sistemlerinin birkaç şirket içinde yoğunlaşması, iyi niyet alone ile cevaplanamayacak sorular yaratıyor.

Ama motivasyonları, genellikle tutarlı görünüyor.

O, zekayı anlamak istiyor. Gelişmiş AI’nın bilimsel keşfi hızlandırabileceğine inanıyor. Sürekli olarak, güvenliği ve giderek daha yetenekli sistemlerin uzun vadeli sonuçlarını düşünme ihtiyacını vurguladı. En önemli olarak, AlphaFold, AI’nın bilim için bir araç olarak görülen vizyonunun yalnızca bir konuşma noktası değil, somut bir kanıt olduğunu gösteriyor.

AlphaFold, Hassabis’e, AGI yarışındaki diğer birçok liderin sahip olmadığı bir credibility kazandırıyor.

Son Düşünceler

The Infinity Machine, bir biyografi, DeepMind’in tarihi ve modern yapay zekanın en önemli atılımlarının erişilebilir bir hesabını başarılı bir şekilde sunuyor. Ayrıca, AlphaGo ve AlphaFold’den Google’ın ChatGPT’ye karşı gecikmiş yanıtına kadar, gerçek zamanlı olarak tanık olduğumuz olayları çok daha tutarlı hissettiriyor.

En güçlü ders, Hassabis’in olağanüstü zeki olduğu değil, aynı zamanda hangi problemlere bu zekayı uygulamak istediğine dair olağanüstü bilinçli olduğudur.

Biyoloji öğrencileri ile bir sohbet, onu protein katlama problemine tanıttı, bu problemi on yıllar önce AI’nin ele alabileceği bir seviyeye gelmeden önce aklında tuttu, gerekli organizasyonu ve sistemleri inşa etti ve teknoloji yeterince ilerlediğinde buna geri döndü.

Bu, The Infinity Machine kitabını ve Demis Hassabis’i yapay zeka tarihinin bu kadar unutulmaz bir figürü yapan şeydir.