Ulasan Buku: The Infinity Machine: Demis Hassabis, DeepMind, dan Pencarian Superinteligensi oleh Sebastian Mallaby

Setelah sebelumnya membaca The Power Law, yang saya anggap sebagai buku terbaik tentang modal ventura, saya mendekati buku terbaru Sebastian Mallaby dengan harapan yang luar biasa tinggi. The Infinity Machine: Demis Hassabis, DeepMind, dan Pencarian Superinteligensi tidak mengecewakan.

Seperti The Power Law, buku ini sukses karena Mallaby memahami bahwa perusahaan yang transformatif tidak dapat dijelaskan hanya melalui teknologi atau hasil keuangan. Mereka harus dipahami melalui ambisi, kepribadian, persaingan, dan keyakinan yang mendalam dari orang-orang yang membangunnya.

The Infinity Machine sebagian adalah cerita tentang seorang wirausaha yang menciptakan salah satu perusahaan kecerdasan buatan paling penting dalam sejarah. Namun, yang lebih penting, ini adalah cerita tentang seorang ilmuwan yang kebetulan menggunakan kewirausahaan sebagai kendaraan untuk mengejar pertanyaan ilmiah.

Demis Hassabis tidak tampak seperti seseorang yang mendirikan DeepMind terutama untuk menjadi kaya, terkenal, atau dirayakan sebagai pendiri teknologi. Ia tampak seperti seseorang yang mengidentifikasi kecerdasan sebagai masalah paling konsekuensial yang bisa ia kerjakan dan kemudian membangun hidupnya di sekitar memecahkan masalah itu.

Perbedaan itu adalah yang membuat buku ini sangat menarik.

Seorang Ilmuwan Terlebih Dahulu dan Seorang Wirausaha Kedua

Mallaby melacak jalur Hassabis dari anak ajaib catur dan perancang permainan video menjadi ahli saraf, peneliti AI, dan akhirnya menjadi salah satu pendiri DeepMind. Buku ini didasarkan pada lebih dari 30 jam percakapan dengan Hassabis, bersama dengan lebih dari 100 wawancara dengan rekan, pesaing, kritikus, dan mantan kolaborator.

Akses ini memungkinkan Mallaby untuk mempresentasikan Hassabis tidak hanya sebagai wajah publik Google DeepMind, tetapi sebagai orang yang minatnya tetap luar biasa konsisten.

Catur mengajarkannya untuk berpikir beberapa langkah ke depan. Merancang permainan simulasi mengajarkannya bagaimana dunia yang kompleks bisa muncul dari aturan yang relatif sederhana. Ilmu saraf mendorongnya untuk bertanya bagaimana memori, imajinasi, perencanaan, dan kecerdasan bekerja di dalam otak manusia.

Pencarian ini tidak terputus-putus sebagai tahap karirnya. Mereka adalah pendekatan yang berbeda untuk pertanyaan yang mendasarinya: Apakah kecerdasan dapat dipahami dengan cukup baik untuk dibuat kembali?

Apa yang menonjol sepanjang buku adalah kecenderungan Hassabis untuk mengurangi masalah ke dasar-dasarnya. Daripada memulai dengan apa yang teknologi yang ada bisa capai, ia berulang kali memulai dengan hasil yang ia percayai seharusnya memungkinkan dan bekerja mundur.

Pendekatan first-principles ini juga menjelaskan horizon waktu yang luar biasa panjang. Hassabis bersedia mempertahankan masalah dalam pikirannya selama bertahun-tahun—atau bahkan beberapa dekade—hingga sains dan komputasi telah berkembang cukup untuk ia menyerangnya dengan benar.

Contoh paling jelas adalah prediksi struktur protein.

Percakapan yang Menanamkan Benih Pelipatan Protein

Ketika belajar ilmu komputer di Cambridge pada 1990-an, Hassabis menjadi teman dengan mahasiswa biologi. Salah satu dari mereka sangat tertarik dengan masalah pelipatan protein dan menjelaskan bahwa memecahkan masalah itu bisa mengubah biologi.

Hassabis segera mengenali itu sebagai jenis masalah pencarian yang luar biasa besar yang mungkin suatu hari nanti dapat diatasi dengan kecerdasan buatan. Ia dilaporkan mempertahankan catatan tentang masalah ilmiah yang bisa menjadi cocok untuk algoritma yang ia harapkan untuk dibangun. Pelipatan protein tetap di antara mereka selama hampir dua dekade.

Ini adalah salah satu bagian paling menarik dari buku.

Sebuah percakapan yang tampaknya biasa memperkenalkan Hassabis pada masalah yang akan tetap di bagian belakang pikirannya selama universitas, penelitian ilmu saraf, kewirausahaan, pembuatan DeepMind, dan pengembangan sistem pembelajaran yang semakin mampu.

Untuk memahami signifikansi apa yang diikuti, perlu menghargai skala tantangan.

Protein dimulai sebagai rantai asam amino. Rantai-rantai itu melipat menjadi struktur tiga dimensi yang rumit, dan bentuk yang dihasilkan sebagian besar menentukan apa yang dapat dilakukan protein di dalam organisme hidup. Memahami struktur itu oleh karena itu penting untuk mempelajari penyakit, merancang obat-obatan, dan memahami banyak mekanisme yang bergantung pada kehidupan.

Kesulitannya adalah bahwa bahkan protein yang relatif kecil dapat secara teoretis mengambil jumlah konfigurasi yang luar biasa besar. Menentukan struktur secara eksperimental melalui metode seperti kristalografi sinar-X atau mikroskopi elektron kriogenik dapat memerlukan waktu yang substansial, keahlian, dan biaya.

Selama sekitar 50 tahun, ilmuwan berjuang untuk memprediksi struktur tiga dimensi protein dari urutan asam amino satu dimensi. Tantangan itu menjadi salah satu masalah yang belum terpecahkan dalam biologi komputasi.

Sering dikatakan bahwa AlphaFold “memecahkan pelipatan protein.” Secara teknis, deskripsi itu terlalu luas. AlphaFold mengubah prediksi struktur protein; itu tidak menjelaskan setiap tahap proses pelipatan fisik, gerakan protein, pelipatan yang salah, atau interaksi molekuler.

Itu tidak mengurangi prestasi. Memprediksi struktur dengan akurasi hampir eksperimental adalah sendiri sebuah terobosan yang mengubah bidang ilmiah.

Permainan Adalah Tempat Latihan, Bukan Tujuan

DeepMind tidak dimulai dengan biologi. Pencapaian awalnya datang melalui permainan.

Permainan menawarkan sesuatu yang tak ternilai bagi laboratorium AI: lingkungan yang dikendalikan dengan aturan yang jelas, hasil yang dapat diukur, dan jumlah keputusan yang luar biasa besar. Sebuah agen bisa bereksperimen, gagal, menerima umpan balik, dan memperbaiki tanpa ketidakjelasan dan risiko fisik dari beroperasi di dunia nyata.

DeepMind’s deep Q-network menunjukkan bahwa satu sistem pembelajaran bisa menguasai berbagai permainan Atari dari piksel layar dan sinyal hadiah daripada instruksi permainan khusus. Pekerjaan itu membantu menetapkan deep reinforcement learning sebagai salah satu pendekatan paling menjanjikan dalam AI modern.

Tantangan besar berikutnya adalah Go.

Go telah menolak pendekatan komputasi tradisional karena jumlah posisi papan yang mungkin membuat pencarian menyeluruh tidak mungkin. Keberhasilan memerlukan pengenalan pola, perencanaan strategis, dan kemampuan untuk mengidentifikasi gerakan yang menjanjikan tanpa menghitung setiap hasil potensial.

Pada Maret 2016, AlphaGo mengalahkan pemain Go legendaris Lee Sedol empat permainan hingga satu. Lebih dari 200 juta orang menonton mesin menampilkan gerakan yang bahkan pemain elit awalnya berjuang untuk memahami.

AlphaGo Zero kemudian menghilangkan ketergantungan pada catatan permainan manusia. Memulai hanya dengan aturan, ia belajar dengan bermain melawan dirinya sendiri dan akhirnya melampaui versi sebelumnya dari AlphaGo. AlphaZero menggeneralisasi pendekatan lebih lanjut, menguasai catur, shogi, dan Go melalui permainan sendiri tanpa bergantung pada strategi buatan tangan atau contoh manusia.

Sistem ini tidak langsung merupakan prototipe AlphaFold. Koneksi adalah lebih filosofis dan organisasional daripada arsitektur.

Permainan mengajarkan DeepMind bagaimana membangun sistem yang mampu menavigasi ruang kemungkinan yang luas. Mereka menunjukkan bahwa jaringan saraf, pembelajaran penguatan, pencarian, dan komputasi yang luar biasa besar bisa menemukan solusi yang manusia tidak secara eksplisit memprogram.

Lebih penting lagi, mereka memberi Hassabis kepercayaan bahwa AI bisa melampaui klasifikasi dan pencocokan pola untuk menghasilkan wawasan yang benar-benar berguna.

AlphaGo adalah prestasi historis, tetapi itu tidak pernah tujuan akhir. Permainan adalah laboratorium di mana DeepMind bisa mengembangkan ide, orang, infrastruktur, dan kepercayaan yang dibutuhkan untuk menghadapi masalah ilmiah nyata.

Prediksi struktur protein adalah tempat misi asli akan diuji.

AlphaFold dan Perbedaan Antara Menang dan Memecahkan

DeepMind secara resmi mulai mengerjakan prediksi struktur protein pada 2016. Sistem AlphaFold pertamanya memasuki kompetisi struktur protein CASP13 pada 2018 dan mencapai akurasi tertinggi di antara peserta.

Bagi banyak organisasi, memenangkan kompetisi itu sudah cukup. Itu akan menghasilkan judul utama, pengakuan akademis, dan bukti bahwa proyek itu telah sukses.

Hassabis ingin lebih.

Sistem yang menduduki benchmark tetapi tetap tidak cukup dapat diandalkan untuk pekerjaan ilmiah sehari-hari belum benar-benar memecahkan masalah. DeepMind memperluas tim, menempatkan John Jumper dalam peran penelitian sentral, dan merancang ulang sistem secara substansial daripada hanya memperbaiki pendekatan pertamanya.

Hasilnya adalah AlphaFold2.

Pada CASP14 pada 2020, AlphaFold2 mencapai akurasi yang dianggap setara dengan metode eksperimental oleh penyelenggara dan peneliti di banyak target protein. Penelitian terkait menunjukkan bahwa prediksi komputasi bisa secara teratur mendekati akurasi atom, termasuk dalam kasus di mana tidak ada struktur yang diketahui yang terkait erat.

DeepMind dan European Bioinformatics Institute kemudian merilis prediksi yang mencakup lebih dari 200 juta struktur protein—hampir setiap protein yang dikatalogkan oleh sains. Basis data itu telah diakses oleh lebih dari tiga juta peneliti di lebih dari 190 negara.

Pada 2024, Hassabis dan Jumper berbagi setengah dari Hadiah Nobel Kimia untuk prediksi struktur protein, dengan setengah lainnya dianugerahkan kepada David Baker untuk desain protein komputasi.

Urutan peristiwa itu menangkap apa yang saya temukan paling mengesankan tentang Hassabis.

Ia tidak tampaknya puas dengan memenangkan ukuran yang diterima dari sebuah masalah. Ia terus bertanya apakah masalah yang mendasarinya benar-benar telah diselesaikan.

Itu adalah pemikiran first-principles dalam bentuknya yang paling murni. Sebuah benchmark hanya sebuah proksi. Tujuan bukanlah untuk menduduki peringkat pertama. Tujuan adalah menciptakan sesuatu yang mengubah apa yang para ilmuwan mampu lakukan.

Titik Buta LLM yang Membantu OpenAI Mengambil Alih

Buku ini juga menjelaskan salah satu episode paling membingungkan dalam sejarah AI baru-baru ini.

Peneliti Google memperkenalkan arsitektur transformer dalam makalah 2017 yang berpengaruh Attention Is All You Need. Transformer menjadi dasar dari model bahasa besar modern.

Namun, Google tidak mengubah keunggulan itu menjadi produk yang mendefinisikan era AI generatif. OpenAI merilis ChatGPT dan membangun antarmuka yang melalui ratusan juta orang akan pertama kali mengalami AI canggih. Anthropic kemudian muncul sebagai pemimpin lain, terutama di kalangan pengembang dan pengguna perusahaan.

Versi umum dari cerita ini adalah bahwa Google menciptakan transformer dan kemudian gagal membangun model bahasa. Itu tidak sepenuhnya akurat. Google dan DeepMind menerbitkan penelitian model bahasa yang substansial, termasuk model Gopher 280-miliar-parameter DeepMind pada 2021.

Keberhasilan bukanlah ketiadaan penelitian. Itu adalah kegagalan keyakinan strategis dan eksekusi produk.

Hassabis awalnya meragukan bahwa bahasa saja bisa menghasilkan kecerdasan yang sebenarnya. Ia percaya bahwa sistem yang cerdas perlu didasarkan pada dunia melalui persepsi, tindakan, robotika, atau lingkungan yang disimulasikan.

Kepercayaannya itu masuk akal. Sebuah mesin bisa menyimpan definisi berat, tetapi apakah itu benar-benar memahami berat tanpa pernah mengangkat sesuatu? Itu bisa memproses deskripsi gravitasi, tetapi apakah itu benar-benar memahami bahwa gelas akan hancur ketika jatuh?

Agenda penelitian DeepMind akibatnya menekankan agen yang bertindak di dalam permainan dan dunia yang disimulasikan. Penelitinya bahkan membangun sistem yang secara khusus dimaksudkan untuk menghubungkan bahasa dengan persepsi dan tindakan dalam lingkungan tiga dimensi.

Apa yang Hassabis remehkan adalah seberapa banyak informasi tentang dunia fisik dan sosial yang telah dikodekan dalam bahasa manusia. Model besar bisa juga mewarisi bentuk dasar melalui umpan balik dari orang-orang yang telah secara langsung mengalami dunia.

Hassabis telah mengakui bahwa itu adalah sesuatu yang ia salah perkirakan, menggambarkan model bahasa sebagai “tidak masuk akal efektif”.

Ini adalah salah satu bagian paling berharga dari buku karena membuat perilaku Google lebih bisa dipahami.

Dari luar, tampak tidak masuk akal bahwa organisasi yang bertanggung jawab atas transformer akan membiarkan OpenAI mendefinisikan era LLM. Dari dalam kerangka intelektual Hassabis, itu lebih masuk akal. Ia mencari bentuk kecerdasan yang lebih dalam dan awalnya menganggap model bahasa sebagai jalur yang tidak lengkap menuju kecerdasan itu.

Penilaian itu mungkin akhirnya terbukti benar pada tingkat AGI. Model bahasa saja mungkin tidak cukup. Namun, sebagai keputusan produk dan platform, itu memberi pesaing kesempatan luar biasa.

Dalam pengamatan saya sendiri tentang pasar, Gemini telah menjadi sistem yang tangguh dan mungkin akan mengungguli model lain dalam evaluasi individual. Namun, itu masih terasa seperti Google mencoba mendefinisikan kembali kategori yang harapannya telah ditetapkan oleh OpenAI dan Anthropic.

Buku ini membantu menjelaskan bagaimana salah satu organisasi dengan konsentrasi bakat dan infrastruktur AI terbesar menemukan dirinya dalam posisi itu.

Mengapa Menjual DeepMind ke Google Konsisten dengan Misi

Episode lain yang mengubah pemahaman saya tentang Hassabis adalah penjualan DeepMind ke Google.

Mitos pendiri cenderung merayakan kemandirian. Wirausaha ideal seharusnya mempertahankan kontrol, menolak akuisisi, membangun kerajaan, dan menerima pengakuan pribadi untuk menciptakan perusahaan yang dominan.

Hassabis tampaknya mengevaluasi keputusan itu secara berbeda.

Selama kompetisi 2013 untuk mengakuisisi DeepMind, Larry Page membuat argumen yang langsung menuju prioritas Hassabis. Jika tujuan sebenarnya adalah menciptakan AGI, mengapa menghabiskan tahun-tahun membangun infrastruktur, mengumpulkan modal, dan membangun perusahaan yang setara dengan Google ketika sumber daya Google sudah ada?

Percakapan itu terjadi di tengah-tengah pertemuan yang hampir surealis yang melibatkan Page, Mark Zuckerberg, Elon Musk, dan tokoh teknologi lainnya, termasuk pertemuan di kastil yang disewa di New York untuk ulang tahun Musk.

Google bisa menawarkan infrastruktur komputasi, modal, bakat penelitian, dan kesabaran pada skala yang perusahaan independen DeepMind akan berjuang untuk mereproduksi. Ini juga siap menerima kondisi etika yang DeepMind anggap penting. Hassabis akhirnya memilih Google meskipun dilaporkan menerima tawaran yang lebih besar dari Facebook.

Dilihat dari lensa kewirausahaan konvensional, menjual DeepMind begitu awal bisa tampak seperti menyerahkan kemandirian.

Dilihat dari lensa Hassabis, tetap independen mungkin merupakan gangguan yang lebih besar.

Tujuannya bukanlah untuk menjadi dikenal sebagai pendiri perusahaan berikutnya yang setara dengan Google. Tujuannya adalah menggunakan rute yang paling kredibel menuju membangun AGI dan menerapkan kecerdasan canggih pada sains. Google mempersingkat rute itu.

Akuisisi itu kemudian menghasilkan ketegangan nyata tentang kemandirian, tata kelola, komersialisasi, dan batasan etika AI. Buku ini tidak menyarankan bahwa meletakkan DeepMind di dalam salah satu perusahaan terbesar di dunia menyelesaikan pertanyaan-pertanyaan itu. Dalam beberapa cara, itu membuatnya lebih sulit.

Namun, keputusan itu mengungkapkan sesuatu yang penting tentang Hassabis. Ia tampaknya kurang terikat pada status kewirausahaan konvensional daripada pada misi ilmiah yang kewirausahaan itu memungkinkan.

Salah Satu Orang Baik—Tapi Bukan yang Tidak Terkalahkan

Hassabis akhirnya tampak sebagai salah satu orang baik dalam perlombaan AI.

Itu tidak berarti setiap keputusan telah benar. Keterlambatannya dalam model bahasa memiliki konsekuensi. Hubungan DeepMind dengan Google melibatkan kompromi. Konsentrasi sistem AI yang kuat di dalam beberapa perusahaan besar menciptakan pertanyaan yang niat baik saja tidak bisa jawab.

Namun, motivasinya tampaknya luar biasa konsisten.

Ia ingin memahami kecerdasan. Ia percaya AI canggih bisa mempercepat penemuan ilmiah. Ia telah berulang kali menekankan keselamatan dan kebutuhan untuk mempertimbangkan konsekuensi jangka panjang dari sistem yang semakin mampu. Yang paling signifikan, AlphaFold memberikan bukti konkrit bahwa visinya tentang AI sebagai instrumen untuk sains lebih dari sekadar poin bicara.

Ada perbedaan antara berjanji bahwa AI akan menguntungkan umat manusia dan merilis alat yang digunakan oleh jutaan peneliti untuk lebih memahami mesin kehidupan.

AlphaFold memberi Hassabis kredibilitas yang hanya sedikit pemimpin lain dalam perlombaan AGI yang miliki.

Pemikiran Terakhir

The Infinity Machine sukses sebagai biografi, sejarah DeepMind, dan akun yang dapat diakses tentang beberapa terobosan paling penting dalam AI modern. Ini juga membuat peristiwa yang kita saksikan dalam waktu nyata—dari AlphaGo dan AlphaFold hingga respons tertunda Google terhadap ChatGPT—terasa jauh lebih koheren.

Pelajaran paling kuat bukanlah bahwa Hassabis luar biasa cerdas, meskipun ia jelas demikian. Itu adalah bahwa ia telah luar biasa sengaja tentang memutuskan masalah mana yang layak mendapatkan kecerdasan itu.

Percakapan dengan mahasiswa biologi memperkenalkan Hassabis pada pelipatan protein beberapa dekade sebelum AI siap untuk menanganinya. Ia mempertahankan masalah itu dalam pikirannya, membangun organisasi dan sistem yang dibutuhkan untuk menghadapinya, dan kembali ke sana setelah teknologi telah berkembang cukup.

Itu yang membuat The Infinity Machine menjadi buku yang sangat berkesan dan Demis Hassabis menjadi tokoh yang tidak biasa dalam sejarah kecerdasan buatan.