Yaron Singer, CEO di Robust Intelligence & Profesor Ilmu Komputer di Harvard University – Seri Wawancara

Yaron Singer adalah CEO dari Robust Intelligence dan Profesor Ilmu Komputer dan Matematika Terapan di Harvard. Yaron dikenal karena hasil pemecahan masalah di bidang pembelajaran mesin, algoritma, dan optimasi. Sebelumnya, Yaron bekerja di Google (GOOGL ) Research dan memperoleh gelar PhD dari UC Berkeley.

Apa yang awalnya menarik Anda ke bidang ilmu komputer dan pembelajaran mesin?

Perjalanan saya dimulai dengan matematika, yang membawa saya ke ilmu komputer, yang kemudian membawa saya ke pembelajaran mesin. Matematika awalnya menarik perhatian saya karena sistem aksiomatiknya memberi saya kemampuan untuk menciptakan dunia baru. Dengan ilmu komputer, saya belajar tentang bukti eksistensial, tetapi juga algoritma di baliknya. Dari perspektif kreatif, ilmu komputer adalah menggambar batas-batas antara apa yang dapat dan tidak dapat kita lakukan.

Minat saya dalam pembelajaran mesin selalu berakar pada minat saya terhadap data nyata, hampir aspek fisiknya. Mengambil sesuatu dari dunia nyata dan memodelkannya untuk membuat sesuatu yang bermakna. Kita bisa secara harfiah merancang dunia yang lebih baik melalui pemodelan yang bermakna. Jadi, matematika memberi saya dasar untuk membuktikan hal-hal, ilmu komputer membantu saya melihat apa yang dapat dan tidak dapat dilakukan, dan pembelajaran mesin memungkinkan saya untuk memodelkan konsep-konsep ini di dunia.

Sampai baru-baru ini Anda adalah Profesor Ilmu Komputer dan Matematika Terapan di Harvard University, apa saja yang menjadi pengambilan Anda dari pengalaman ini?

Pengambilan terbesar saya dari menjadi anggota fakultas di Harvard adalah bahwa itu mengembangkan selera untuk melakukan hal-hal besar. Harvard secara tradisional memiliki fakultas kecil, dan harapan dari fakultas tenure track adalah untuk menangani masalah besar dan menciptakan bidang baru. Anda harus berani. Ini berakhir menjadi persiapan yang sangat baik untuk meluncurkan startup yang menciptakan kategori dan mendefinisikan ruang baru. Saya tidak selalu merekomendasikan untuk melewati jalur tenure track Harvard terlebih dahulu – tetapi jika Anda bertahan, membangun startup lebih mudah.

Apakah Anda dapat menjelaskan ‘aha’ moment Anda ketika Anda menyadari bahwa sistem AI yang canggih rentan terhadap data yang buruk, dengan beberapa implikasi yang sangat jauh?

Ketika saya masih mahasiswa di UC Berkeley, saya mengambil waktu untuk melakukan startup yang membangun model pembelajaran mesin untuk pemasaran di jaringan sosial. Ini kembali pada tahun 2010. Kami memiliki sejumlah besar data dari media sosial, dan kami mengkodekan semua model dari awal. Implikasi keuangan untuk pengecer sangat signifikan sehingga kami mengikuti kinerja model dengan dekat. Karena kami menggunakan data dari media sosial, ada banyak kesalahan dalam input, serta drift. Kami melihat bahwa kesalahan kecil dapat menyebabkan perubahan besar dalam output model dan dapat menghasilkan hasil keuangan yang buruk bagi pengecer yang menggunakan produk.

Ketika saya bergabung dengan Google+ (bagi kita yang masih ingat), saya melihat efek yang sama. Lebih dramatis, dalam sistem seperti AdWords yang membuat prediksi tentang kemungkinan orang mengklik iklan untuk kata kunci, kami melihat bahwa kesalahan kecil dalam input model dapat menyebabkan prediksi yang sangat buruk. Ketika Anda menyaksikan masalah ini pada skala Google, Anda menyadari bahwa masalah ini universal.

Pengalaman ini sangat membentuk fokus penelitian saya, dan saya menghabiskan waktu di Harvard untuk menyelidiki mengapa model AI membuat kesalahan dan, yang lebih penting, bagaimana merancang algoritma yang dapat mencegah model membuat kesalahan. Ini, tentu saja, mengarah ke ‘aha’ moment lain dan, akhirnya, ke penciptaan Robust Intelligence.

Apakah Anda dapat membagikan cerita asal di balik Robust Intelligence?

Robust Intelligence dimulai dengan penelitian tentang apa yang awalnya merupakan masalah teoretis: apa jaminan yang kita miliki untuk keputusan yang dibuat menggunakan model AI. Kojin adalah seorang mahasiswa di Harvard, dan kami bekerja bersama, awalnya menulis makalah penelitian. Jadi, ini dimulai dengan menulis makalah yang menguraikan apa yang secara fundamental mungkin dan tidak mungkin, secara teoretis. Hasil ini kemudian berlanjut ke program untuk merancang algoritma dan model yang tahan terhadap kegagalan AI. Kami kemudian membangun sistem yang dapat menjalankan algoritma ini dalam praktek. Setelah itu, memulai perusahaan di mana organisasi dapat menggunakan sistem seperti ini adalah langkah alami berikutnya.

Banyak dari masalah yang ditangani oleh Robust Intelligence adalah kesalahan diam, apa itu dan apa yang membuatnya sangat berbahaya?

Sebelum memberikan definisi teknis tentang kesalahan diam, penting untuk mengambil langkah mundur dan memahami mengapa kita harus peduli dengan model AI membuat kesalahan. Alasan kita peduli dengan model AI membuat kesalahan adalah konsekuensi dari kesalahan ini. Dunia kita menggunakan AI untuk mengotomatisasi keputusan kritis: siapa yang mendapatkan pinjaman bisnis dan dengan suku bunga apa, siapa yang mendapatkan cakupan asuransi kesehatan dan dengan tarif apa, wilayah mana yang harus dipatrol polisi, siapa yang paling mungkin menjadi kandidat teratas untuk pekerjaan, bagaimana kita harus mengatur keamanan bandara, dan seterusnya. Fakta bahwa model AI sangat rentan terhadap kesalahan berarti bahwa dengan mengotomatisasi keputusan kritis ini, kita mewarisi sejumlah besar risiko. Di Robust Intelligence, kita menyebut ini “Risiko AI” dan misi kita di perusahaan adalah untuk menghilangkan Risiko AI.

Kesalahan diam adalah kesalahan model AI di mana model AI menerima input dan menghasilkan prediksi atau keputusan yang salah atau bias sebagai output. Jadi, di permukaan, semuanya tampak baik bagi sistem, dalam arti model AI melakukan apa yang seharusnya dilakukan dari perspektif fungsional. Tapi, prediksi atau keputusan itu salah. Kesalahan ini diam karena sistem tidak tahu bahwa ada kesalahan. Ini bisa jauh lebih buruk daripada kasus di mana model AI tidak menghasilkan output, karena bisa memakan waktu lama bagi organisasi untuk menyadari bahwa sistem AI mereka rusak. Kemudian, Risiko AI menjadi Kegagalan AI yang bisa memiliki konsekuensi yang mengerikan.

Robust Intelligence pada dasarnya telah merancang API AI, ide yang sebelumnya dianggap tidak mungkin. Mengapa ini merupakan tantangan teknis?

Salah satu alasan API AI merupakan tantangan adalah karena itu bertentangan dengan paradigma yang sebelumnya dimiliki oleh komunitas ML. Paradigma sebelumnya dari komunitas ML adalah bahwa untuk menghilangkan kesalahan, satu perlu memberi lebih banyak data, termasuk data yang buruk, kepada model. Dengan melakukan itu, model akan melatih diri sendiri dan belajar bagaimana mengoreksi kesalahan. Masalah dengan pendekatan ini adalah bahwa itu menyebabkan akurasi model turun secara dramatis. Hasil yang paling terkenal untuk gambar, misalnya, menyebabkan akurasi model AI turun dari 98,5% menjadi sekitar 37%.

API AI menawarkan solusi yang berbeda. Kami memisahkan masalah mengidentifikasi kesalahan dari peran membuat prediksi, yang berarti API dapat fokus pada satu tugas spesifik: menentukan apakah titik data akan menghasilkan prediksi yang salah.

Ini merupakan tantangan itu sendiri karena kesulitan memberikan prediksi pada satu titik data. Ada banyak alasan mengapa model membuat kesalahan, sehingga membangun teknologi yang dapat memprediksi kesalahan ini tidaklah mudah. Kami sangat beruntung memiliki insinyur yang kami miliki.

Bagaimana sistem dapat membantu mencegah bias AI?

Bias model berasal dari kesenjangan antara data yang digunakan untuk melatih model dan data yang digunakan untuk membuat prediksi. Kembali ke Risiko AI, bias adalah masalah besar yang terkait dengan kesalahan diam. Misalnya, ini sering menjadi masalah dengan populasi yang kurang terwakili. Model dapat memiliki bias karena telah melihat lebih sedikit data dari populasi tersebut, yang akan sangat mempengaruhi kinerja model dan akurasi prediksinya. API AI dapat memberi tahu organisasi tentang kesenjangan data ini dan membantu model membuat keputusan yang benar.

Apa saja risiko lain yang dihadapi organisasi yang membantu dicegah oleh API AI?

Setiap perusahaan yang menggunakan AI untuk mengotomatisasi keputusan, terutama keputusan kritis, secara otomatis memperkenalkan risiko. Data yang buruk bisa sesederhana memasukkan nol bukan satu dan masih menghasilkan konsekuensi yang signifikan. Apakah risikonya adalah prediksi medis yang salah atau prediksi yang salah tentang pemberian pinjaman, API AI membantu organisasi untuk mencegah risiko secara keseluruhan.

Apakah ada yang lain yang ingin Anda bagikan tentang Robust Intelligence?

Robust Intelligence tumbuh dengan cepat dan kami mendapatkan banyak kandidat yang sangat baik yang melamar posisi. Tapi sesuatu yang saya ingin tekankan untuk orang-orang yang mempertimbangkan untuk melamar adalah bahwa kualitas yang paling penting yang kami cari dalam kandidat adalah passion mereka untuk misi. Kami bertemu dengan banyak kandidat yang kuat secara teknis, sehingga ini benar-benar tentang memahami apakah mereka benar-benar bersemangat untuk menghilangkan Risiko AI untuk membuat dunia menjadi lebih aman dan lebih baik.

Di dunia yang kita tuju, banyak keputusan yang saat ini dibuat oleh manusia akan diotomatisasi. Apakah kita suka atau tidak, itu adalah fakta. Mengingat itu, kita semua di Robust Intelligence ingin keputusan yang diotomatisasi dilakukan dengan bertanggung jawab. Jadi, siapa pun yang bersemangat tentang membuat dampak, yang memahami bagaimana ini dapat mempengaruhi kehidupan orang, adalah kandidat yang kita cari untuk bergabung dengan Robust Intelligence. Kita mencari passion itu. Kita mencari orang-orang yang akan menciptakan teknologi ini yang akan digunakan oleh seluruh dunia.

Terima kasih atas wawancara yang luar biasa, saya menikmati mempelajari pandangan Anda tentang mencegah bias AI dan kebutuhan akan API AI, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Robust Intelligence.