Noah Schwartz, Co-Founder & CEO of Quorum AI – Wawancara Seri

Noah adalah arsitek sistem AI. Sebelum mendirikan Quorum AI, Noah menghabiskan 12 tahun dalam penelitian akademis, pertama di University of Southern California dan terakhir di Northwestern sebagai Wakil Ketua Neurobiologi. Penelitiannya berfokus pada pemrosesan informasi di otak dan telah menerjemahkan penelitiannya menjadi produk di realitas tambah, antarmuka otak-komputer, penglihatan komputer, dan sistem kontrol robotika tertanam.

Minat Anda dalam AI dan robotika dimulai sebagai seorang bocah laki-laki. Bagaimana Anda pertama kali diperkenalkan dengan teknologi ini?

Api awal datang dari film fiksi ilmiah dan cinta untuk elektronik. Saya ingat menonton film Tron sebagai seorang bocah berusia 8 tahun, diikuti oleh Electric Dreams, Short Circuit, DARYL, War Games, dan lain-lain selama beberapa tahun berikutnya. Meskipun disajikan melalui fiksi, gagasan tentang kecerdasan buatan sangat mempesona saya. Dan meskipun saya hanya berusia 8 tahun, saya merasa koneksi langsung dan tarikan kuat menuju AI yang tidak pernah berkurang sejak saat itu.

Bagaimana passion Anda untuk keduanya berkembang?

Minat saya dalam AI dan robotika berkembang secara paralel dengan passion untuk otak. Ayah saya adalah seorang guru biologi dan mengajari saya tentang tubuh, bagaimana semuanya bekerja, dan bagaimana semuanya terhubung. Melihat AI dan melihat otak terasa seperti masalah yang sama bagi saya – atau setidaknya, mereka memiliki pertanyaan yang sama, yaitu, Bagaimana itu bekerja? Saya tertarik dengan keduanya, tetapi saya tidak mendapatkan banyak paparan tentang AI atau robotika di sekolah. Oleh karena itu, saya awalnya mengejar AI di waktu luang saya dan mempelajari biologi dan psikologi di sekolah.

Ketika saya masuk kuliah, saya menemukan Parallel Distributed Processing (PDP) books, yang sangat besar bagi saya. Mereka adalah pengenalan pertama saya tentang AI yang sebenarnya, yang kemudian membawa saya kembali ke klasik seperti Hebb, Rosenblatt, dan bahkan McCulloch dan Pitts. Saya mulai membangun jaringan saraf berdasarkan neuroanatomi dan apa yang saya pelajari dari kelas biologi dan psikologi di sekolah. Setelah lulus, saya bekerja sebagai insinyur jaringan komputer, membangun jaringan area luas yang kompleks dan menulis perangkat lunak untuk mengautomasi dan mengelola aliran lalu lintas di jaringan tersebut – seperti membangun otak besar. Pekerjaan itu membangkitkan kembali passion saya untuk AI dan memotivasi saya untuk melanjutkan studi saya di sekolah pascasarjana untuk mempelajari AI dan neurosains, dan selebihnya adalah sejarah.

Sebelum mendirikan Quorum AI, Anda menghabiskan 12 tahun dalam penelitian akademis, pertama di University of Southern California dan terakhir di Northwestern sebagai Wakil Ketua Neurobiologi. Pada saat itu, penelitian Anda berfokus pada pemrosesan informasi di otak. Bisakah Anda menjelaskan beberapa penelitian ini?

Dalam arti luas, penelitian saya mencoba memahami pertanyaan: Bagaimana otak melakukan apa yang dilakukannya hanya dengan apa yang tersedia? Untuk memulai, saya tidak setuju dengan gagasan bahwa otak adalah jenis komputer (dalam arti von Neumann). Saya melihatnya sebagai jaringan besar yang sebagian besar melakukan operasi stimulus-respon dan pengkodean sinyal. Di dalam jaringan besar itu, ada pola koneksi yang jelas antara area yang berspesialisasi. Ketika kita memperbesar, kita melihat bahwa neuron tidak peduli dengan sinyal yang mereka bawa atau bagian otak mana mereka berada – mereka beroperasi berdasarkan aturan yang sangat dapat diprediksi. Jadi, jika kita ingin memahami fungsi area yang berspesialisasi, kita perlu bertanya beberapa pertanyaan: (1) Bagaimana input yang masuk ke jaringan berkumpul dengan input lain untuk menghasilkan keputusan? (2) Bagaimana struktur area yang berspesialisasi terbentuk sebagai hasil pengalaman? Dan (3) bagaimana mereka terus berubah ketika kita menggunakan otak kita dan belajar seiring waktu? Penelitian saya mencoba menjawab pertanyaan-pertanyaan ini menggunakan campuran penelitian eksperimental yang dikombinasikan dengan teori informasi dan pemodelan dan simulasi – sesuatu yang dapat memungkinkan kita untuk membangun sistem keputusan buatan dan AI. Dalam istilah neurobiologi, saya mempelajari neuroplastisitas dan mikroanatomi area yang berspesialisasi seperti korteks visual.

Kemudian Anda menerjemahkan pekerjaan Anda ke dalam realitas tambah dan antarmuka otak-komputer. Apa saja produk yang Anda kerjakan?

Around 2008, saya bekerja pada proyek yang sekarang kita sebut realitas tambah, tetapi pada saat itu, itu hanya sistem untuk melacak dan memprediksi gerakan mata, dan kemudian menggunakan prediksi tersebut untuk memperbarui sesuatu di layar. Untuk membuat sistem itu bekerja secara real-time, saya membangun model yang terinspirasi biologi yang memprediksi di mana pengguna akan berdasarkan mikrosakade – gerakan mata kecil yang terjadi sebelum Anda memindahkan mata. Dengan menggunakan model ini, saya bisa memprediksi di mana pengguna akan melihat, kemudian memperbarui buffer frame di kartu grafis sementara mata mereka masih bergerak. Ketika mata mereka mencapai lokasi baru di layar, gambar sudah diperbarui. Teknologi ini cukup luar biasa, tetapi proyek itu tidak berhasil mendapatkan pendanaan berikutnya, jadi proyek itu berakhir.

Pada 2011, saya membuat upaya yang lebih fokus untuk pengembangan produk dan membangun jaringan saraf yang dapat melakukan penemuan fitur pada data EEG yang diukur dari kulit kepala. Ini adalah fungsi inti dari sebagian besar sistem antarmuka otak-komputer. Proyek ini juga merupakan eksperimen dalam berapa kecil jejak yang bisa kita dapatkan ini berjalan? Kami memiliki headset yang membaca beberapa saluran data EEG pada 400Hz yang dikirim melalui Bluetooth ke ponsel Android untuk penemuan fitur dan klasifikasi, kemudian dikirim ke kontroler Arduino yang kami pasang ke mobil RC yang ada di pasaran. Ketika digunakan, seseorang yang mengenakan headset EEG bisa mengemudi dan mengarahkan mobil dengan mengubah pikiran mereka dari melakukan matematika mental ke menyanyikan lagu. Algoritma itu berjalan di ponsel dan menciptakan “sidik jari” otak pribadi untuk setiap pengguna, memungkinkan mereka untuk beralih antara berbagai perangkat robotik tanpa harus melatih ulang pada setiap perangkat. Slogan yang kami buat adalah “Kontrol Otak Bertemu Plug-and-Play.”

Pada 2012, kami memperluas sistem sehingga beroperasi dalam cara yang lebih terdistribusi pada perangkat keras yang lebih kecil. Kami menggunakannya untuk mengontrol lengan robotik multi-segment, multi-joint yang setiap segmennya dikendalikan oleh prosesor independen yang menjalankan versi tertanam dari AI. Alih-alih menggunakan kontroler terpusat untuk menggerakkan lengan, kami memungkinkan segmen-segmen untuk mengorganisir diri dan mencapai target dalam cara yang terdistribusi, seperti semut membentuk jembatan semut, segmen-segmen lengan akan bekerja sama untuk mencapai target di ruang.

Kami terus melanjutkan dalam arah yang sama ketika kami pertama kali meluncurkan Quorum AI – yang awalnya dikenal sebagai Quorum Robotics – kembali pada 2013. Kami segera menyadari bahwa sistem itu luar biasa karena algoritma dan arsitektur, bukan karena perangkat keras, jadi pada akhir 2014, kami beralih sepenuhnya ke perangkat lunak. Sekarang, 8 tahun kemudian, Quorum AI kembali ke akar robotika dengan menerapkan kerangka kerja kami ke NASA Space Robotics Challenge.

Mengundurkan diri dari pekerjaan sebagai profesor untuk meluncurkan start-up pasti merupakan keputusan yang sulit. Apa yang menginspirasi Anda untuk melakukan ini?

Ini adalah lompatan besar bagi saya dalam banyak hal, tetapi ketika kesempatan itu muncul dan jalannya menjadi jelas, itu adalah keputusan yang mudah. Ketika Anda seorang profesor, Anda berpikir dalam kerangka waktu beberapa tahun dan Anda bekerja pada tujuan penelitian jangka panjang. Meluncurkan start-up adalah kebalikan dari itu. Namun, satu hal yang kehidupan akademis dan start-up memiliki kesamaan adalah bahwa keduanya memerlukan Anda untuk terus belajar dan memecahkan masalah. Dalam start-up, itu bisa berarti mencoba untuk merekayasa ulang solusi untuk mengurangi risiko pengembangan produk atau mungkin mempelajari vertikal baru yang bisa mendapat manfaat dari teknologi kami. Bekerja di AI adalah hal terdekat dengan “panggilan” yang pernah saya rasakan, jadi meskipun semua tantangan dan naik turun, saya merasa sangat beruntung melakukan pekerjaan yang saya lakukan.

Anda telah mengembangkan Quorum AI, yang mengembangkan kecerdasan buatan waktu nyata, terdistribusi untuk semua perangkat dan platform. Bisakah Anda menjelaskan apa yang dilakukan platform AI ini?

Platform ini disebut Environment for Virtual Agents (EVA), dan memungkinkan pengguna untuk membangun, melatih, dan mengirimkan model menggunakan Engram AI Engine kami. Engram adalah bungkus yang fleksibel dan portabel yang kami bangun di sekitar algoritma pembelajaran tak terawasi kami. Algoritma tersebut sangat efisien sehingga dapat belajar secara real-time, saat model tersebut menghasilkan prediksi. Karena algoritma tersebut tidak bergantung pada tugas, tidak ada input atau output yang jelas ke model, sehingga prediksi dapat dibuat dengan cara Bayesian untuk setiap dimensi tanpa perlu melatih ulang dan tanpa menderita lupa bencana. Model tersebut juga transparan dan dapat diuraikan, sehingga dapat diperiksa dan dipecah menjadi dimensi individu tanpa kehilangan apa yang telah dipelajari.

Saat dibangun, model tersebut dapat diterapkan melalui EVA ke platform apa pun, mulai dari perangkat keras tertanam khusus hingga cloud. EVA (dan perangkat lunak host yang dapat dipasang) juga berisi beberapa alat untuk memperluas fungsionalitas setiap model. Beberapa contoh cepat: Model dapat dibagikan antara sistem melalui sistem publikasi/langganan, memungkinkan sistem terdistribusi mencapai pembelajaran federasi melalui waktu dan ruang. Model juga dapat diterapkan sebagai agen otonom untuk melakukan tugas arbitrer, dan karena model tersebut tidak bergantung pada tugas, tugas dapat diubah selama runtime tanpa perlu melatih ulang. Setiap agen individu dapat diperluas dengan “virtual” EVA pribadi, memungkinkan agen untuk mensimulasikan model agen lain dalam cara yang bebas skala. Akhirnya, kami telah membuat beberapa bungkus untuk sistem pembelajaran dalam dan pembelajaran penguatan (berbasis Keras) untuk memungkinkan model tersebut beroperasi di platform, bersama dengan sistem berbasis Engram yang lebih fleksibel.

Anda sebelumnya telah menjelaskan algoritma Quorum AI sebagai “puisi matematika”. Apa yang Anda maksud dengan ini?

Ketika Anda membangun model, apakah Anda memodelkan otak atau memodelkan data penjualan untuk perusahaan Anda, Anda mulai dengan mengambil inventaris data, kemudian mencoba kelas model yang dikenal untuk mencoba dan mengapproximasi sistem. Pada dasarnya, Anda membuat sketsa kasar sistem untuk melihat apa yang terlihat terbaik. Anda tidak mengharapkan hal-hal untuk sesuai dengan data sangat baik, dan ada beberapa trial dan error saat Anda menguji hipotesis tentang bagaimana sistem bekerja, tetapi dengan sedikit kehalusan, Anda dapat menangkap data dengan cukup baik.

Saat saya memodelkan neuroplastisitas di otak, saya memulai dengan pendekatan yang biasa dengan memetakan semua jalur molekuler, keadaan transisi, dan dinamika yang saya pikir akan penting. Tetapi saya menemukan bahwa ketika saya mengurangi sistem ke komponen dasarnya dan mengatur komponen-komponen tersebut dalam cara tertentu, model tersebut menjadi lebih akurat sampai sesuai dengan data hampir sempurna. Ini seperti setiap operator dan variabel dalam persamaan adalah tepat apa yang mereka butuhkan, tidak ada yang ekstra, dan semua yang penting untuk sesuai dengan data.

Saat saya memasukkan model ke dalam simulasi yang lebih besar, seperti pengembangan sistem visual atau pengenalan wajah, misalnya, itu dapat membentuk pola koneksi yang sangat rumit yang sesuai dengan apa yang kita lihat di otak. Karena model tersebut matematis, pola otak tersebut dapat dipahami melalui analisis matematis, memberikan wawasan baru tentang apa yang dipelajari otak. Sejak itu, kami telah menyelesaikan dan menyederhanakan persamaan diferensial yang membentuk model, meningkatkan efisiensi komputasi beberapa kali lipat. Ini mungkin bukan puisi yang sebenarnya, tetapi itu pasti terasa seperti itu!

Platform toolkit Quorum AI memungkinkan perangkat untuk terhubung satu sama lain untuk belajar dan berbagi data tanpa perlu berkomunikasi melalui server berbasis cloud. Apa kelebihan melakukan ini dibandingkan dengan menggunakan cloud?

Kami memberikan pengguna opsi untuk meletakkan AI mereka di mana pun mereka inginkan, tanpa mengorbankan fungsionalitas AI. Status quo dalam pengembangan AI adalah bahwa perusahaan biasanya dipaksa untuk mengorbankan keamanan, privasi, atau fungsionalitas karena satu-satunya pilihan mereka adalah menggunakan layanan AI berbasis cloud. Jika perusahaan mencoba membangun AI mereka sendiri, itu sering memerlukan banyak uang dan waktu, dan ROI jarang sepadan dengan risiko. Jika perusahaan ingin menerapkan AI ke perangkat individual yang tidak terhubung cloud, proyek tersebut dengan cepat menjadi mustahil. Akibatnya, adopsi AI menjadi khayalan.

Platform kami membuat AI menjadi dapat diakses dan terjangkau, memberikan perusahaan cara untuk mengeksplorasi pengembangan dan adopsi AI tanpa overhead teknis atau keuangan. Dan lebih lanjut, platform kami memungkinkan pengguna untuk berpindah dari pengembangan ke penerapan dalam satu langkah yang mulus.

Platform kami juga terintegrasi dengan dan memperpanjang umur “legacy” model seperti pembelajaran dalam dan pembelajaran penguatan, membantu perusahaan memanfaatkan kembali dan mengintegrasikan sistem yang ada ke aplikasi yang lebih baru. Serupa dengan itu, karena algoritma dan arsitektur kami unik, model kami tidaklah hitam, sehingga apa pun yang dipelajari sistem dapat dieksplorasi dan diinterpretasikan oleh manusia, dan kemudian diperluas ke area bisnis lain.

Beberapa orang percaya bahwa Kecerdasan Buatan Terdistribusi (DAI) dapat memimpin jalan menuju Kecerdasan Buatan Umum (AGI). Apakah Anda setuju dengan teori ini?

Saya setuju, dan tidak hanya karena itu adalah jalur yang telah kami tetapkan untuk diri kami sendiri! Ketika Anda melihat otak, itu tidaklah monolitik. Ini terdiri dari sistem terdistribusi yang terpisah yang masing-masing berspesialisasi dalam rentang fungsi otak yang sempit. Kami mungkin tidak tahu apa yang dilakukan sistem tertentu, tetapi kami tahu bahwa keputusan mereka sangat bergantung pada jenis informasi yang mereka terima dan bagaimana informasi tersebut berubah seiring waktu. (Itulah mengapa topik neurosains seperti connectome sangat populer.)

Menurut saya, jika kita ingin membangun AI yang fleksibel dan berperilaku seperti otak, maka masuk akal untuk mempertimbangkan arsitektur terdistribusi seperti yang kita lihat di otak. Seseorang bisa berargumen bahwa arsitektur pembelajaran dalam seperti jaringan multi-lapis atau CNN dapat ditemukan di otak, dan itu benar, tetapi arsitektur tersebut didasarkan pada apa yang kita ketahui tentang otak 50 tahun yang lalu.

Alternatif dari DAI adalah terus mengiterasi arsitektur monolitik yang kaku yang erat terkait dengan ruang keputusan tunggal, seperti yang kita lihat di pembelajaran dalam atau pembelajaran penguatan (atau metode pembelajaran terawasi lainnya). Saya akan menyarankan bahwa keterbatasan ini bukan hanya masalah penyesuaian parameter atau menambahkan lapisan atau kondisi data – masalah ini mendasar bagi pembelajaran dalam dan pembelajaran penguatan, setidaknya seperti yang kita definisikan saat ini, sehingga pendekatan baru diperlukan jika kita ingin terus berinovasi dan membangun AI masa depan.

Apakah Anda percaya bahwa mencapai AGI menggunakan DAI lebih mungkin daripada metode pembelajaran penguatan dan/atau pembelajaran dalam yang saat ini sedang dikejar oleh perusahaan seperti OpenAI dan DeepMind?

Ya, meskipun dari apa yang mereka blog tentang, saya curiga OpenAI dan DeepMind menggunakan arsitektur yang lebih terdistribusi daripada yang mereka akui. Kami mulai mendengar lebih banyak tentang tantangan multi-sistem seperti pembelajaran transfer atau pembelajaran federasi/distribusi, dan kebetulan, tentang bagaimana pendekatan pembelajaran dalam dan pembelajaran penguatan tidak akan berhasil untuk tantangan ini. Kami juga mulai mendengar dari pelopor seperti Yoshua Bengio tentang bagaimana arsitektur yang terinspirasi biologi bisa menjembatani kesenjangan! Saya telah bekerja pada AI yang terinspirasi biologi selama hampir 20 tahun, jadi saya merasa sangat baik tentang apa yang telah kami pelajari di Quorum AI dan bagaimana kami menggunakan itu untuk membangun apa yang kami percayai adalah generasi AI berikutnya yang akan mengatasi keterbatasan ini.

Apakah ada yang lain yang ingin Anda bagikan tentang Quorum AI?

Kami akan mempratinjau platform baru kami untuk AI terdistribusi dan agen-berbasis di Federated and Distributed Machine Learning Conference pada Juni 2020. Selama presentasi, saya berencana untuk mempresentasikan beberapa data terbaru tentang beberapa topik, termasuk analisis sentimen sebagai jembatan menuju mencapai AI yang empatik.

Saya ingin mengucapkan terima kasih khusus kepada Noah untuk jawaban-jawaban yang luar biasa ini, dan saya sarankan Anda untuk mengunjungi Quorum untuk mempelajari lebih lanjut.