Lama Nachman, Intel Fellow & Direktur Anticipatory Computing Lab – Seri Wawancara

Lama Nachman, adalah Intel (INTC ) Fellow & Direktur Anticipatory Computing Lab. Lama dikenal karena karyanya dengan Prof. Stephen Hawking, dia sangat berperan dalam membangun sistem komputer assistif untuk membantu Prof. Stephen Hawking dalam berkomunikasi. Saat ini dia membantu roboticist Inggris Dr. Peter Scott-Morgan untuk berkomunikasi. Pada tahun 2017, Dr. Peter Scott-Morgan didiagnosis menderita penyakit motor neuron (MND), juga dikenal sebagai ALS atau penyakit Lou Gehrig. MND menyerang otak dan saraf dan akhirnya melumpuhkan semua otot, bahkan yang memungkinkan pernapasan dan menelan.

Dr. Peter Scott-Morgan pernah menyatakan: “Aku akan terus berkembang, mati sebagai manusia, hidup sebagai cyborg.”

Apa yang menarik Anda ke AI?

Aku selalu tertarik dengan ide bahwa teknologi dapat menjadi pembanding yang besar. Ketika dikembangkan dengan bertanggung jawab, itu memiliki potensi untuk memperbaiki kesenjangan sosial dan memperkuat potensi manusia. Tidak ada tempat yang lebih benar daripada dengan AI. Sementara banyak percakapan industri tentang AI dan manusia memposisikan hubungan antara keduanya sebagai lawan, aku percaya bahwa ada hal-hal unik yang mesin dan orang baik, jadi aku lebih suka melihat masa depan melalui lensa kolaborasi Manusia-AI daripada kompetisi manusia-AI. Aku memimpin Anticipatory Computing Lab di Intel Labs di mana – di seluruh upaya penelitian kami – kami memiliki fokus tunggal pada mengirimkan inovasi komputasi yang skalabel untuk dampak sosial yang luas. Mengingat seberapa luas AI sudah ada dan jejak kaki yang tumbuh di setiap aspek kehidupan kita, aku melihat janji besar dalam penelitian yang dilakukan tim aku untuk membuat AI lebih mudah diakses, lebih sadar konteks, lebih bertanggung jawab dan pada akhirnya membawa solusi teknologi pada skala untuk membantu orang-orang di dunia nyata.

Anda telah bekerja sama dengan fisikawan legendaris Prof. Stephen Hawking untuk membuat sistem AI yang membantu dia dengan berkomunikasi dan dengan tugas-tugas yang sebagian besar dari kita akan anggap rutin. Apa saja tugas-tugas rutin tersebut?

Bekerja dengan Prof. Stephen Hawking adalah upaya paling bermakna dan menantang dalam hidupku. Ini memberi makan jiwa dan benar-benar menghantam betapa teknologi dapat memperbaiki kehidupan orang-orang. Dia hidup dengan ALS, penyakit neurologis degeneratif, yang mengambil alih kemampuan pasien untuk melakukan kegiatan sederhana seiring waktu. Pada tahun 2011, kami mulai bekerja dengannya untuk mengeksplorasi bagaimana cara memperbaiki sistem komputer assistif yang memungkinkan dia untuk berinteraksi dengan dunia. Selain menggunakan komputernya untuk berbicara dengan orang-orang, Stephen menggunakan komputernya seperti kita semua, mengedit dokumen, browsing web, memberikan kuliah, membaca/menulis email, dll. Teknologi memungkinkan Stephen untuk terus berpartisipasi aktif dalam dan menginspirasi dunia selama bertahun-tahun setelah kemampuan fisiknya menurun dengan cepat. Itu – bagiku – adalah contoh dampak teknologi yang bermakna pada kehidupan seseorang!

Apa saja wawasan kunci yang Anda ambil dari bekerja dengan Prof. Stephen Hawking?

Layar komputer kita benar-benar merupakan pintu masuk kita ke dunia. Jika orang dapat mengontrol PC mereka, mereka dapat mengontrol semua aspek kehidupan mereka (mengonsumsi konten, mengakses dunia digital, mengontrol lingkungan fisik, mengemudi kursi roda, dll). Bagi orang-orang dengan disabilitas yang masih dapat berbicara, kemajuan pengenalan suara memungkinkan mereka untuk memiliki kontrol penuh atas perangkat mereka (dan sampai batas tertentu, lingkungan fisik mereka). Namun, mereka yang tidak dapat berbicara dan tidak dapat bergerak benar-benar terganggu dalam tidak dapat mengekspresikan kemerdekaan mereka. Apa yang pengalaman dengan Prof. Hawking ajarkan kepadaku adalah bahwa platform teknologi assistif perlu disesuaikan dengan kebutuhan spesifik pengguna. Misalnya, kita tidak bisa menganggap bahwa satu solusi akan bekerja untuk orang-orang dengan ALS, karena penyakit ini mempengaruhi kemampuan yang berbeda-beda pada pasien. Jadi, kita perlu teknologi yang dapat dengan mudah dikonfigurasi dan disesuaikan dengan kebutuhan individu. Ini adalah mengapa kita membangun ACAT (Assistive Context Aware Toolkit), platform perangkat lunak modular, open-source yang dapat memungkinkan pengembang untuk berinovasi dan membangun kemampuan yang berbeda di atasnya.

Aku juga belajar bahwa penting untuk memahami ambang batas kenyamanan setiap pengguna seputar memberikan kontrol dalam pertukaran untuk efisiensi yang lebih besar (ini tidak terbatas pada orang-orang dengan disabilitas). Misalnya, AI mungkin dapat mengambil kontrol yang lebih besar dari pengguna untuk melakukan tugas dengan lebih cepat atau lebih efisien, tetapi setiap pengguna memiliki tingkat ketakutan yang berbeda-beda. Beberapa orang mau memberikan kontrol yang lebih besar, sementara pengguna lain ingin mempertahankan lebih banyak kontrol. Memahami ambang batas ini dan seberapa jauh orang mau pergi memiliki dampak besar pada bagaimana sistem ini dapat dirancang. Kita perlu merancang kembali sistem dalam hal tingkat kenyamanan pengguna daripada hanya ukuran efisiensi dan akurasi yang objektif.

Baru-baru ini, Anda telah bekerja dengan ilmuwan terkenal Inggris Peter Scott Morgan yang menderita penyakit motor neuron dan memiliki tujuan untuk menjadi cyborg pertama di dunia. Apa saja tujuan ambisius yang Peter miliki?

Salah satu masalah dengan AAC (Assistive and Augmentative communication) adalah “celah kesunyian”. Banyak orang dengan ALS (termasuk Peter) menggunakan kontrol pandangan untuk memilih huruf/kata pada layar untuk berbicara dengan orang lain. Ini menghasilkan kesunyian yang lama setelah seseorang selesai kalimatnya sementara orang tersebut memandang komputernya dan mulai merumuskan huruf dan kata untuk merespons. Peter ingin mengurangi celah kesunyian ini sebanyak mungkin untuk mengembalikan spontanitas verbal ke dalam komunikasi. Dia juga ingin mempertahankan suaranya dan kepribadiannya dan menggunakan sistem teks-ke-ucapan yang mengekspresikan gaya komunikasi uniknya (misalnya, leluconnya, sarkasme cepat, emosinya).

Ilmuwan robotic Inggris Dr. Peter Scott-Morgan, yang menderita penyakit motor neuron, mulai pada tahun 2019 menjalani serangkaian operasi untuk memperpanjang hidupnya menggunakan teknologi. (Kredit: Cardiff Productions)

Bisakah Anda membahas beberapa teknologi yang saat ini digunakan untuk membantu Dr. Peter Scott-Morgan?

Peter menggunakan ACAT (Assistive Context Aware Toolkit), platform yang kita bangun selama kerja sama dengan Dr. Hawking dan kemudian dirilis sebagai open-source. Tidak seperti Dr. Hawking yang menggunakan otot pipi sebagai “pemicu input” untuk mengontrol huruf pada layarnya, Peter menggunakan kontrol pandangan (kemampuan yang kita tambahkan ke ACAT yang ada) untuk berbicara dan mengontrol PC-nya, yang antarmuka dengan solusi Text-to-Speech (TTS) dari perusahaan CereProc yang dikustomisasi untuknya dan memungkinkan dia untuk mengekspresikan berbagai emosi/penekanan. Sistem ini juga mengontrol avatar yang dikustomisasi untuknya.

Kita saat ini bekerja pada sistem generasi respons untuk ACAT yang dapat memungkinkan Peter untuk berinteraksi dengan sistem pada tingkat yang lebih tinggi menggunakan kemampuan AI. Sistem ini akan mendengarkan percakapan Peter selama beberapa waktu dan menyarankan respons untuk Peter pilih pada layar. Tujuan kita dengan sistem generasi respons adalah untuk mengurangi celah kesunyian dalam komunikasi yang disebutkan di atas dan memberdayakan Peter dan pengguna ACAT di masa depan untuk berkomunikasi dengan kecepatan yang terasa lebih “alami”.

Anda juga berbicara tentang pentingnya transparansi dalam AI, seberapa besar masalah ini?

Ini adalah masalah besar terutama ketika diterapkan dalam sistem pengambilan keputusan atau sistem kolaborasi manusia-AI. Misalnya, dalam kasus sistem assistif Peter, kita perlu memahami apa yang menyebabkan sistem membuat rekomendasi ini dan bagaimana mempengaruhi pembelajaran sistem ini untuk lebih akurat mengekspresikan ide-idenya.

Dalam konteks yang lebih luas dari sistem pengambilan keputusan, apakah itu membantu dengan diagnosis berdasarkan citra medis atau membuat rekomendasi untuk pemberian pinjaman, sistem AI perlu menyediakan informasi yang dapat dipahami manusia tentang bagaimana mereka tiba pada keputusan, atribut atau fitur apa yang paling berdampak pada keputusan itu, seberapa percaya diri sistem itu pada inferensi yang dibuat, dll. Ini meningkatkan kepercayaan pada sistem AI dan memungkinkan kolaborasi yang lebih baik antara manusia dan AI dalam skenario pengambilan keputusan campuran.

AI bias khususnya ketika datang ke rasisme dan seksisme adalah masalah besar, tetapi bagaimana Anda mengidentifikasi jenis bias lainnya ketika Anda tidak tahu apa bias yang Anda cari?

Ini adalah masalah yang sangat sulit dan tidak dapat diselesaikan dengan teknologi saja. Kita perlu membawa lebih banyak keanekaragaman ke dalam pengembangan sistem AI (ras, jenis kelamin, budaya, kemampuan fisik, dll.). Ini jelas merupakan celah besar dalam populasi yang membangun sistem AI ini saat ini. Selain itu, sangat penting untuk memiliki tim multidisiplin yang terlibat dalam definisi dan pengembangan sistem ini, membawa ilmu sosial, filsafat, psikologi, etika, dan kebijakan ke meja (bukan hanya ilmu komputer), dan terlibat dalam proses penyelidikan dalam konteks proyek dan masalah tertentu.

Anda telah berbicara sebelumnya tentang menggunakan AI untuk memperkuat potensi manusia. Apa saja bidang yang menunjukkan janji terbesar untuk penguatan potensi manusia ini?

Area yang jelas adalah memungkinkan orang-orang dengan disabilitas untuk hidup lebih mandiri, berkomunikasi dengan orang-orang tercinta, dan terus mencipta dan berkontribusi pada masyarakat. Aku melihat potensi besar dalam pendidikan, memahami keterlibatan siswa dan mempersonalisasi pengalaman belajar untuk kebutuhan dan kemampuan individu siswa untuk meningkatkan keterlibatan, memberdayakan guru dengan pengetahuan ini, dan meningkatkan hasil belajar. Ketidaksetaraan dalam pendidikan saat ini sangat mendalam dan ada tempat untuk AI membantu mengurangi beberapa ketidaksetaraan ini jika kita melakukannya dengan benar. Ada peluang tak terbatas untuk AI membawa banyak nilai dengan menciptakan sistem kolaborasi manusia-AI di banyak sektor (perawatan kesehatan, manufaktur, dll) karena apa yang manusia dan AI bawa ke meja sangat komplementer. Untuk ini terjadi, kita perlu inovasi pada persimpangan ilmu sosial, HCI, dan AI. Persepsi multimodal yang kuat, kesadaran konteks, pembelajaran dari data terbatas, HCI yang terletak secara fisik, dan interpretasi adalah beberapa tantangan kunci yang perlu kita fokuskan untuk membawa visi ini menjadi kenyataan.

Anda juga berbicara tentang betapa pentingnya pengenalan emosi untuk masa depan AI? Mengapa industri AI harus lebih fokus pada bidang penelitian ini?

Pengenalan emosi adalah kemampuan kunci dari sistem manusia-AI untuk beberapa alasan. Salah satu aspeknya adalah bahwa emosi manusia menawarkan konteks manusia yang penting untuk sistem proaktif untuk memahami sebelum bertindak.

Lebih penting lagi, sistem ini perlu terus belajar di alam liar dan beradaptasi berdasarkan interaksi dengan pengguna, dan sementara umpan balik langsung adalah sinyal penting untuk pembelajaran, sinyal tidak langsung sangat penting dan mereka gratis (kurang kerja untuk pengguna). Misalnya, asisten digital dapat belajar banyak dari frustrasi dalam suara pengguna dan menggunakan itu sebagai sinyal umpan balik untuk pembelajaran apa yang harus dilakukan di masa depan, bukan dengan meminta pengguna untuk umpan balik setiap kali. Informasi ini dapat digunakan untuk sistem AI pembelajaran aktif untuk terus memperbaiki dari waktu ke waktu.

Apakah ada yang lain yang Anda ingin bagikan tentang apa yang Anda kerjakan di Anticipatory Computing Lab atau masalah lain yang kita diskusikan?

Ketika membangun sistem assistif, kita benar-benar perlu memikirkan bagaimana cara membangun sistem ini dengan bertanggung jawab dan bagaimana memungkinkan orang-orang untuk memahami apa informasi yang dikumpulkan dan bagaimana mengontrol sistem ini dengan cara yang praktis. Sebagai peneliti AI, kita sering terpesona oleh data dan ingin memiliki sebanyak mungkin data untuk memperbaiki sistem ini, namun, ada pertukaran antara jenis dan jumlah data yang kita inginkan dan privasi pengguna. Kita benar-benar perlu membatasi data yang kita kumpulkan untuk apa yang absolut diperlukan untuk melakukan tugas inferensi, membuat pengguna menyadari apa data yang kita kumpulkan dan memungkinkan mereka untuk menyetel pertukaran ini dengan cara yang bermakna dan dapat digunakan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut tentang proyek ini harus membaca artikel Intel’s Lama Nachman dan Peter Scott-Morgan: Dua Ilmuwan, Satu ‘Human Cyborg’.

Tim Anticipatory Computing Lab Intel yang mengembangkan Assistive Context-Aware Toolkit termasuk (dari kiri) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman, dan Pete Denman. Tidak terlihat adalah Bruna Girvent, Saurav Sahay, dan Shachi Kumar. (Kredit: Lama Nachman)