Lama Nachman, Intel Fellow & Direktur Anticipatory Computing Lab – Seri Wawancara

Lama Nachman, adalah Intel Fellow & Direktur Anticipatory Computing Lab. Lama dikenal karena karyanya dengan Prof. Stephen Hawking, dia sangat berperan dalam membangun sistem komputer asistif untuk membantu Prof. Stephen Hawking dalam berkomunikasi. Saat ini dia membantu roboticis Inggris Dr. Peter Scott-Morgan untuk berkomunikasi. Pada 2017, Dr. Peter Scott-Morgan didiagnosis menderita penyakit neuron motor (MND), juga dikenal sebagai ALS atau penyakit Lou Gehrig. MND menyerang otak dan saraf dan akhirnya melumpuhkan semua otot, bahkan yang memungkinkan pernapasan dan menelan.

Dr. Peter Scott-Morgan pernah menyatakan: “Aku akan terus berevolusi, mati sebagai manusia, hidup sebagai cyborg.”

Apa yang menarik Anda ke AI?

Saya selalu tertarik dengan ide bahwa teknologi dapat menjadi pembanding yang hebat. Ketika dikembangkan dengan bertanggung jawab, itu memiliki potensi untuk memperbarui lapangan, menangani ketidaksetaraan sosial dan memperkuat potensi manusia. Tidak ada tempat yang lebih benar daripada AI. Sementara banyak percakapan industri tentang AI dan manusia memposisikan hubungan antara keduanya sebagai lawan, saya percaya bahwa ada hal-hal unik yang mesin dan orang baik, jadi saya lebih suka melihat masa depan melalui lensa kolaborasi Manusia-AI daripada kompetisi Manusia-AI. Saya memimpin Anticipatory Computing Lab di Intel Labs di mana – di seluruh upaya penelitian kami – kami memiliki fokus tunggal pada menghadirkan inovasi komputasi yang skalabel untuk dampak sosial yang luas. Mengingat seberapa luas AI sudah ada dan jejak kaki yang terus tumbuh di setiap aspek kehidupan kita, saya melihat janji besar dalam penelitian yang dilakukan tim saya untuk membuat AI lebih dapat diakses, lebih sadar konteks, lebih bertanggung jawab dan pada akhirnya membawa solusi teknologi ke skala untuk membantu orang di dunia nyata.

Anda telah bekerja erat dengan fisikawan legendaris Prof. Stephen Hawking untuk menciptakan sistem AI yang membantunya dengan berkomunikasi dan tugas-tugas yang sebagian besar dari kita anggap rutin. Apa saja tugas-tugas rutin tersebut?

Bekerja dengan Prof. Stephen Hawking adalah upaya paling bermakna dan menantang dalam hidup saya. Ini memupuk jiwa saya dan benar-benar menghantam betapa teknologi dapat memperbaiki kehidupan orang secara mendalam. Dia hidup dengan ALS, penyakit neurologis degeneratif, yang melepaskan kemampuan pasien untuk melakukan kegiatan sederhana seiring waktu. Pada 2011, kami mulai bekerja dengannya untuk mengeksplorasi bagaimana cara memperbaiki sistem komputer asistif yang memungkinkan dia untuk berinteraksi dengan dunia. Selain menggunakan komputernya untuk berbicara dengan orang, Stephen menggunakan komputernya seperti kita semua, mengedit dokumen, browsing web, memberikan kuliah, membaca/menulis email, dll. Teknologi memungkinkan Stephen untuk terus berpartisipasi aktif dalam dan menginspirasi dunia selama bertahun-tahun setelah kemampuan fisiknya menurun dengan cepat. Itu – bagi saya – adalah contoh dampak teknologi yang bermakna pada kehidupan seseorang!

Apa saja wawasan kunci yang Anda ambil dari bekerja dengan Prof. Stephen Hawking?

Layar komputer kita benar-benar merupakan pintu masuk kita ke dunia. Jika orang dapat mengontrol PC mereka, mereka dapat mengontrol semua aspek kehidupan mereka (mengonsumsi konten, mengakses dunia digital, mengontrol lingkungan fisik, menavigasi kursi roda, dll). Bagi orang dengan disabilitas yang masih dapat berbicara, kemajuan pengenalan suara memungkinkan mereka memiliki kontrol penuh atas perangkat mereka (dan sebagian besar lingkungan fisik). Namun, mereka yang tidak dapat berbicara dan tidak dapat bergerak benar-benar terganggu dalam tidak dapat mengekspresikan kemandirian. Apa yang pengalaman dengan Prof. Hawking ajarkan saya adalah bahwa platform teknologi asistif perlu disesuaikan dengan kebutuhan spesifik pengguna. Misalnya, kita tidak bisa berasumsi bahwa satu solusi akan bekerja untuk orang dengan ALS, karena penyakit ini mempengaruhi kemampuan yang berbeda di seluruh pasien. Jadi, kita perlu teknologi yang dapat dengan mudah dikonfigurasi dan disesuaikan dengan kebutuhan individu. Ini adalah mengapa kita membangun ACAT (Assistive Context Aware Toolkit), platform perangkat lunak sumber terbuka yang modular yang dapat memungkinkan pengembang untuk berinovasi dan membangun kemampuan yang berbeda di atasnya.

Saya juga belajar bahwa penting untuk memahami ambang batas kenyamanan setiap pengguna sekitar memberikan kontrol dalam pertukaran untuk lebih efisien (ini tidak terbatas pada orang dengan disabilitas). Misalnya, AI mungkin dapat mengambil kontrol lebih dari pengguna untuk melakukan tugas lebih cepat atau lebih efisien, tetapi setiap pengguna memiliki tingkat ketakutan yang berbeda. Beberapa orang mau memberikan kontrol lebih, sementara pengguna lain ingin mempertahankan lebih banyak kontrol. Memahami ambang batas ini dan seberapa jauh orang mau pergi memiliki dampak besar pada bagaimana sistem ini dapat dirancang. Kita perlu merancang kembali desain sistem dalam hal tingkat kenyamanan pengguna daripada hanya ukuran efisiensi dan akurasi yang objektif.

Baru-baru ini, Anda telah bekerja dengan ilmuwan terkenal Inggris Peter Scott Morgan yang menderita penyakit neuron motor dan memiliki tujuan untuk menjadi cyborg pertama di dunia. Apa saja tujuan ambisius yang dimiliki Peter?

Salah satu masalah dengan AAC (Assistive and Augmentative communication) adalah “celah kesunyian”. Banyak orang dengan ALS (termasuk Peter) menggunakan kontrol pandangan untuk memilih huruf/kata di layar untuk berbicara dengan orang lain. Ini menghasilkan kesunyian panjang setelah seseorang selesai kalimatnya sementara orang tersebut memandang komputernya dan mulai merumuskan huruf dan kata untuk merespons. Peter ingin mengurangi celah kesunyian ini sebanyak mungkin untuk mengembalikan spontanitas verbal ke dalam komunikasi. Dia juga ingin melestarikan suaranya dan kepribadiannya dan menggunakan sistem teks-ke-suara yang mengekspresikan gaya komunikasi uniknya (misalnya, leluconnya, sarkasme cepat, emosinya).

Ilmuwan robotic Inggris Dr. Peter Scott-Morgan, yang menderita penyakit neuron motor, memulai pada 2019 untuk menjalani serangkaian operasi untuk memperpanjang hidupnya menggunakan teknologi. (Kredit: Cardiff Productions)

Bisakah Anda membahas beberapa teknologi yang saat ini digunakan untuk membantu Dr. Peter Scott-Morgan?

Peter menggunakan ACAT (Assistive Context Aware Toolkit), platform yang kita bangun selama kerja sama dengan Dr. Hawking dan kemudian dirilis ke sumber terbuka. Tidak seperti Dr. Hawking yang menggunakan otot pipinya sebagai “pemicu input” untuk mengontrol huruf di layarnya, Peter menggunakan kontrol pandangan (kemampuan yang kita tambahkan ke ACAT yang ada) untuk berbicara dan mengontrol PC-nya, yang antarmuka dengan solusi Teks-ke-Suara (TTS) dari perusahaan CereProc yang dikustomisasi untuknya dan memungkinkan dia untuk mengekspresikan berbagai emosi/penekanan. Sistem ini juga mengontrol avatar yang dikustomisasi untuknya.

Kami saat ini bekerja pada sistem generasi respons untuk ACAT yang dapat memungkinkan Peter untuk berinteraksi dengan sistem pada tingkat yang lebih tinggi menggunakan kemampuan AI. Sistem ini akan mendengarkan percakapan Peter selama beberapa waktu dan menyarankan respons untuk Peter pilih di layar. Tujuan kami dengan sistem generasi respons adalah untuk mengurangi celah kesunyian dalam komunikasi yang disebutkan di atas dan memberdayakan Peter dan pengguna ACAT di masa depan untuk berkomunikasi dengan kecepatan yang terasa lebih “alami”.

Anda juga berbicara tentang pentingnya transparansi dalam AI, seberapa besar masalah ini?

Ini adalah masalah besar terutama ketika diterapkan dalam sistem pengambilan keputusan atau sistem kolaborasi manusia-AI. Misalnya, dalam kasus sistem asistif Peter, kita perlu memahami apa yang menyebabkan sistem membuat rekomendasi ini dan bagaimana mempengaruhi pembelajaran sistem ini untuk lebih akurat mengekspresikan ide-idenya.

Dalam konteks yang lebih luas dari sistem pengambilan keputusan, apakah itu membantu dengan diagnosis berdasarkan citra medis atau membuat rekomendasi untuk pemberian pinjaman, sistem AI perlu menyediakan informasi yang dapat diinterpretasikan manusia tentang bagaimana mereka tiba di keputusan, atribut atau fitur apa yang paling berdampak pada keputusan, seberapa percaya diri sistem memiliki dalam inferensi yang dibuat, dll. Ini meningkatkan kepercayaan pada sistem AI dan memungkinkan kolaborasi yang lebih baik antara manusia dan AI dalam skenario pengambilan keputusan campuran.

Bias AI khusus ketika datang ke rasisme dan seksisme adalah masalah besar, tetapi bagaimana Anda mengidentifikasi jenis bias lainnya ketika Anda tidak tahu apa bias yang Anda cari?

Ini adalah masalah yang sangat sulit dan tidak dapat diselesaikan dengan teknologi saja. Kita perlu membawa lebih banyak keanekaragaman ke dalam pengembangan sistem AI (ras, jenis kelamin, budaya, kemampuan fisik, dll.). Ini jelas merupakan celah besar dalam populasi yang membangun sistem AI ini saat ini. Selain itu, sangat penting untuk memiliki tim multidisiplin yang terlibat dalam definisi dan pengembangan sistem ini, membawa ilmu sosial, filsafat, psikologi, etika, dan kebijakan ke meja (bukan hanya ilmu komputer), dan terlibat dalam proses penyelidikan dalam konteks proyek dan masalah spesifik.

Anda telah berbicara sebelumnya tentang menggunakan AI untuk memperkuat potensi manusia. Apa saja bidang yang menunjukkan janji terbesar untuk penguatan potensi manusia ini?

Bidang yang jelas adalah memungkinkan orang dengan disabilitas untuk hidup lebih mandiri, berkomunikasi dengan orang yang dicintai, dan terus mencipta dan berkontribusi pada masyarakat. Saya melihat potensi besar dalam pendidikan, memahami keterlibatan siswa dan mempersonalisasi pengalaman belajar untuk kebutuhan dan kemampuan individu siswa untuk meningkatkan keterlibatan, memberdayakan guru dengan pengetahuan ini, dan meningkatkan hasil belajar. Ketidaksetaraan dalam pendidikan saat ini sangat mendalam dan ada tempat untuk AI membantu mengurangi beberapa ketidaksetaraan ini jika kita melakukannya dengan benar. Ada peluang tak terbatas untuk AI membawa banyak nilai dengan menciptakan sistem kolaborasi manusia-AI di banyak sektor (perawatan kesehatan, manufaktur, dll) karena apa yang manusia dan AI bawa ke meja sangat komplementer. Untuk ini terjadi, kita perlu inovasi pada persimpangan ilmu sosial, HCI, dan AI. Persepsi multi-modal yang kuat, kesadaran konteks, pembelajaran dari data terbatas, HCI yang terletak secara fisik, dan interpretasi adalah beberapa tantangan kunci yang perlu kita fokuskan untuk mewujudkan visi ini.

Anda juga berbicara tentang betapa pentingnya pengenalan emosi untuk masa depan AI? Mengapa industri AI harus lebih fokus pada bidang penelitian ini?

Pengenalan emosi adalah kemampuan kunci dari sistem manusia-AI untuk beberapa alasan. Salah satu aspeknya adalah bahwa emosi manusia menawarkan konteks manusia kunci untuk sistem proaktif untuk dipahami sebelum bertindak.

Lebih penting lagi, sistem ini perlu terus belajar di alam liar dan beradaptasi berdasarkan interaksi dengan pengguna, dan sementara umpan balik langsung adalah sinyal kunci untuk pembelajaran, sinyal tidak langsung sangat penting dan gratis (lebih sedikit pekerjaan untuk pengguna). Misalnya, asisten digital dapat belajar banyak dari frustrasi dalam suara pengguna dan menggunakan itu sebagai sinyal umpan balik untuk pembelajaran apa yang harus dilakukan di masa depan, alih-alih meminta pengguna untuk umpan balik setiap saat. Informasi ini dapat digunakan untuk sistem AI aktif untuk terus memperbaiki dari waktu ke waktu.

Apakah ada yang ingin Anda bagikan tentang apa yang Anda kerjakan di Anticipatory Computing Lab atau masalah lain yang telah kita diskusikan?

Ketika membangun sistem asistif, kita benar-benar perlu memikirkan bagaimana cara membangun sistem ini dengan bertanggung jawab dan bagaimana cara memungkinkan orang untuk memahami apa informasi yang dikumpulkan dan bagaimana cara mengontrol sistem ini dengan cara yang praktis. Sebagai peneliti AI, kita sering terpesona oleh data dan ingin memiliki sebanyak mungkin data untuk memperbaiki sistem ini, namun, ada pertukaran antara jenis dan jumlah data yang kita inginkan dan privasi pengguna. Kita benar-benar perlu membatasi data yang kita kumpulkan untuk apa yang absolut diperlukan untuk melakukan tugas inferensi, membuat pengguna menyadari apa data yang kita kumpulkan dan memungkinkan mereka untuk menyetel pertukaran ini dengan cara yang bermakna dan dapat digunakan.

Terima kasih atas wawancara yang fantastis, pembaca yang ingin mempelajari lebih lanjut tentang proyek ini harus membaca artikel Intel’s Lama Nachman and Peter Scott-Morgan: Two Scientists, One a ‘Human Cyborg’.

Tim Anticipatory Computing Lab Intel yang mengembangkan Assistive Context-Aware Toolkit termasuk (dari kiri) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman dan Pete Denman. Tidak tergambar adalah Bruna Girvent, Saurav Sahay dan Shachi Kumar. (Kredit: Lama Nachman)