Charles J. Simon, Pengarang, Will Computers Revolt? – Seri Wawancara

Charles J. Simon, BSEE, MSCS, adalah seorang wirausahawan, pengembang perangkat lunak, dan manajer yang diakui secara nasional. Dengan keahlian manajemen dan teknis yang luas dan gelar di bidang Teknik Elektro dan Ilmu Komputer, Tn. Simon memiliki banyak pengalaman komputer di industri, termasuk pekerjaan perintis di AI dan CAD (dua generasi CAD).

Ia juga adalah penulis ‘Will Computers Revolt’, yang menawarkan pandangan mendalam tentang kemungkinan masa depan Kecerdasan Umum Buatan (AGI).

Apa yang awalnya menarik Anda ke AI, dan khususnya ke AGI?

Saya telah terpesona oleh pertanyaan, “Dapatkah mesin berpikir?” sejak saya pertama kali membaca makalah seminal Alan Turing tahun 1950 yang dimulai dengan pertanyaan itu. Sampai sekarang, jawabannya jelas, “Tidak,” tetapi tidak ada alasan ilmiah mengapa tidak. Saya bergabung dengan komunitas AI dengan ledakan jaringan saraf pada akhir 1980-an dan sejak itu AI telah membuat kemajuan besar. Namun, tiga puluh tahun terakhir tidak membawa pemahaman kepada mesin kita, kemampuan yang akan meluncurkan berbagai aplikasi ke tingkat yang lebih berguna.

Anda menyatakan bahwa Anda berbagi opini dengan ahli AI MIT Rodney Brooks yang mengatakan, ‘tanpa interaksi dengan lingkungan – tanpa tubuh robotik seperti yang Anda inginkan – mesin tidak akan pernah menampilkan AGI.’ Ini pada dasarnya menyatakan bahwa dengan input yang tidak cukup dari tubuh robotik, AI tidak akan pernah mengembangkan kemampuan AGI. Di luar penglihatan komputer, apa jenis input yang diperlukan untuk mengembangkan AGI?

AI hari ini perlu ditingkatkan dengan konsep dasar seperti keberadaan fisik objek dalam kenyataan, perjalanan waktu, sebab dan akibat – konsep yang jelas bagi setiap anak berusia tiga tahun. Seorang balita menggunakan berbagai indra untuk mempelajari konsep-konsep ini dengan menyentuh dan memanipulasi mainan, bergerak melalui rumah, mempelajari bahasa, dll. Meskipun memungkinkan untuk menciptakan AGI dengan indra yang lebih terbatas, seperti halnya ada orang tuli dan buta yang sangat cerdas tetapi lebih banyak indra dan kemampuan untuk berinteraksi membuat memecahkan masalah AGI lebih mudah.

Untuk kelengkapan, simulator saya dapat menyediakan indra penciuman dan perasa. Masih harus dilihat apakah ini juga akan terbukti penting untuk AGI.

Anda menyatakan bahwa ‘Sebuah Persyaratan Kunci untuk kecerdasan adalah lingkungan yang eksternal terhadap kecerdasan’. Contoh yang Anda berikan adalah bahwa ‘tidak masuk akal untuk mengharapkan IBM’s Watson untuk “memahami” apa pun jika tidak memiliki gagasan dasar tentang apa itu “sesuatu”‘. Ini jelas memainkan keterbatasan AI sempit, terutama pemrosesan bahasa alami. Bagaimana pengembang AI dapat mengatasi keterbatasan AI ini?

Faktor kunci adalah menyimpan pengetahuan yang tidak secara khusus verbal, visual, atau taktil tetapi sebagai “Sesuatu” abstrak yang dapat memiliki atribut verbal, visual, dan taktil. Pertimbangkan sesuatu yang sederhana seperti frasa, “bola merah”. Anda tahu apa arti kata-kata ini karena pengalaman visual dan taktil Anda. Anda juga tahu arti tindakan terkait seperti melempar, memantulkan, menendang, dll. yang semuanya datang ke pikiran sampai batas tertentu ketika Anda mendengar frasa. Setiap sistem AI yang secara khusus berbasis kata atau berbasis gambar akan kehilangan pemahaman pada tingkat lain.

Saya telah mengimplementasikan Toko Pengetahuan Universal yang menyimpan semua jenis informasi dalam struktur yang menyerupai otak di mana Sesuatu analog dengan neuron dan memiliki banyak referensi atribut ke Sesuatu lain – referensi analog dengan sinapsis. Jadi, merah dan bola adalah Sesuatu individu dan bola merah adalah Sesuatu yang memiliki referensi atribut ke Sesuatu merah dan Sesuatu bola. Keduanya merah dan bola memiliki referensi ke Sesuatu yang sesuai dengan kata-kata “merah” dan “bola”, masing-masing yang, pada gilirannya, memiliki referensi ke Sesuatu lain yang mendefinisikan bagaimana kata-kata itu didengar, diucapkan, dibaca, atau dieja serta tindakan Sesuatu yang mungkin.

Anda telah mencapai kesimpulan bahwa simulasi otak kecerdasan umum masih jauh, sedangkan AGI mungkin (relatif) hanya di sekitar sudut. Berdasarkan pernyataan ini, apakah kita harus melanjutkan dari upaya meniru atau membuat simulasi otak manusia, dan hanya fokus pada AGI?

Teknologi pembelajaran dalam dan teknologi terkait saat ini sangat baik untuk aplikasi yang tepat tetapi tidak akan secara spontan mengarah pada pemahaman. Untuk mengambil langkah berikutnya, kita perlu menambahkan teknik yang secara khusus ditargetkan untuk memecahkan masalah yang berada dalam kapasitas setiap anak berusia tiga tahun.

Mengambil keuntungan dari kemampuan intrinsik komputer kita dapat menjadi beberapa tingkat lebih efisien daripada ekivalen biologis atau simulasi apa pun. Misalnya, otak Anda dapat menyimpan informasi dalam kimia sinapsis biologis selama beberapa iterasi yang memerlukan 10-100 milidetik. Komputer dapat menyimpan nilai sinapsis baru dalam satu siklus memori, seberapa besar yang lebih cepat.

Dalam mengembangkan perangkat lunak AGI, saya telah melakukan simulasi neuron biologis dan algoritma yang lebih efisien. Melanjutkan dengan Toko Pengetahuan Universal, ketika disimulasikan dalam neuron biologis yang disimulasikan, setiap Sesuatu memerlukan minimal 10 neuron dan biasanya banyak lebih. Ini menempatkan kapasitas otak manusia di suatu tempat antara sepuluh dan seratus juta Sesuatu. Namun, mungkin AGI akan tampak cerdas jika memahami hanya satu juta Sesuatu – yang masih dalam cakupan komputer desktop kelas atas saat ini.

Sebuah ketidakpastian kunci adalah seberapa banyak waktu robot yang harus dialokasikan untuk memproses dan bereaksi terhadap dunia versus waktu yang dihabiskan untuk membayangkan dan merencanakan. Bisakah Anda menjelaskan secara singkat pentingnya imajinasi bagi AGI?

Kita dapat membayangkan banyak hal dan kemudian hanya bertindak pada hal-hal yang kita sukai, yaitu hal-hal yang lebih lanjut tujuan internal kita, jika Anda mau. Kekuatan sebenarnya dari imajinasi adalah kemampuan untuk memprediksi masa depan – seorang anak berusia tiga tahun dapat mengetahui urutan gerakan mana yang akan membawanya ke tujuan di ruangan lain dan seorang dewasa dapat berspekulasi tentang kata-kata mana yang akan memiliki dampak terbesar pada orang lain.

AGI juga akan mendapat manfaat dari melampaui menjadi hanya reaktif untuk berspekulasi tentang berbagai tindakan kompleks dan memilih yang terbaik.

Anda percaya bahwa tiga hukum robotika Asimov terlalu sederhana dan ambigu. Dalam buku Anda, Anda membagikan beberapa ide untuk hukum yang disarankan untuk diprogram dalam robot. Hukum mana yang Anda rasakan paling penting untuk diikuti oleh robot?

Hukum robotika baru akan berkembang selama bertahun-tahun saat AGI muncul. Saya mengusulkan beberapa awal:

1. Maksimalkan pengetahuan dan pemahaman internal tentang lingkungan.
2. Bagikan pengetahuan itu secara akurat dengan orang lain (baik AGI maupun manusia).
3. Maksimalkan kesejahteraan baik AGI maupun manusia secara keseluruhan – bukan hanya sebagai individu.

Anda memiliki beberapa masalah dengan Tes Turing dan konsep di baliknya. Bisakah Anda menjelaskan bagaimana Anda percaya Tes Turing bermasalah?

Tes Turing telah melayani kita dengan baik selama lima puluh tahun sebagai definisi ad-hoc kecerdasan umum, tetapi karena AGI mendekat, kita perlu menyempurnakan definisi dan kita perlu definisi yang lebih jelas. Tes Turing sebenarnya adalah tes seberapa manusia seseorang, bukan seberapa cerdas seseorang. Semakin lama komputer dapat mempertahankan penipuan, semakin baik kinerjanya pada tes. Jelas, mengajukan pertanyaan, “Apakah Anda komputer?” dan pertanyaan proksi terkait seperti, “Apa makanan favorit Anda?” adalah petunjuk yang jelas kecuali AGI diprogram untuk menipu – tujuan yang meragukan pada dasarnya.

Lebih lanjut, Tes Turing telah memotivasi pengembangan AI ke area dengan nilai terbatas dengan (misalnya) chatbot dengan fleksibilitas besar dalam respons tetapi tidak ada pemahaman yang mendasarinya.

Apa yang akan Anda lakukan secara berbeda dalam versi Anda dari Tes Turing?

Pertanyaan yang lebih baik dapat menyelidiki secara khusus pemahaman tentang waktu, ruang, sebab dan akibat, prakiraan, dll. daripada pertanyaan acak tanpa dasar tertentu dalam psikologi, neurosains, atau AI. Berikut beberapa contoh:

1. Apa yang Anda lihat sekarang? Jika Anda mundur tiga kaki, apa perbedaan yang akan Anda lihat?
2. Jika saya [tindakan], apa reaksi Anda?
3. jika Anda [tindakan], apa reaksi saya yang mungkin?
4. Bisakah Anda menyebutkan tiga hal yang seperti [objek]?

Kemudian, bukan mengevaluasi respons sebagai tidak dapat dibedakan dari respons manusia, mereka harus dievaluasi dalam hal apakah respons tersebut masuk akal (cerdas) berdasarkan pengalaman entitas yang diuji.

Anda telah menyatakan bahwa ketika dihadapkan pada tuntutan untuk melakukan beberapa kegiatan destruktif jangka pendek, AGI yang diprogram dengan benar hanya akan menolak. Bagaimana kita dapat memastikan bahwa AGI diprogram dengan benar dari awal?

Pengambilan keputusan didasarkan pada tujuan. Dalam kombinasi dengan imajinasi, Anda (atau AGI) mempertimbangkan hasil dari tindakan yang berbeda dan memilih yang terbaik yang mencapai tujuan. Pada manusia, tujuan kita ditetapkan oleh insting yang berevolusi dan pengalaman; tujuan AGI sepenuhnya bergantung pada pengembang. Kita perlu memastikan bahwa tujuan AGI sejalan dengan tujuan umat manusia dan bukan tujuan pribadi individu. [Tiga tujuan yang mungkin seperti yang terdaftar di atas.]

Anda telah menyatakan bahwa tidak dapat dihindari bahwa manusia akan menciptakan AGI, apa perkiraan terbaik Anda untuk timeline?

Aspek-aspek AGI akan mulai muncul dalam dekade mendatang tetapi kita tidak akan semua setuju bahwa AGI telah tiba. Akhirnya, kita akan setuju bahwa AGI telah tiba ketika mereka melampaui kemampuan manusia sebagian besar dengan margin yang substansial. Ini akan memakan waktu dua atau tiga dekade lagi.

Untuk semua pembicaraan tentang AGI, apakah itu akan menjadi kesadaran nyata seperti yang kita kenal?

Kesadaran memanifestasikan diri dalam serangkaian perilaku (yang dapat kita amati) yang didasarkan pada sensasi internal (yang tidak dapat kita amati). AGI akan memanifestasikan perilaku; mereka perlu melakukannya untuk membuat keputusan cerdas. Namun, saya berpendapat bahwa sensasi internal kita sebagian besar bergantung pada perangkat keras sensorik dan insting kita dan sehingga saya dapat menjamin bahwa sensasi internal apa pun yang mungkin dimiliki AGI, akan berbeda dari manusia.

Hal yang sama dapat dikatakan tentang emosi dan rasa kebebasan kita. Dalam membuat keputusan, kepercayaan pada kebebasan kita memasuki setiap keputusan yang kita buat. Jika Anda tidak percaya bahwa Anda memiliki pilihan, Anda hanya bereaksi. Untuk AGI membuat keputusan yang bijaksana, ia juga perlu menyadari kemampuan membuat keputusannya sendiri.

Pertanyaan terakhir, apakah Anda percaya bahwa AGI memiliki lebih banyak potensi untuk baik atau buruk?

Saya optimis bahwa AGI akan membantu kita maju sebagai spesies dan membawa jawaban atas banyak pertanyaan tentang alam semesta. Kunci akan untuk kita mempersiapkan dan menentukan apa hubungan kita dengan AGI saat kita mendefinisikan tujuan mereka. Jika kita memutuskan untuk menggunakan AGI pertama sebagai alat penaklukan dan pengayaan, kita tidak boleh terkejut jika, di jalur, mereka menjadi alat penaklukan dan pengayaan melawan kita. Jika kita memilih AGI sebagai alat pengetahuan, eksplorasi, dan perdamaian, maka itu yang mungkin kita dapatkan sebagai gantinya. Pilihan ada di tangan kita.

Terima kasih atas wawancara fantastis yang menjelajahi potensi masa depan pembangunan AGI. Untuk pembaca yang ingin mempelajari lebih lanjut, mereka dapat membaca ‘Will Computers Revolt’ atau mengunjungi situs web Charles di futureai.guru.