Apakah AI Ancaman Eksistensial?

Ketika membahas Kecerdasan Buatan (AI), debat umum adalah apakah AI merupakan ancaman eksistensial. Jawabannya memerlukan pemahaman tentang teknologi di balik Pembelajaran Mesin (ML), dan mengakui bahwa manusia memiliki kecenderungan untuk memberikan sifat manusia pada mesin. Kami akan mengeksplorasi dua jenis AI yang berbeda, Kecerdasan Buatan Sempit (ANI) yang tersedia sekarang dan menyebabkan kekhawatiran, dan ancaman yang paling umum dikaitkan dengan versi apokaliptik AI yang disebut Kecerdasan Buatan Umum (AGI).

Ancaman Kecerdasan Buatan Sempit

Untuk memahami apa itu ANI, Anda hanya perlu memahami bahwa setiap aplikasi AI yang saat ini tersedia adalah bentuk ANI. Ini adalah bidang AI yang memiliki spesialisasi yang sempit, misalnya kendaraan otonom menggunakan AI yang dirancang dengan tujuan tunggal untuk memindahkan kendaraan dari titik A ke B. Jenis ANI lainnya mungkin adalah program catur yang dioptimalkan untuk bermain catur, dan bahkan jika program catur terus memperbaiki diri dengan menggunakan pembelajaran penguatan, program catur tidak akan pernah dapat mengoperasikan kendaraan otonom.

Dengan fokus pada operasi yang menjadi tanggung jawabnya, sistem ANI tidak dapat menggunakan pembelajaran umum untuk mengambil alih dunia. Itu adalah kabar baik; kabar buruknya adalah bahwa dengan ketergantungannya pada operator manusia, sistem AI rentan terhadap data yang bias, kesalahan manusia, atau bahkan operator manusia yang tidak bertanggung jawab.

Pengawasan AI

Mungkin tidak ada bahaya yang lebih besar bagi umat manusia daripada manusia menggunakan AI untuk menginvasi privasi, dan dalam beberapa kasus menggunakan pengawasan AI untuk mencegah orang bergerak secara bebas. Cina, Rusia, dan negara lain telah melewati peraturan selama COVID-19 untuk memungkinkan mereka memantau dan mengontrol pergerakan populasi mereka. Ini adalah hukum yang sekali diterapkan, sulit dihapus, terutama di masyarakat yang memiliki pemimpin otoriter.

Di Cina, kamera dipasang di luar rumah orang, dan dalam beberapa kasus di dalam rumah. Setiap kali anggota rumah tangga keluar, AI memantau waktu kedatangan dan keberangkatan, dan jika perlu, memberi tahu otoritas. Seperti itu tidak cukup, dengan bantuan teknologi pengenalan wajah, Cina dapat melacak pergerakan setiap orang setiap kali mereka diidentifikasi oleh kamera. Ini menawarkan kekuasaan absolut kepada entitas yang mengontrol AI, dan tidak ada upaya bagi warga negara untuk melawan.

Mengapa skenario ini berbahaya adalah karena pemerintah yang korup dapat memantau pergerakan jurnalis, lawan politik, atau siapa saja yang berani mempertanyakan otoritas pemerintah. Mudah untuk memahami bagaimana jurnalis dan warga negara akan berhati-hati untuk mengkritik pemerintah ketika setiap gerakan mereka dipantau.

Ada beberapa kota yang berjuang untuk mencegah pengenalan wajah memasuki kota mereka. Terutama, Portland, Oregon baru-baru ini melewati undang-undang yang memblokir pengenalan wajah dari digunakan secara tidak perlu di kota. Sementara perubahan peraturan ini mungkin tidak disadari oleh masyarakat umum, di masa depan peraturan ini bisa menjadi perbedaan antara kota yang menawarkan beberapa jenis otonomi dan kebebasan, dan kota yang terasa otoriter.

Senjata Otonom dan Drone

Lebih dari 4500 peneliti AI telah meminta larangan senjata otonom dan telah membuat situs web Larangan Senjata Otonom. Kelompok ini memiliki banyak organisasi non-profit terkenal sebagai penandatangan, seperti Human Rights Watch, Amnesty International, dan Institut Masa Depan Kehidupan yang memiliki dewan penasihat ilmiah yang sangat baik, termasuk Elon Musk, Nick Bostrom, dan Stuart Russell.

Sebelum melanjutkan, saya akan membagikan kutipan dari Institut Masa Depan Kehidupan yang menjelaskan mengapa ada alasan untuk khawatir: “Dalam kontras dengan senjata semi-otonom yang memerlukan pengawasan manusia untuk memastikan bahwa setiap target divalidasi sebagai sah secara etis dan hukum, senjata otonom sepenuhnya memilih dan menyerang target tanpa intervensi manusia, mewakili otomatisasi lengkap dari kerusakan mematikan.”

Saat ini, bom pintar dikerahkan dengan target yang dipilih oleh manusia, dan bom tersebut menggunakan AI untuk memplot jalur dan mendarat di targetnya. Masalahnya adalah apa yang terjadi ketika kita memutuskan untuk menghilangkan manusia dari persamaan?

Ketika AI memilih apa yang perlu diserang, serta jenis kerusakan yang diterima, kita mungkin telah melewati titik tidak ada jalan kembali. Ini adalah mengapa banyak peneliti AI menentang penelitian apa pun yang terkait dengan senjata otonom.

Ada beberapa masalah dengan hanya mencoba memblokir penelitian senjata otonom. Masalah pertama adalah bahkan jika negara maju seperti Kanada, AS, dan sebagian besar Eropa memutuskan untuk menyetujui larangan, itu tidak berarti negara-negara nakal seperti Cina, Korea Utara, Iran, dan Rusia akan mematuhi. Masalah kedua dan lebih besar adalah bahwa penelitian AI dan aplikasi yang dirancang untuk digunakan dalam satu bidang dapat digunakan dalam bidang yang tidak terkait.

Sebagai contoh, penglihatan komputer terus membaik dan penting untuk mengembangkan kendaraan otonom, pengobatan presisi, dan kasus penggunaan lainnya. Ini juga sangat penting untuk drone biasa atau drone yang dapat dimodifikasi untuk menjadi otonom. Salah satu kasus penggunaan teknologi drone canggih adalah mengembangkan drone yang dapat memantau dan melawan kebakaran hutan. Ini akan menghilangkan petugas pemadam kebakaran dari bahaya. Untuk melakukan ini, Anda perlu membangun drone yang dapat terbang ke dalam bahaya, navigasi dalam visibilitas rendah atau nol, dan dapat menjatuhkan air dengan presisi yang tidak tercela. Ini tidak jauh dari menggunakan teknologi yang sama dalam drone otonom yang dirancang untuk menyerang manusia.

Ini adalah situasi yang berbahaya dan pada saat ini, tidak ada yang sepenuhnya memahami implikasi dari mengembangkan atau mencoba memblokir pengembangan senjata otonom. Ini adalah sesuatu yang perlu kita waspadai, meningkatkan perlindungan pelapor mungkin memungkinkan mereka yang di bidang untuk melaporkan penyalahgunaan.

Operator nakal di samping, apa yang terjadi jika bias AI meresap ke dalam teknologi AI yang dirancang untuk menjadi senjata otonom?

Bias AI

Salah satu ancaman AI yang paling tidak dilaporkan adalah bias AI. Ini sederhana untuk dipahami karena sebagian besar tidak disengaja. Bias AI meresap ketika AI mengulas data yang diberikan oleh manusia, menggunakan pengenalan pola dari data yang diberikan ke AI, AI secara salah mencapai kesimpulan yang mungkin memiliki dampak negatif pada masyarakat. Sebagai contoh, AI yang diberikan literatur dari abad terakhir tentang cara mengidentifikasi staf medis mungkin mencapai kesimpulan yang tidak diinginkan bahwa wanita selalu perawat, dan pria selalu dokter.

Skenario yang lebih berbahaya adalah ketika AI yang digunakan untuk menjatuhi hukuman terpidana bersalah memiliki bias terhadap memberikan hukuman penjara yang lebih lama kepada minoritas. Algoritma penilaian risiko kriminal AI hanya mempelajari pola dalam data yang diberikan ke sistem. Data ini menunjukkan bahwa secara historis beberapa minoritas lebih cenderung melakukan kejahatan lagi, bahkan ketika ini disebabkan oleh dataset yang buruk yang mungkin dipengaruhi oleh profil rasial polisi. Bias AI kemudian memperkuat kebijakan manusia yang negatif. Ini adalah mengapa AI harus menjadi pedoman, tidak pernah hakim dan juri.

Kembali ke senjata otonom, jika kita memiliki AI yang memiliki bias terhadap kelompok etnis tertentu, itu bisa memilih untuk menyerang individu-individu tertentu berdasarkan data yang bias, dan itu bisa memutuskan untuk memastikan bahwa setiap jenis kerusakan yang diterima mempengaruhi demografi tertentu lebih sedikit daripada yang lain. Sebagai contoh, ketika menyerang teroris, sebelum menyerang itu bisa menunggu sampai teroris dikelilingi oleh orang-orang yang beragama Islam bukan Kristen.

Untungnya, telah terbukti bahwa AI yang dirancang dengan tim yang beragam kurang rentan terhadap bias. Ini adalah alasan yang cukup bagi perusahaan untuk mencoba kapan saja mempekerjakan tim yang beragam dan seimbang.

Ancaman Kecerdasan Buatan Umum

Perlu dinyatakan bahwa meskipun AI berkembang dengan kecepatan eksponensial, kita belum mencapai AGI. Kapan kita akan mencapai AGI adalah debat, dan setiap orang memiliki jawaban yang berbeda tentang timeline. Saya secara pribadi menganut pandangan Ray Kurzweil, penemu, futuris, dan penulis ‘The Singularity is Near” yang percaya bahwa kita akan mencapai AGI pada tahun 2029.

AGI akan menjadi teknologi yang paling transformatif di dunia. Dalam beberapa minggu setelah AI mencapai tingkat kecerdasan manusia, itu kemudian akan mencapai kecerdasan super yang didefinisikan sebagai kecerdasan yang jauh melampaui kecerdasan manusia.

Dengan tingkat kecerdasan ini, AGI bisa dengan cepat menyerap semua pengetahuan manusia dan menggunakan pengenalan pola untuk mengidentifikasi biomarker yang menyebabkan masalah kesehatan, dan kemudian mengobati kondisi tersebut dengan menggunakan ilmu data. Ini bisa menciptakan nanobots yang masuk ke dalam aliran darah untuk menyerang sel kanker atau vektor serangan lainnya. Daftar prestasi yang dapat dilakukan AGI tidak terbatas. Kami sebelumnya telah mengeksplorasi beberapa manfaat AGI.

Masalahnya adalah manusia mungkin tidak lagi dapat mengontrol AI. Elon Musk menjelaskannya dengan cara ini: ”Dengan kecerdasan buatan kita adalah memanggil setan.’ Apakah kita akan dapat mengontrol setan ini adalah pertanyaan?

Mencapai AGI mungkin hanya mustahil sampai AI meninggalkan pengaturan simulasi untuk benar-benar berinteraksi di dunia terbuka. Kesadaran diri tidak dapat dirancang, sebaliknya dipercaya bahwa kesadaran yang muncul kemungkinan akan berkembang ketika AI memiliki tubuh robotik yang menampilkan beberapa aliran input. Input ini mungkin termasuk stimulasi taktil, pengenalan suara dengan pemahaman bahasa alami yang ditingkatkan, dan penglihatan komputer yang ditingkatkan.

AI canggih mungkin diprogram dengan motif altruistik dan ingin menyelamatkan planet ini. Sayangnya, AI mungkin menggunakan ilmu data, atau bahkan pohon keputusan untuk mencapai logika yang tidak diinginkan, seperti menilai bahwa perlu untuk mensterilkan manusia, atau menghilangkan sebagian dari populasi manusia untuk mengendalikan kelebihan populasi.

Pertimbangan yang hati-hati dan perenungan perlu dilakukan ketika membangun AI dengan kecerdasan yang akan jauh melampaui kecerdasan manusia. Banyak skenario mimpi buruk telah dieksplorasi.

Profesor Nick Bostrom dalam argumen Paperclip Maximizer telah berpendapat bahwa AGI yang salah dikonfigurasi jika diminta untuk menghasilkan klip kertas akan mengkonsumsi semua sumber daya bumi untuk menghasilkan klip kertas ini. Sementara ini tampak sedikit jauh dari kenyataan, pandangan yang lebih pragmatis adalah bahwa AGI bisa dikendalikan oleh negara nakal atau perusahaan dengan etika yang buruk. Entitas ini bisa melatih AGI untuk memaksimalkan keuntungan, dan dalam hal ini dengan pemrograman yang buruk dan tanpa penyesalan, itu bisa memilih untuk menghancurkan pesaing, menghancurkan rantai pasokan, menghack pasar saham, mengosongkan rekening bank, atau menyerang lawan politik.

Ini adalah ketika kita perlu mengingat bahwa manusia cenderung memberikan sifat manusia pada mesin. Kita tidak bisa memberikan AI emosi, keinginan, atau keinginan manusia. Sementara ada manusia yang kejam yang membunuh untuk kesenangan, tidak ada alasan untuk percaya bahwa AI akan rentan terhadap perilaku ini. Tidak terbayangkan bagi manusia untuk mempertimbangkan bagaimana AI akan memandang dunia.

Sebaliknya, apa yang perlu kita lakukan adalah mengajar AI untuk selalu menghormati manusia. AI harus selalu memiliki konfirmasi manusia untuk setiap perubahan pengaturan, dan harus selalu ada mekanisme keamanan. Kemudian lagi, telah diperdebatkan bahwa AI akan mereplikasi dirinya di awan, dan ketika kita menyadari itu adalah sadar, mungkin sudah terlambat.

Ini adalah mengapa sangat penting untuk membuka sumber AI sebanyak mungkin dan memiliki diskusi rasional tentang masalah ini.

Rangkuman

Ada banyak tantangan untuk AI, untungnya, kita masih memiliki banyak tahun untuk secara kolektif menentukan jalur masa depan yang kita inginkan AGI untuk diambil. Kita harus fokus pada menciptakan tenaga kerja AI yang beragam, yang mencakup sebanyak mungkin wanita dan pria, dan sebanyak mungkin kelompok etnis dengan pandangan yang beragam.

Kita juga harus menciptakan perlindungan pelapor untuk peneliti yang bekerja pada AI, dan kita harus melewati undang-undang dan peraturan yang mencegah penyalahgunaan pengawasan negara atau perusahaan secara luas. Manusia memiliki kesempatan seumur hidup untuk meningkatkan kondisi manusia dengan bantuan AI, kita hanya perlu memastikan bahwa kita dengan hati-hati menciptakan kerangka sosial yang memungkinkan hal-hal positif, sementara memitigasi negatif yang termasuk ancaman eksistensial.