Peneliti Mengatakan Manusia Tidak Dapat Mengontrol AI Superinteligent

Siapa pun yang mengetahui kecerdasan buatan (AI) mungkin telah mendengar beberapa versi tentang hal itu akhirnya lepas dari kendali manusia. Ini bukan hanya tema dari film Sci-Fi, tetapi juga kemungkinan yang sangat kuat yang membuat banyak ahli di industri ini khawatir. Banyak dari ahli-ahli ini, termasuk ilmuwan, mendukung agar kita mulai mempersiapkan kemungkinan ini dan menghindarinya dengan cara apa pun.

Sekarang, tim internasional peneliti telah mengambil ide ini dan mendukungnya dengan perhitungan teoritis. Tim, yang termasuk ilmuwan dari Pusat Manusia dan Mesin di Max Planck Institute untuk Pengembangan Manusia, menggunakan perhitungan tersebut untuk menunjukkan bagaimana tidak mungkin untuk mengontrol AI superinteligent.

Penelitian ini baru-baru ini diterbitkan di Journal of Artificial Intelligence Research.

Sistem AI Superinteligent

Kekhawatiran atas sistem AI superinteligent terkait dengan kenyataan bahwa sistem seperti itu akan jauh lebih unggul daripada manusia. Ini akan dapat tidak hanya belajar secara mandiri, tetapi juga mengakses semua data yang ada dan memprosesnya dengan sangat cepat.

Peristiwa seperti ini dapat menyebabkan AI superinteligent mengambil alih semua mesin yang ada di internet, dan sementara itu bisa dan akan melakukan hal-hal seperti menyembuhkan penyakit dan memecahkan masalah besar lainnya yang dihadapi oleh kemanusiaan, risiko untuk hal-hal yang tidak terkendali juga tinggi.

Manuel Cebrian adalah co-penulis studi dan Pemimpin Kelompok Mobilisasi Digital di Pusat Manusia dan Mesin, Max Planck Institute untuk Pengembangan Manusia.

“Mesin super-inteligent yang mengontrol dunia terdengar seperti fiksi ilmiah. Tetapi sudah ada mesin yang melakukan tugas-tugas penting secara mandiri tanpa programmer sepenuhnya memahami bagaimana mereka belajar. Pertanyaan yang timbul adalah apakah ini suatu saat bisa menjadi tidak terkendali dan berbahaya bagi kemanusiaan,” kata Cebrian.

Mengontrol Sistem

Ada dua sekolah pemikiran utama ketika datang ke mengontrol sistem seperti itu. Pertama, manusia bisa membatasi kemampuan AI superinteligent dengan membatasi aksesnya ke beberapa sumber data, seperti internet secara keseluruhan. Sistem juga bisa berfungsi tanpa menghubungi dunia luar. Namun, masalahnya adalah bahwa ini akan sangat membatasi potensi AI.

Sistem akan dikontrol dengan hanya membiarkannya mengejar hasil yang akan menguntungkan kemanusiaan, dan ini bisa dilakukan dengan memprogram prinsip-prinsip etika ke dalamnya.

Studi ini melibatkan tim mengembangkan algoritma kontainer teoritis yang mencegah AI superinteligent dari merugikan manusia dalam keadaan apa pun. Ini dapat dicapai dengan pertama-tama membuat simulasi perilaku AI dan mendeteksi perilaku apa pun yang bisa berbahaya. Meskipun teori ini menjanjikan, analisis saat ini menunjukkan bahwa algoritma seperti itu tidak dapat dikembangkan.

Iyad Rahwan adalah Direktur Pusat Manusia dan Mesin.

“Jika Anda memecah masalah ke aturan dasar dari ilmu komputer teoritis, ternyata bahwa algoritma yang akan memerintahkan AI untuk tidak menghancurkan dunia bisa secara tidak sengaja menghentikan operasinya sendiri. Jika ini terjadi, Anda tidak akan tahu apakah algoritma kontainer masih menganalisis ancaman, atau apakah itu telah berhenti untuk mengandung AI yang berbahaya. Pada dasarnya, ini membuat algoritma kontainer tidak dapat digunakan,” kata Rahwan.

Masalah lainnya adalah ahli mungkin tidak menyadari ketika mesin superinteligent mencapai keadaan itu, sebagian besar karena kenyataan bahwa itu akan lebih pintar daripada manusia.