Peneliti Mengatakan Manusia Tidak Dapat Mengontrol AI Superintelligent

Siapa pun yang menyadari keberadaan kecerdasan buatan (AI) telah mendengar beberapa versi tentang hal itu yang akhirnya akan bebas dari kendali manusia. Ini bukan hanya tema dari film Sci-Fi, tetapi juga kemungkinan yang sangat kuat yang membuat banyak ahli di industri ini khawatir. Banyak dari ahli-ahli ini, termasuk ilmuwan, mendukung bahwa kita harus mulai mempersiapkan diri untuk kemungkinan ini dan menghindarinya dengan cara apa pun yang mungkin.

Sekarang, sebuah tim peneliti internasional telah mengambil ide ini dan membuktikannya dengan perhitungan teoritis. Tim, yang termasuk ilmuwan dari Pusat Manusia dan Mesin di Max Planck Institute for Human Development, menggunakan perhitungan tersebut untuk menunjukkan bahwa tidak mungkin untuk mengontrol AI superintelligent.

Penelitian ini baru-baru ini diterbitkan di Journal of Artificial Intelligence Research.

Sistem AI Superintelligent

Kekhawatiran tentang sistem AI superintelligent terkait dengan fakta bahwa sistem seperti itu akan jauh lebih unggul daripada manusia. Sistem ini akan dapat tidak hanya belajar secara mandiri, tetapi juga mengakses semua data yang ada dan memprosesnya dengan sangat cepat.

Peristiwa seperti ini dapat menyebabkan AI superintelligent mengambil alih semua mesin yang ada di internet, dan meskipun sistem ini dapat dan akan melakukan hal-hal seperti menyembuhkan penyakit dan memecahkan masalah besar yang dihadapi umat manusia, risiko untuk kehilangan kendali juga sangat tinggi.

Manuel Cebrian adalah co-penulis studi ini dan Pemimpin Kelompok Mobilisasi Digital di Pusat Manusia dan Mesin, Max Planck Institute for Human Development.

“Mesin super-intelligent yang mengontrol dunia terdengar seperti fiksi ilmiah. Tetapi sudah ada mesin yang melakukan tugas-tugas penting secara mandiri tanpa programmer sepenuhnya memahami bagaimana mereka belajar. Pertanyaan yang timbul adalah apakah ini suatu saat dapat menjadi tidak terkendali dan berbahaya bagi umat manusia,” kata Cebrian.

Mengontrol Sistem

Ada dua sekolah pemikiran utama ketika datang ke mengontrol sistem seperti itu. Pertama, manusia dapat membatasi kemampuan AI superintelligent dengan membatasi aksesnya ke beberapa sumber data, seperti internet secara keseluruhan. Sistem juga dapat berfungsi tanpa menghubungi dunia luar. Namun, masalahnya adalah bahwa ini akan sangat membatasi potensi AI.

Sistem akan dikendalikan dengan hanya membiarkannya mengejar hasil yang akan menguntungkan umat manusia, dan ini dapat dilakukan dengan memprogram prinsip-prinsip etika ke dalamnya.

Studi ini melibatkan tim mengembangkan algoritma kontainmen teoritis yang mencegah AI superintelligent dari membahayakan manusia dalam keadaan apa pun. Ini dapat dicapai dengan pertama-tama membuat simulasi perilaku AI dan mendeteksi perilaku apa pun yang dapat membahayakan. Meskipun teori ini menjanjikan, analisis saat ini menunjukkan bahwa algoritma seperti itu tidak dapat dikembangkan.

Iyad Rahwan adalah Direktur Pusat Manusia dan Mesin.

“Jika Anda memecah masalah ini menjadi aturan dasar dari ilmu komputer teoritis, ternyata bahwa algoritma yang akan memerintahkan AI untuk tidak menghancurkan dunia dapat secara tidak sengaja menghentikan operasinya sendiri. Jika ini terjadi, Anda tidak akan tahu apakah algoritma kontainmen masih menganalisis ancaman, atau apakah telah berhenti untuk mengandung AI yang berbahaya. Dalam efek, ini membuat algoritma kontainmen tidak dapat digunakan,” kata Rahwan.

Masalah lainnya adalah bahwa ahli mungkin tidak menyadari ketika mesin superintelligent mencapai keadaan tersebut, sebagian besar karena fakta bahwa itu akan lebih pintar daripada manusia.