Agen AI Menunjukkan Sifat Kecerdasan Emergen Dalam Permainan Hide and Seek Virtual

Salah satu fakta menarik tentang penelitian AI adalah bahwa AI dapat melakukan tindakan dan menerapkan strategi yang mengejutkan peneliti yang merancangnya. Hal ini terjadi selama permainan virtual hide and seek di mana beberapa agen AI saling berhadapan. Peneliti di OpenAI, sebuah perusahaan AI yang berbasis di San Francisco, terkejut menemukan bahwa agen AI mereka mulai mengembangkan strategi dalam permainan yang tidak mereka ketahui sebelumnya.

OpenAI telah melatih sekelompok agen AI untuk bermain permainan hide and seek bersama. Program AI ini dilatih dengan reinforcement learning, sebuah teknik di mana perilaku yang diinginkan diperoleh dari algoritma AI dengan memberikan umpan balik. AI memulai dengan melakukan tindakan acak, dan setiap kali melakukan tindakan yang mendekatkan mereka ke tujuan, agen tersebut diberi hadiah. AI ingin memperoleh hadiah maksimal, sehingga mereka bereksperimen untuk menemukan tindakan yang memberikan hadiah lebih banyak. Melalui trial dan error, AI mampu membedakan strategi yang akan membawa mereka menuju kemenangan, yang akan memberikan hadiah lebih banyak.

Reinforcement learning telah menunjukkan kesuksesan yang impresif dalam mempelajari aturan permainan. OpenAI baru-baru ini melatih tim AI untuk bermain game MMORPG DOTA 2, dan AI tersebut mengalahkan tim pemain manusia juara dunia tahun lalu. Hal serupa terjadi dengan game StarCraft ketika AI dilatih pada game tersebut oleh DeepMind. Reinforcement learning juga digunakan untuk mengajar program AI bermain Pictionary dengan manusia, mempelajari untuk menafsirkan gambar dan menggunakan penalaran dasar.

Dalam permainan hide and seek virtual yang dibuat oleh peneliti, beberapa agen AI saling berhadapan. Hasilnya adalah semacam perlombaan senjata, di mana setiap agen ingin mengungguli yang lain dan memperoleh poin hadiah terbanyak. Strategi baru yang diadopsi oleh satu agen akan menyebabkan lawannya mencari strategi baru untuk mengcounter, dan sebaliknya. Igor Mordatch, seorang peneliti di OpenAI, menjelaskan kepada IEEE Spectrum bahwa eksperimen ini menunjukkan bahwa proses trial dan error antara agen “cukup untuk agen belajar perilaku yang mengejutkan secara mandiri—seperti anak-anak bermain bersama.”

Apa saja perilaku yang mengejutkan itu? Peneliti memiliki empat strategi dasar yang mereka harapkan agen AI akan pelajari, dan mereka mempelajari strategi tersebut dengan cukup cepat, menjadi kompeten setelah hanya 25 juta permainan simulasi. Permainan tersebut berlangsung dalam lingkungan 3D yang dipenuhi dengan ramp, blok, dan dinding. Agen AI mempelajari untuk mengejar satu sama lain, memindahkan blok untuk membangun benteng yang dapat mereka sembunyikan, dan memindahkan ramp. Agen pencari mempelajari untuk menarik ramp untuk masuk ke dalam benteng penyembunyi, sementara penyembunyi mempelajari untuk mencoba membawa ramp ke dalam benteng mereka sehingga pencari tidak dapat menggunakannya.

Namun, sekitar benchmark 380 juta permainan, sesuatu yang tidak terduga terjadi. Agen AI mempelajari untuk menggunakan dua strategi yang tidak diharapkan oleh peneliti. Agen pencari mempelajari bahwa dengan melompat ke atas kotak dan miring/mengendarai kotak ke arah benteng terdekat, mereka dapat melompat ke dalam benteng dan menemukan penyembunyi. Peneliti tidak menyadari bahwa ini memungkinkan dalam fisika lingkungan permainan. Penyembunyi mempelajari untuk mengatasi masalah ini dengan menarik kotak ke dalam benteng mereka.

Sementara perilaku yang tidak terduga dari agen yang dilatih dengan algoritma reinforcement learning tidak berbahaya dalam kasus ini, hal ini menimbulkan beberapa kekhawatiran tentang bagaimana reinforcement learning diterapkan dalam situasi lain. Seorang anggota tim peneliti OpenAI, Bowen Baker, menjelaskan kepada IEEE Spectrum bahwa perilaku yang tidak terduga ini dapat berpotensi berbahaya. Bagaimana jika robot mulai berperilaku secara tidak terduga?

“Membangun lingkungan ini sulit,” Baker menjelaskan. “Agen akan mengembangkan perilaku yang tidak terduga, yang akan menjadi masalah keamanan di masa depan ketika Anda meletakkan mereka dalam lingkungan yang lebih kompleks.”

Namun, Baker juga menjelaskan bahwa strategi reinforcement dapat mengarah pada solusi inovatif untuk masalah saat ini. Sistem yang dilatih dengan reinforcement learning dapat menyelesaikan berbagai masalah dengan solusi yang mungkin tidak dapat kita bayangkan.