Teknik Mengizinkan AI untuk Berpikir Jauh ke Masa Depan

Tim peneliti dari MIT, MIT-IBM Watson AI Lab, dan lembaga lainnya telah mengembangkan pendekatan baru yang memungkinkan agen kecerdasan buatan (AI) untuk mencapai perspektif yang jauh ke depan. Dengan kata lain, AI dapat berpikir jauh ke masa depan ketika mempertimbangkan bagaimana perilaku mereka dapat memasukkan perilaku agen AI lainnya saat menyelesaikan tugas.

Penelitian ini akan dipresentasikan pada Konferensi Sistem Pemrosesan Informasi Saraf.

AI Mengconsider Tindakan Masa Depan Agen Lain

Kerangka pembelajaran mesin yang dibuat oleh tim memungkinkan agen AI kooperatif atau kompetitif untuk mempertimbangkan apa yang akan dilakukan oleh agen lain. Ini tidak hanya berlaku untuk langkah-langkah berikutnya, tetapi juga ketika waktu mendekati tak terhingga. Agen-agen tersebut menyesuaikan perilaku mereka sesuai dengan itu untuk mempengaruhi perilaku agen lain di masa depan, membantu mereka mencapai solusi optimal jangka panjang.

Menurut tim, kerangka ini dapat digunakan, misalnya, oleh sekelompok drone otonom yang bekerja sama untuk menemukan seorang pendaki yang hilang. Ini juga dapat digunakan oleh kendaraan self-driving untuk memprediksi gerakan masa depan kendaraan lain untuk meningkatkan keselamatan penumpang.

Dong-Ki Kim adalah seorang mahasiswa pascasarjana di Laboratorium MIT untuk Informasi dan Keputusan (LIDS) dan penulis utama makalah penelitian.

“Ketika agen AI bekerja sama atau bersaing, yang paling penting adalah ketika perilaku mereka berkumpul pada suatu titik di masa depan,” kata Kim. “Ada banyak perilaku sementara di sepanjang jalan yang tidak terlalu penting dalam jangka panjang. Mencapai perilaku yang berkumpul ini adalah yang kami pedulikan, dan sekarang kami memiliki cara matematis untuk memungkinkan itu.”

Masalah yang dihadapi oleh peneliti adalah pembelajaran penguatan multi-agen, dengan pembelajaran penguatan sebagai bentuk pembelajaran mesin di mana agen AI belajar melalui trial dan error.

Setiap kali ada beberapa agen kooperatif atau kompetitif yang belajar secara bersamaan, prosesnya dapat menjadi jauh lebih kompleks. Ketika agen mempertimbangkan lebih banyak langkah masa depan agen lain, serta perilaku mereka sendiri dan bagaimana itu mempengaruhi orang lain, masalahnya memerlukan terlalu banyak daya komputasi.

AI Berpikir Tentang Tak Terhingga

“AI benar-benar ingin berpikir tentang akhir permainan, tetapi mereka tidak tahu kapan permainan akan berakhir,” kata Kim. “Mereka perlu berpikir tentang bagaimana mereka dapat terus menyesuaikan perilaku mereka hingga tak terhingga sehingga mereka dapat menang pada suatu titik di masa depan yang jauh. Makalah kami pada dasarnya mengusulkan tujuan baru yang memungkinkan AI untuk berpikir tentang tak terhingga.”

Mustahil untuk mengintegrasikan tak terhingga ke dalam algoritma, sehingga tim merancang sistem sedemikian rupa sehingga agen fokus pada titik masa depan di mana perilaku mereka akan berkumpul dengan agen lain. Ini disebut sebagai keseimbangan, dan titik keseimbangan menentukan kinerja jangka panjang agen.

Memungkinkan untuk beberapa keseimbangan yang ada dalam skenario multi-agen, dan ketika agen yang efektif secara aktif mempengaruhi perilaku masa depan agen lain, mereka dapat mencapai keseimbangan yang diinginkan dari perspektif agen. Ketika semua agen mempengaruhi satu sama lain, mereka berkumpul pada konsep umum yang disebut sebagai “keseimbangan aktif”.

Kerangka FURTHER

Kerangka pembelajaran mesin yang dikembangkan oleh tim disebut FURTHER, dan memungkinkan agen untuk belajar bagaimana menyesuaikan perilaku mereka berdasarkan interaksi mereka dengan agen lain untuk mencapai keseimbangan aktif.

Kerangka ini bergantung pada dua modul pembelajaran mesin. Yang pertama adalah modul inferensi yang memungkinkan agen untuk menebak perilaku masa depan agen lain dan algoritma pembelajaran yang mereka gunakan berdasarkan tindakan sebelumnya. Informasi tersebut kemudian diberikan ke modul pembelajaran penguatan, yang agen gunakan untuk menyesuaikan perilaku mereka dan mempengaruhi agen lain.

“Tantangan itu adalah berpikir tentang tak terhingga. Kami harus menggunakan banyak alat matematika yang berbeda untuk memungkinkan itu, dan membuat beberapa asumsi untuk membuatnya bekerja dalam praktek,” kata Kim.

Tim menguji metode mereka melawan kerangka pembelajaran penguatan multi-agen lainnya dalam skenario yang berbeda di mana agen AI yang menggunakan FURTHER unggul.

Pendekatan ini adalah desentralisasi, sehingga agen belajar untuk menang secara mandiri. Selain itu, ini lebih baik dirancang untuk meningkatkan skala dibandingkan dengan metode lain yang memerlukan komputer pusat untuk mengontrol agen.

Menurut tim, FURTHER dapat digunakan dalam berbagai masalah multi-agen. Kim sangat berharap untuk aplikasinya dalam ekonomi, di mana dapat digunakan untuk mengembangkan kebijakan yang solid dalam situasi yang melibatkan banyak entitas yang berinteraksi dengan perilaku dan kepentingan yang berubah seiring waktu.