Model dan platform AI
Ahli Mengatasi Hambatan Besar dalam Teknologi AI Menggunakan Mekanisme Otak
Sebuah kelompok ahli kecerdasan buatan (AI) dari berbagai institusi telah mengatasi “hambatan besar, lama yang menghalangi peningkatan kemampuan AI.” Tim tersebut memandang ke otak manusia, yang merupakan kasus untuk banyak pengembangan AI. Secara khusus, tim tersebut fokus pada mekanisme memori otak manusia yang dikenal sebagai “replay.”
Gido van de Ven adalah penulis pertama dan peneliti postdoctoral. Ia bergabung dengan penyelidik utama Andreas Tolias di Baylor, serta Hava Siegelmann di UMass Amherst.
Penelitian ini diterbitkan di Nature Communications.
Metode Baru
Menurut peneliti, mereka telah mengembangkan metode baru yang secara efisien melindungi jaringan neural dalam dari “lupa bencana.” Ketika jaringan neural mempelajari sesuatu yang baru, ia dapat melupakan apa yang telah dipelajari sebelumnya.
Hambatan ini adalah apa yang menghentikan banyak kemajuan AI dari terjadi.
“Satu solusi adalah menyimpan contoh yang telah ditemui sebelumnya dan mengunjunginya kembali ketika mempelajari sesuatu yang baru. Meskipun ‘replay’ atau ‘rehearsal’ seperti itu dapat menyelesaikan lupa bencana, tetapi secara terus-menerus melatih kembali semua tugas yang telah dipelajari sebelumnya sangat tidak efisien dan jumlah data yang harus disimpan menjadi tidak terkendali dengan cepat,” tulis peneliti.
Otak Manusia
Peneliti mengambil inspirasi dari otak manusia, karena otak dapat membangun informasi tanpa melupakan, yang tidak terjadi pada jaringan neural AI. Pengembangan saat ini dibangun atas pekerjaan sebelumnya yang dilakukan oleh peneliti, termasuk temuan tentang mekanisme di otak yang diyakini bertanggung jawab untuk mencegah memori dari dilupakan. Mekanisme ini adalah replay pola aktivitas neural.
Menurut Siegelmann, kemajuan besar datang dari “mengakui bahwa replay di otak tidak menyimpan data,” tetapi “otak menghasilkan representasi memori pada tingkat yang lebih abstrak dengan tidak perlu menghasilkan memori yang rinci.”
Siegelmann mengambil informasi ini dan bergabung dengan rekan-rekannya untuk mengembangkan replay seperti otak dengan kecerdasan buatan, di mana tidak ada data yang disimpan. Seperti halnya otak manusia, jaringan artificial mengambil apa yang telah dilihat sebelumnya untuk menghasilkan representasi tingkat tinggi.
Metode ini sangat efisien, bahkan dengan hanya beberapa representasi yang dihasilkan kembali, memori yang lebih lama dapat diingat kembali saat mempelajari yang baru. Replay generatif efektif mencegah lupa bencana, dan salah satu keuntungan besar adalah memungkinkan sistem untuk menggeneralisasi dari satu situasi ke situasi lain.
Menurut van de Ven, “Jika jaringan kami dengan replay generatif pertama kali mempelajari untuk memisahkan kucing dari anjing, dan kemudian memisahkan beruang dari rubah, maka ia juga dapat membedakan kucing dari rubah tanpa secara khusus dilatih untuk melakukannya. Dan yang menonjol, semakin sistem mempelajari, semakin baik ia menjadi dalam mempelajari tugas baru.”
“Kami mengusulkan varian baru, terinspirasi otak, dari replay di mana representasi internal atau tersembunyi yang dihasilkan oleh koneksi umpan balik jaringan itu sendiri dimainkan kembali,” tulis tim. “Metode kami mencapai kinerja terbaik pada pengujian pembelajaran berkelanjutan yang menantang tanpa menyimpan data, dan menyediakan model baru untuk replay abstrak di otak.”
“Metode kami membuat beberapa prediksi menarik tentang bagaimana replay mungkin berkontribusi pada konsolidasi memori di otak,” Van de Ven melanjutkan. “Kami sudah menjalankan eksperimen untuk menguji beberapa prediksi ini.”












