Sistem AI Mungkin Lebih Memilih Bahasa Manusia Daripada Data Numerik

Penelitian baru dari Columbia Engineering menunjukkan bahwa sistem kecerdasan buatan (AI) lebih memilih bahasa manusia daripada data numerik seperti 1 dan 0. Penelitian baru ini berasal dari Profesor Teknik Mesin Hod Lipson dan mahasiswa PhD Boyuan Chen, dan menunjukkan bahwa sistem AI dapat mencapai tingkat kinerja yang lebih tinggi jika diprogram dengan file suara bahasa manusia.

Dalam perbandingan samping, para peneliti menemukan bahwa jaringan saraf yang dilatih dengan file suara mencapai tingkat kinerja yang lebih tinggi dalam mengidentifikasi objek, dibandingkan dengan jaringan lain yang diprogram dengan input biner sederhana.

Lipson adalah Profesor James dan Sally Scapa untuk Inovasi dan anggota Institut Sains Data Columbia.

“Untuk memahami mengapa temuan ini signifikan, berguna untuk memahami bagaimana jaringan saraf biasanya diprogram, dan mengapa menggunakan suara bahasa manusia adalah eksperimen radikal,” katanya.

Menggunakan angka biner adalah kompak dan presisi, sedangkan bahasa manusia lebih kompleks dan non-biner ketika ditangkap dalam file digital. Pengembang biasanya tidak menyimpang dari angka ketika mengembangkan jaringan saraf karena sangat efisien.

Tim ini memulai penelitian ini setelah berpikir bahwa jaringan saraf tidak mencapai potensi penuh mereka, dan mereka percaya bahwa mereka dapat lebih cepat dan lebih baik jika dilatih dengan suara manusia dan kata-kata tertentu.

Melatih Jaringan

Ketika menguji teknik pembelajaran mesin baru, peneliti AI sering melatih jaringan saraf untuk mengenali objek dan hewan tertentu dalam koleksi foto.

Tim, yang termasuk Chen, Lipson, Yu Li, dan Susan Raghupathi, mengatur eksperimen yang dikontrol untuk menguji hipotesis mereka, dan mereka membuat dua jaringan saraf baru. Mereka berusaha untuk melatih mereka untuk mengenali 10 jenis objek yang berbeda di antara 50.000 foto yang disebut “gambar pelatihan.”

Salah satu sistem AI dilatih dengan cara yang lebih tradisional dengan nilai numerik, sedangkan jaringan saraf eksperimental dilatih dengan cara yang sangat berbeda. Ini diberi tabel data dengan baris yang berisi foto hewan atau objek, dan kolom kedua memiliki file audio suara manusia, yang mengucapkan kata untuk hewan atau objek. Tidak ada 1 dan 0 yang terlibat dengan jaringan eksperimental.

Kedua sistem AI dilatih selama total 15 jam. Hasilnya menunjukkan bahwa jaringan asli menjawab dengan serangkaian 1 dan 0, sedangkan jaringan saraf eksperimental menghasilkan suara yang jelas berusaha untuk “mengatakan” apa objek dalam gambar itu. Sementara suara asli tidak dapat dipahami, akhirnya mencapai titik di mana sebagian besar benar.

Kedua jaringan memiliki kinerja yang sama, mengidentifikasi hewan atau objek dengan benar 92% dari waktu. Peneliti kemudian memutuskan untuk menjalankan eksperimen untuk kedua kalinya, tetapi kali ini mereka menggunakan lebih sedikit foto selama proses.

Jaringan tradisional memiliki kinerja yang buruk karena data yang langka, seperti yang diharapkan, menurun menjadi sekitar 35% akurasi. Namun, jaringan eksperimental melakukan dua kali lebih baik, dengan akurasi 70%, meskipun memiliki data yang lebih sedikit.

https://www.youtube.com/watch?v=Iq2YjHCAPRQ

Hasil yang Mengherankan

Kali berikutnya, tim menggunakan gambar yang lebih sulit, seperti gambar hewan yang rusak. Bahkan dengan gambar yang lebih sulit, jaringan saraf yang dilatih dengan suara mencapai akurasi sekitar 50% dari waktu, sedangkan jaringan tradisional hanya 20% akurat.

Boyuan Chen adalah peneliti utama dalam penelitian ini.

“Temuan kami langsung bertentangan dengan bagaimana banyak ahli telah dilatih untuk berpikir tentang komputer dan angka; ini adalah asumsi umum bahwa input biner adalah cara yang lebih efisien untuk mengirimkan informasi ke mesin daripada aliran audio dari informasi yang sama ‘kaya’,” jelas Chen. “Sebenarnya, ketika kami mengirimkan penelitian ini ke konferensi AI besar, satu peninjau anonim menolak makalah kami hanya karena mereka merasa hasil kami terlalu ‘mengherankan dan tidak intuitif.”

“Jika Anda memikirkan fakta bahwa bahasa manusia telah melewati proses optimasi selama puluhan ribu tahun, maka masuk akal bahwa kata-kata yang diucapkan telah menemukan keseimbangan yang baik antara noise dan sinyal,” kata Lipson. “Oleh karena itu, ketika dilihat dari perspektif Entropi Shannon, masuk akal bahwa jaringan saraf yang dilatih dengan bahasa manusia akan mengungguli jaringan saraf yang dilatih dengan 1 dan 0 sederhana.”

Penelitian ini akan disajikan pada Konferensi Internasional tentang Pembelajaran Representasi pada 3 Mei 2021.

“Kita harus memikirkan menggunakan cara yang baru dan lebih baik untuk melatih sistem AI daripada mengumpulkan dataset yang lebih besar,” kata Chen. “Jika kita memikirkan kembali bagaimana kita menyajikan data pelatihan ke mesin, kita bisa melakukan pekerjaan yang lebih baik sebagai guru.”

“Salah satu misteri terbesar evolusi manusia adalah bagaimana leluhur kita memperoleh bahasa, dan bagaimana anak-anak belajar berbicara dengan sangat mudah,” tambah Lipson. “Jika balita manusia belajar dengan instruksi berbicara yang berulang, maka mungkin sistem AI juga bisa.”