Facebook Membuat Chatbot Open-Domain yang Terdengar Alami Dilatih Pada 1,5 Miliar Postingan Reddit

Facebook baru-baru ini meluncurkan chatbot open-domain yang diberi nama “Blender”. Seperti yang dilaporkan oleh BBC, Blender dari Facebook adalah chatbot open-domain terbesar yang pernah dibuat oleh perusahaan, dan menurut perusahaan, chatbot ini dapat menunjukkan empati, kepribadian, dan pengetahuan, mengungguli dan terasa lebih manusiawi daripada chatbot lainnya. Blender tersedia untuk digunakan dalam tiga varian yang berbeda, masing-masing dengan tingkat kompleksitas dan kecanggihan model yang berbeda. Ada model neural dengan 90 juta parameter, model dengan 2,7 miliar parameter, dan model dengan 9,4 miliar parameter. Model dengan 9,4 miliar parameter sekitar 3,6 kali lebih besar daripada chatbot terbesar yang ada saat ini.

Facebook mengklaim bahwa Blender adalah chatbot open-domain pertama yang tersedia secara luas yang menggabungkan berbagai keterampilan konversasi yang kompleks seperti pengetahuan dan empati. Chatbot Blender dapat membahas berbagai topik dan melakukan percakapan yang dapat dilacak hingga 14 “putaran” percakapan. Dilaporkan, sekitar 49% orang yang berinteraksi dengan chatbot lebih memilih untuk berinteraksi dengan bot tersebut daripada dengan manusia.

Blender dilatih menggunakan data yang dikumpulkan dari percakapan domain publik yang dikumpulkan dari situs media sosial seperti Reddit. Dataset yang digunakan untuk melatih Blender mencakup sekitar 1,5 miliar contoh percakapan. Meskipun data pelatihan dan kecanggihan model memungkinkan chatbot untuk melakukan diskusi yang kompleks dan memiliki nuansa yang lebih alami dan manusiawi, ada beberapa masalah yang muncul sebagai hasil dari teknik pelatihan ini. Menurut peneliti, Blender kadang-kadang merespons prompt percakapan dengan agresif atau dengan bahasa yang ofensif. Selain itu, chatbot kadang-kadang merespons dengan kebohongan dan fakta yang dibuat-buat. Tim peneliti optimis bahwa revisi model akan menangani masalah-masalah ini, tetapi mereka ingin merilis model tersebut terlebih dahulu.

Menurut juru bicara Facebook, seperti yang dikutip oleh BBC, “merilis model adalah penting untuk memungkinkan wawasan yang lengkap dan dapat diandalkan tentang kemampuan mereka.”

Peneliti Facebook masih harus mengatasi dua tantangan besar untuk berhasil, menurut kepala eksekutif konsultan kecerdasan buatan The Envisioners, Dave Choplin. Seperti yang dikutip oleh BBC, Choplin percaya bahwa peneliti akan menghadapi tantangan besar dalam mereplikasi banyak nuansa percakapan yang sering dianggap remeh oleh manusia dan bahwa data yang digunakan untuk melatih model dapat menghambatnya dengan cara yang sulit diatasi oleh peneliti Facebook.

“Sebagai platform yang hebat, Reddit adalah, melatih algoritma berdasarkan percakapan yang Anda temukan di sana akan mendapatkan banyak sampah di antara gandum,” kata Choplin.

Facebook membuat perbandingan antara chatbot Blender-nya dan chatbot kontemporer Google yang diberi nama Meena. Posting blog Facebook menampilkan perbandingan antara Meena dan Blender, dan menurut data Facebook, sekitar 75% responden yang telah melakukan percakapan dengan Blender mengatakan bahwa mereka lebih suka melakukan percakapan yang lebih panjang dengan Blender daripada Meena. Selain itu, sekitar 67% responden menyatakan bahwa Blender lebih alami dan manusiawi daripada Meena dalam percakapan yang panjang.

Di masa depan, tim peneliti Facebook ingin meningkatkan kemampuan percakapan model, merancang model yang dapat mendukung percakapan yang lebih panjang dengan bantuan fungsi kerugian dan arsitektur baru. Selain itu, peneliti bertujuan untuk menangani bias gender dan bahasa yang berpotensi berbahaya dengan membangun klasifikasi yang lebih baik dan data pelatihan yang lebih representatif.