AI Belajar dari AI: Munculnya Pembelajaran Sosial di Antara Model Bahasa Besar

Sejak OpenAI memperkenalkan ChatGPT 3.5 pada akhir 2022, peran model bahasa besar (LLM) telah menjadi semakin menonjol dalam kecerdasan buatan (AI), terutama dalam pemrosesan bahasa alami (NLP). LLM ini, yang dirancang untuk memproses dan menghasilkan teks seperti manusia, belajar dari berbagai teks dari internet, mulai dari buku hingga situs web. Proses pembelajaran ini memungkinkan mereka untuk menangkap esensi bahasa manusia, membuat LLM tampak seperti pemecah masalah umum.

Sementara pengembangan LLM telah membuka pintu baru, metode penyesuaian model ini untuk aplikasi tertentu—dikenal sebagai fine-tuning—membawa tantangan tersendiri. Fine-tuning model memerlukan pelatihan tambahan pada dataset yang lebih fokus, yang dapat menyebabkan kesulitan seperti kebutuhan akan data yang dilabeli, risiko model drift dan overfitting, serta kebutuhan akan sumber daya yang signifikan.

Untuk mengatasi tantangan ini, peneliti dari Google baru-baru ini mengadopsi gagasan ‘pembelajaran sosial’ untuk membantu AI belajar dari AI. Ide utama adalah bahwa, ketika LLM diubah menjadi chatbot, mereka dapat berinteraksi dan belajar dari satu sama lain dengan cara yang mirip dengan pembelajaran sosial manusia. Interaksi ini memungkinkan mereka untuk belajar dari satu sama lain, sehingga meningkatkan efektivitasnya.

Apa itu Pembelajaran Sosial?

Pembelajaran sosial bukanlah gagasan baru. Ini didasarkan pada teori dari tahun 1970-an oleh Albert Bandura, yang menyatakan bahwa orang belajar dari mengamati orang lain. Konsep ini diterapkan pada AI berarti bahwa sistem AI dapat ditingkatkan dengan berinteraksi satu sama lain, belajar tidak hanya dari pengalaman langsung tetapi juga dari tindakan rekan. Metode ini menjanjikan akuisisi keterampilan yang lebih cepat dan bahkan memungkinkan sistem AI untuk mengembangkan “budaya” mereka sendiri dengan berbagi pengetahuan.

Tidak seperti metode pembelajaran AI lainnya, seperti pembelajaran reinforcement learning atau imitation learning dari contoh langsung, pembelajaran sosial menekankan belajar melalui interaksi. Ini menawarkan cara yang lebih hands-on dan komunal bagi AI untuk mempelajari keterampilan baru.

Pembelajaran Sosial pada LLM

Aspek penting dari pembelajaran sosial adalah bertukar pengetahuan tanpa berbagi informasi asli dan sensitif. Oleh karena itu, peneliti telah menggunakan dinamika guru-murid di mana model guru memfasilitasi proses pembelajaran untuk model murid tanpa mengungkapkan detail sensitif. Untuk mencapai tujuan ini, model guru menghasilkan contoh sintetis atau arahan dari mana model murid dapat belajar tanpa berbagi data asli. Misalnya, pertimbangkan model guru yang dilatih untuk membedakan antara teks spam dan non-spam menggunakan data yang ditandai oleh pengguna. Jika kita ingin model lain untuk menguasai tugas ini tanpa menyentuh data asli yang sensitif, pembelajaran sosial berperan. Model guru akan membuat contoh sintetis atau memberikan wawasan berdasarkan pengetahuannya, memungkinkan model murid untuk mengidentifikasi pesan spam dengan akurat tanpa paparan langsung ke data sensitif. Strategi ini tidak hanya meningkatkan efisiensi pembelajaran tetapi juga menunjukkan potensi LLM untuk belajar dalam cara yang dinamis dan adaptif, potensial membangun budaya pengetahuan kolektif. Fitur vital dari pendekatan ini adalah ketergantungannya pada contoh sintetis dan instruksi yang dirancang. Dengan menghasilkan contoh baru dan informatif yang berbeda dari dataset asli, model guru dapat melestarikan privasi sambil membimbing model murid menuju pembelajaran yang efektif. Pendekatan ini telah terbukti efektif, mencapai hasil sebanding dengan yang diperoleh menggunakan data asli.

Bagaimana Pembelajaran Sosial Mengatasi Tantangan Fine-tuning?

Pembelajaran sosial menawarkan cara baru untuk memperhalus LLM untuk tugas tertentu. Ini membantu mengatasi tantangan fine-tuning dengan cara berikut:

1. Kurang Memerlukan Data yang Dilabeli: Dengan belajar dari contoh sintetis yang dibagikan antara model, pembelajaran sosial mengurangi ketergantungan pada data yang dilabeli yang sulit diperoleh.
2. Menghindari Spesialisasi Berlebihan: Ini menjaga model tetap serbaguna dengan memaparkan mereka pada berbagai contoh yang lebih luas daripada yang ada dalam dataset kecil dan spesifik.
3. Mengurangi Overfitting: Pembelajaran sosial memperluas pengalaman pembelajaran, membantu model untuk menggeneralisasi lebih baik dan menghindari overfitting.
4. Menghemat Sumber Daya: Pendekatan ini memungkinkan penggunaan sumber daya yang lebih efisien, karena model belajar dari pengalaman satu sama lain tanpa memerlukan akses langsung ke dataset besar.

Arah Masa Depan

Potensi pembelajaran sosial dalam LLM menunjukkan berbagai cara menarik dan bermakna untuk penelitian AI di masa depan:

1. Budaya AI Hibrida: Ketika LLM berpartisipasi dalam pembelajaran sosial, mereka mungkin mulai membentuk metodologi umum. Studi dapat dilakukan untuk menyelidiki efek dari “budaya” AI yang muncul ini, memeriksa pengaruhnya terhadap interaksi manusia dan masalah etika yang terkait.
2. Pembelajaran Cross-Modality: Membuat pembelajaran sosial meluas di luar teks untuk mencakup gambar, suara, dan lebih, dapat mengarah pada sistem AI dengan pemahaman yang lebih kaya tentang dunia, mirip dengan bagaimana manusia belajar melalui banyak indera.
3. Pembelajaran Desentralisasi: Gagasan model AI belajar dari satu sama lain di seluruh jaringan desentralisasi menyajikan cara baru untuk memperluas berbagi pengetahuan. Ini akan memerlukan penanganan tantangan signifikan dalam koordinasi, privasi, dan keamanan.
4. Interaksi Manusia-AI: Ada potensi dalam menjelajahi bagaimana manusia dan AI dapat saling menguntungkan dari pembelajaran sosial, terutama dalam pengaturan pendidikan dan kolaboratif. Ini bisa mengubah cara transfer pengetahuan dan inovasi terjadi.
5. Pengembangan AI yang Bertanggung Jawab: Mengajarkan AI untuk menangani dilema etika melalui pembelajaran sosial bisa menjadi langkah menuju AI yang lebih bertanggung jawab. Fokusnya akan pada mengembangkan sistem AI yang dapat bernalar secara etis dan selaras dengan nilai-nilai masyarakat.
6. Sistem yang Meningkatkan Diri Sendiri: Ekosistem di mana model AI terus belajar dan meningkatkan dari pengalaman satu sama lain bisa mempercepat inovasi AI. Ini menunjukkan masa depan di mana AI dapat beradaptasi dengan tantangan baru lebih otonom.
7. Privasi dalam Pembelajaran: Dengan model AI berbagi pengetahuan, memastikan privasi data yang mendasarinya sangat penting. Upaya di masa depan mungkin menjelajahi metode yang lebih canggih untuk memungkinkan transfer pengetahuan tanpa mengorbankan keamanan data.

Intinya

Peneliti Google telah mempelopori pendekatan inovatif yang disebut pembelajaran sosial di antara Model Bahasa Besar (LLM), terinspirasi oleh kemampuan manusia untuk belajar dari mengamati orang lain. Kerangka ini memungkinkan LLM untuk berbagi pengetahuan dan meningkatkan kemampuan tanpa mengakses atau mengungkapkan data sensitif. Dengan menghasilkan contoh sintetis dan instruksi, LLM dapat belajar secara efektif, mengatasi tantangan utama dalam pengembangan AI seperti kebutuhan akan data yang dilabeli, spesialisasi berlebihan, overfitting, dan konsumsi sumber daya. Pembelajaran sosial tidak hanya meningkatkan efisiensi dan adaptabilitas AI tetapi juga membuka kemungkinan bagi AI untuk mengembangkan “budaya” bersama, terlibat dalam pembelajaran cross-modality, berpartisipasi dalam jaringan desentralisasi, berinteraksi dengan manusia dengan cara baru, menavigasi dilema etika, dan memastikan privasi. Ini menandai pergeseran signifikan menuju sistem AI yang lebih kolaboratif, serbaguna, dan etis, berjanji untuk mendefinisikan kembali lanskap penelitian dan penerapan kecerdasan buatan.