AI Belajar dari AI: Munculnya Pembelajaran Sosial di Antara Model Bahasa Besar

Sejak OpenAI meluncurkan ChatGPT 3.5 pada akhir 2022, peran model bahasa besar (LLM) telah menjadi semakin menonjol dalam kecerdasan buatan (AI), terutama dalam pengolahan bahasa alami (NLP). LLM ini, yang dirancang untuk memproses dan menghasilkan teks seperti manusia, belajar dari berbagai teks dari internet, mulai dari buku hingga situs web. Proses pembelajaran ini memungkinkan mereka untuk menangkap esensi bahasa manusia, membuat LLM tampak seperti pemecah masalah umum.

Sementara pengembangan LLM telah membuka pintu baru, metode penyesuaian model ini untuk aplikasi spesifik – yang dikenal sebagai fine-tuning – membawa tantangan tersendiri. Fine-tuning model memerlukan pelatihan tambahan pada dataset yang lebih fokus, yang dapat menyebabkan kesulitan seperti kebutuhan akan data yang dilabeli, risiko model drift dan overfitting, serta kebutuhan akan sumber daya yang signifikan.

Dalam mengatasi tantangan ini, peneliti dari Google (GOOGL ) baru-baru ini mengadopsi gagasan ‘pembelajaran sosial’ untuk membantu AI belajar dari AI. Ide utamanya adalah bahwa ketika LLM diubah menjadi chatbot, mereka dapat berinteraksi dan belajar dari satu sama lain dengan cara yang mirip dengan pembelajaran sosial manusia. Interaksi ini memungkinkan mereka untuk belajar dari satu sama lain, sehingga meningkatkan efektivitasnya.

Apa itu Pembelajaran Sosial?

Pembelajaran sosial bukanlah gagasan baru. Ini didasarkan pada teori dari tahun 1970-an oleh Albert Bandura, yang menyatakan bahwa orang belajar dari mengamati orang lain. Konsep ini diterapkan pada AI berarti bahwa sistem AI dapat ditingkatkan dengan berinteraksi satu sama lain, belajar tidak hanya dari pengalaman langsung tetapi juga dari tindakan rekan. Metode ini menjanjikan akuisisi keterampilan yang lebih cepat dan bahkan memungkinkan sistem AI untuk mengembangkan “budaya” mereka sendiri dengan berbagi pengetahuan.

Tidak seperti metode pembelajaran AI lainnya, seperti pembelajaran reinforcement learning atau imitation learning dari contoh langsung, pembelajaran sosial menekankan pembelajaran melalui interaksi. Ini menawarkan cara yang lebih praktis dan komunal bagi AI untuk memperoleh keterampilan baru.

Pembelajaran Sosial dalam LLM

Aspek penting dari pembelajaran sosial adalah pertukaran pengetahuan tanpa berbagi informasi asli dan sensitif. Oleh karena itu, peneliti telah menggunakan dinamika guru-murid di mana model guru memfasilitasi proses pembelajaran untuk model murid tanpa mengungkapkan detail rahasia. Untuk mencapai tujuan ini, model guru menghasilkan contoh sintetis atau instruksi yang dapat dipelajari oleh model murid tanpa berbagi data asli. Misalnya, pertimbangkan model guru yang dilatih untuk membedakan antara teks spam dan non-spam menggunakan data yang ditandai oleh pengguna. Jika kita ingin model lain untuk menguasai tugas ini tanpa menyentuh data asli yang sensitif, pembelajaran sosial berperan. Model guru akan membuat contoh sintetis atau memberikan wawasan berdasarkan pengetahuannya, memungkinkan model murid untuk mengidentifikasi teks spam dengan akurat tanpa paparan langsung pada data sensitif. Strategi ini tidak hanya meningkatkan efisiensi pembelajaran tetapi juga menunjukkan potensi LLM untuk belajar dalam cara yang dinamis dan adaptif, potensial membangun budaya pengetahuan kolektif. Fitur penting dari pendekatan ini adalah ketergantungannya pada contoh sintetis dan instruksi yang dirancang. Dengan menghasilkan contoh baru dan informatif yang berbeda dari dataset asli, model guru dapat menjaga privasi sambil memandu model murid menuju pembelajaran yang efektif. Pendekatan ini telah terbukti efektif, mencapai hasil yang setara dengan yang diperoleh menggunakan data asli.

Bagaimana Pembelajaran Sosial Mengatasi Tantangan Fine-tuning?

Pembelajaran sosial menawarkan cara baru untuk memperbaiki LLM untuk tugas spesifik. Ini membantu mengatasi tantangan fine-tuning dengan cara-cara berikut:

1. Kurang Memerlukan Data yang Dilabeli: Dengan belajar dari contoh sintetis yang dibagikan antara model, pembelajaran sosial mengurangi ketergantungan pada data yang dilabeli yang sulit diperoleh.
2. Menghindari Spesialisasi Berlebihan: Ini menjaga model tetap serbaguna dengan memaparkan mereka pada berbagai contoh yang lebih luas daripada yang ada dalam dataset kecil dan spesifik.
3. Mengurangi Overfitting: Pembelajaran sosial memperluas pengalaman belajar, membantu model untuk menggeneralisasi lebih baik dan menghindari overfitting.
4. Menghemat Sumber Daya: Pendekatan ini memungkinkan penggunaan sumber daya yang lebih efisien, karena model belajar dari pengalaman satu sama lain tanpa memerlukan akses langsung ke dataset besar.

Arah Masa Depan

Potensi pembelajaran sosial dalam LLM menunjukkan berbagai cara menarik dan bermakna untuk penelitian AI di masa depan:

1. Budaya AI Hibrida: Ketika LLM berpartisipasi dalam pembelajaran sosial, mereka mungkin mulai membentuk metodologi umum. Studi dapat dilakukan untuk menyelidiki efek dari “budaya” AI yang muncul ini, memeriksa pengaruhnya terhadap interaksi manusia dan isu etika yang terkait.
2. Pembelajaran Cross-Modality: Membawa pembelajaran sosial melampaui teks untuk mencakup gambar, suara, dan lebih, dapat mengarah pada sistem AI dengan pemahaman dunia yang lebih kaya, mirip dengan bagaimana manusia belajar melalui banyak indera.
3. Pembelajaran Terdesentralisasi: Gagasan model AI belajar dari satu sama lain melintasi jaringan terdesentralisasi menyajikan cara baru untuk meningkatkan skala berbagi pengetahuan. Ini akan memerlukan penanganan tantangan signifikan dalam koordinasi, privasi, dan keamanan.
4. Interaksi Manusia-AI: Ada potensi dalam menjelajahi bagaimana manusia dan AI dapat saling menguntungkan dari pembelajaran sosial, terutama dalam pengaturan pendidikan dan kolaboratif. Ini dapat meredefinisi bagaimana transfer pengetahuan dan inovasi terjadi.
5. Pengembangan AI Etis: Mengajarkan AI untuk menangani dilema etis melalui pembelajaran sosial dapat menjadi langkah menuju AI yang lebih bertanggung jawab. Fokusnya akan pada mengembangkan sistem AI yang dapat bernalar secara etis dan selaras dengan nilai-nilai masyarakat.
6. Sistem yang Meningkatkan Diri: Ekosistem di mana model AI terus belajar dan meningkatkan dari pengalaman satu sama lain dapat mempercepat inovasi AI. Ini menunjukkan masa depan di mana AI dapat beradaptasi dengan tantangan baru lebih otonom.
7. Privasi dalam Pembelajaran: Dengan model AI berbagi pengetahuan, memastikan privasi data yang mendasarinya sangat penting. Upaya di masa depan mungkin menjelajahi metode yang lebih canggih untuk memungkinkan transfer pengetahuan tanpa mengorbankan keamanan data.

Ringkasan

Peneliti Google telah mempelopori pendekatan inovatif yang disebut pembelajaran sosial di antara Model Bahasa Besar (LLM), terinspirasi oleh kemampuan manusia untuk belajar dari mengamati orang lain. Kerangka ini memungkinkan LLM untuk berbagi pengetahuan dan meningkatkan kemampuan tanpa mengakses atau mengungkapkan data sensitif. Dengan menghasilkan contoh sintetis dan instruksi, LLM dapat belajar secara efektif, mengatasi tantangan kunci dalam pengembangan AI seperti kebutuhan akan data yang dilabeli, spesialisasi berlebihan, overfitting, dan konsumsi sumber daya. Pembelajaran sosial tidak hanya meningkatkan efisiensi dan adaptabilitas AI tetapi juga membuka kemungkinan bagi AI untuk mengembangkan “budaya” bersama, terlibat dalam pembelajaran cross-modality, berpartisipasi dalam jaringan terdesentralisasi, berinteraksi dengan manusia dalam cara baru, menavigasi dilema etis, dan memastikan privasi. Ini menandai pergeseran signifikan menuju sistem AI yang lebih kolaboratif, serbaguna, dan etis, yang berjanji untuk meredefinisi lanskap penelitian dan aplikasi kecerdasan buatan.