AI Belajar dari AI: Munculnya Pembelajaran Sosial di Antara Model Bahasa Besar

Sejak OpenAI diluncurkan ObrolanGPT 3.5 pada akhir tahun 2022, peran fundamental model bahasa besar (LLM) menjadi semakin menonjol dalam kecerdasan buatan (AI), khususnya di bidang teknologi pemrosesan bahasa alami (NLP). LLM ini, dirancang untuk memproses dan menghasilkan teks mirip manusia, belajar dari beragam teks dari internet, mulai dari buku hingga situs web. Proses pembelajaran ini memungkinkan mereka untuk menangkap esensi bahasa manusia yang membuat LLM tampak seperti pemecah masalah untuk tujuan umum.

Meskipun pengembangan LLM telah membuka pintu baru, metode mengadaptasi model ini untuk aplikasi spesifik—dikenal sebagai mencari setelan—membawa tantangan tersendiri. Penyempurnaan model memerlukan pelatihan tambahan pada kumpulan data yang lebih fokus, yang dapat menimbulkan kesulitan seperti persyaratan untuk data berlabel, risiko model melayang dan terlalu pas, dan kebutuhan akan sumber daya yang signifikan.

Untuk mengatasi tantangan ini, peneliti dari Google baru-baru ini mengadopsi gagasan 'spembelajaran osial' untuk membantu AI belajar dari AI. Ide utamanya adalah, ketika LLM diubah menjadi chatbot, mereka dapat berinteraksi dan belajar satu sama lain dengan cara yang mirip dengan pembelajaran sosial manusia. Interaksi ini memungkinkan mereka untuk belajar satu sama lain, sehingga meningkatkan efektivitasnya.

Apa itu Pembelajaran Sosial?

Pembelajaran sosial bukanlah ide baru. Hal ini didasarkan pada teori dari tahun 1970an oleh Albert Bandura, yang menunjukkan bahwa orang belajar dari mengamati orang lain. Konsep yang diterapkan pada AI ini berarti bahwa sistem AI dapat berkembang dengan berinteraksi satu sama lain, belajar tidak hanya dari pengalaman langsung tetapi juga dari tindakan rekan-rekan. Metode ini menjanjikan perolehan keterampilan yang lebih cepat dan bahkan memungkinkan sistem AI mengembangkan “budaya” mereka sendiri dengan berbagi pengetahuan.

Berbeda dengan metode pembelajaran AI lainnya, seperti trial-and-error penguatan pembelajaran or pembelajaran imitasi dari contoh langsung, pembelajaran sosial menekankan pembelajaran melalui interaksi. Ini menawarkan cara yang lebih praktis dan komunal bagi AI untuk mempelajari keterampilan baru.

Pembelajaran Sosial di LLM

Aspek penting dari pembelajaran sosial adalah pertukaran pengetahuan tanpa berbagi informasi asli dan sensitif. Dengan demikian, peneliti telah menerapkan dinamika guru-siswa di mana model guru memfasilitasi proses pembelajaran untuk model siswa tanpa mengungkapkan rincian rahasia apa pun. Untuk mencapai tujuan ini, model guru menghasilkan contoh sintetik atau arahan yang dapat digunakan oleh model siswa untuk belajar tanpa membagikan data sebenarnya. Misalnya, pertimbangkan model guru yang dilatih untuk membedakan pesan teks spam dan non-spam menggunakan data yang ditandai oleh pengguna. Jika kita ingin model lain menguasai tugas ini tanpa menyentuh data pribadi asli, maka pembelajaran sosial akan berperan. Model pengajar akan membuat contoh sintetik atau memberikan wawasan berdasarkan pengetahuannya, sehingga memungkinkan model siswa mengidentifikasi pesan spam secara akurat tanpa paparan langsung ke data sensitif. Strategi ini tidak hanya meningkatkan efisiensi pembelajaran tetapi juga menunjukkan potensi LLM untuk belajar dengan cara yang dinamis dan mudah beradaptasi, sehingga berpotensi membangun budaya pengetahuan kolektif. Ciri penting dari pendekatan ini adalah ketergantungannya pada contoh sintetik dan instruksi yang dibuat. Dengan menghasilkan contoh baru dan informatif yang berbeda dari kumpulan data asli, model pengajar dapat menjaga privasi sambil tetap memandu model siswa menuju pembelajaran yang efektif. Pendekatan ini efektif karena mencapai hasil yang setara dengan hasil yang diperoleh dengan menggunakan data sebenarnya.

Bagaimana Pembelajaran Sosial Mengatasi Tantangan Penyempurnaan?

Pembelajaran sosial menawarkan cara baru untuk menyempurnakan LLM untuk tugas-tugas tertentu. Ini membantu mengatasi tantangan penyesuaian dengan cara berikut:

1. Lebih Sedikit Kebutuhan akan Data Berlabel: Dengan belajar dari contoh sintetik yang dibagikan antar model, pembelajaran sosial mengurangi ketergantungan pada data berlabel yang sulit didapat.
2. Menghindari Spesialisasi Berlebihan: Hal ini membuat model tetap serbaguna dengan memaparkannya pada contoh yang lebih luas dibandingkan model dalam kumpulan data kecil dan spesifik.
3. Mengurangi Overfitting: Pembelajaran sosial memperluas pengalaman belajar, membantu model untuk menggeneralisasi dengan lebih baik dan menghindari overfitting.
4. Menghemat Sumber Daya: Pendekatan ini memungkinkan penggunaan sumber daya yang lebih efisien, karena model belajar dari pengalaman satu sama lain tanpa memerlukan akses langsung ke kumpulan data besar.

Arah Masa Depan

Potensi pembelajaran sosial di LLM menunjukkan berbagai cara yang menarik dan bermakna untuk penelitian AI di masa depan:

1. Budaya AI Hibrid: Saat LLM berpartisipasi dalam pembelajaran sosial, mereka mungkin mulai membentuk metodologi umum. Penelitian dapat dilakukan untuk menyelidiki dampak dari “budaya” AI yang muncul ini, dengan memeriksa pengaruhnya terhadap interaksi manusia dan masalah etika yang terlibat.
2. Pembelajaran Lintas Modalitas: Memperluas pembelajaran sosial di luar teks untuk menyertakan gambar, suara, dan lainnya dapat menghasilkan sistem AI dengan pemahaman yang lebih kaya tentang dunia, seperti cara manusia belajar melalui berbagai indera.
3. Pembelajaran Terdesentralisasi: Ide model AI yang saling belajar melalui jaringan terdesentralisasi menghadirkan cara baru untuk meningkatkan berbagi pengetahuan. Hal ini memerlukan penanganan tantangan signifikan dalam koordinasi, privasi, dan keamanan.
4. Interaksi Manusia-AI: Terdapat potensi untuk mengeksplorasi bagaimana manusia dan AI dapat saling memperoleh manfaat dari pembelajaran sosial, terutama dalam lingkungan pendidikan dan kolaboratif. Hal ini dapat mendefinisikan kembali bagaimana transfer pengetahuan dan inovasi terjadi.
5. Pengembangan AI Etis: Mengajarkan AI untuk mengatasi dilema etika melalui pembelajaran sosial dapat menjadi langkah menuju AI yang lebih bertanggung jawab. Fokusnya adalah pada pengembangan sistem AI yang dapat berpikir secara etis dan selaras dengan nilai-nilai masyarakat.
6. Sistem Peningkatan Diri: Ekosistem tempat model AI terus belajar dan meningkatkan pengalaman satu sama lain dapat mempercepat inovasi AI. Hal ini menunjukkan masa depan di mana AI dapat beradaptasi terhadap tantangan baru secara lebih mandiri.
7. Privasi dalam Pembelajaran: Dengan model AI yang berbagi pengetahuan, memastikan privasi data yang mendasarinya sangatlah penting. Upaya di masa depan mungkin akan mengeksplorasi metode yang lebih canggih untuk memungkinkan transfer pengetahuan tanpa mengorbankan keamanan data.

The Bottom Line

Peneliti Google telah memelopori pendekatan inovatif yang disebut pembelajaran sosial di antara Model Bahasa Besar (LLM), yang terinspirasi oleh kemampuan manusia untuk belajar dari mengamati orang lain. Kerangka kerja ini memungkinkan LLM untuk berbagi pengetahuan dan meningkatkan kemampuan tanpa mengakses atau mengekspos data sensitif. Dengan menghasilkan contoh dan instruksi sintetik, LLM dapat belajar secara efektif, mengatasi tantangan utama dalam pengembangan AI seperti kebutuhan akan data berlabel, spesialisasi berlebihan, penyesuaian berlebihan, dan konsumsi sumber daya. Pembelajaran sosial tidak hanya meningkatkan efisiensi dan kemampuan beradaptasi AI tetapi juga membuka kemungkinan bagi AI untuk mengembangkan “budaya” bersama, terlibat dalam pembelajaran lintas modalitas, berpartisipasi dalam jaringan terdesentralisasi, berinteraksi dengan manusia dengan cara baru, mengatasi dilema etika, dan memastikan privasi. Hal ini menandai perubahan signifikan menuju sistem AI yang lebih kolaboratif, serbaguna, dan etis, yang menjanjikan untuk mendefinisikan kembali lanskap penelitian dan penerapan kecerdasan buatan.