Ulang Tahun Pertama ChatGPT: Membentuk Masa Depan Interaksi AI

Mengingat ulang tahun pertama ChatGPT, jelas bahwa alat ini telah mengubah secara signifikan lanskap AI. Diluncurkan pada akhir 2022, ChatGPT menonjol karena gaya konversasionalnya yang ramah pengguna, membuat interaksi dengan AI terasa lebih seperti berbicara dengan orang daripada mesin. Pendekatan baru ini dengan cepat menarik perhatian publik. Dalam waktu lima hari setelah peluncurannya, ChatGPT telah menarik satu juta pengguna. Pada awal 2023, jumlah ini meningkat menjadi sekitar 100 juta pengguna bulanan, dan pada Oktober, platform ini menarik sekitar 1,7 miliar kunjungan di seluruh dunia. Angka-angka ini berbicara banyak tentang popularitas dan kegunaannya.

Selama setahun terakhir, pengguna telah menemukan berbagai cara kreatif untuk menggunakan ChatGPT, dari tugas sederhana seperti menulis email dan memperbarui resume hingga memulai bisnis yang sukses. Tapi itu tidak hanya tentang bagaimana orang menggunakan itu; teknologinya sendiri telah tumbuh dan diperbarui. Awalnya, ChatGPT adalah layanan gratis yang menawarkan respon teks terperinci. Sekarang, ada ChatGPT Plus, yang termasuk ChatGPT-4. Versi yang diperbarui ini dilatih pada lebih banyak data, memberikan lebih sedikit jawaban yang salah, dan memahami instruksi kompleks dengan lebih baik.

Salah satu pembaruan terbesar adalah bahwa ChatGPT sekarang dapat berinteraksi dalam berbagai cara – itu dapat mendengar, berbicara, dan bahkan memproses gambar. Ini berarti Anda dapat berbicara dengannya melalui aplikasi seluler dan menunjukkan gambar untuk mendapatkan respons. Perubahan ini telah membuka kemungkinan baru bagi AI dan telah mengubah cara orang memandang dan memikirkan peran AI dalam kehidupan kita.

Dari awal sebagai demo teknologi hingga statusnya saat ini sebagai pemain utama di dunia teknologi, perjalanan ChatGPT sangat mengesankan. Awalnya, itu dilihat sebagai cara untuk menguji dan memperbaiki teknologi dengan mendapatkan umpan balik dari publik. Tapi itu dengan cepat menjadi bagian penting dari lanskap AI. Kesuksesan ini menunjukkan seberapa efektifnya untuk memperhalus model bahasa besar (LLM) dengan pembelajaran terawasi dan umpan balik dari manusia. Sebagai hasilnya, ChatGPT dapat menangani berbagai pertanyaan dan tugas.

Perlombaan untuk mengembangkan sistem AI yang paling mampu dan serbaguna telah menghasilkan proliferasi model terbuka dan milik perorangan seperti ChatGPT. Memahami kemampuan umum mereka memerlukan benchmark komprehensif di seluruh spektrum tugas. Bagian ini menjelajahi benchmark ini, memberikan wawasan tentang bagaimana model yang berbeda, termasuk ChatGPT, berdiri dibandingkan dengan yang lain.

Mengevaluasi LLM: Benchmark

1. MT-Bench: Benchmark ini menguji kemampuan percakapan multi-turn dan mengikuti instruksi di delapan domain: penulisan, peran, ekstraksi informasi, penalaran, matematika, pengkodean, pengetahuan STEM, dan humaniora/ilmu sosial. LLM yang lebih kuat seperti GPT-4 digunakan sebagai evaluator.
2. AlpacaEval: Berdasarkan pada set evaluasi AlpacaFarm, evaluator otomatis LLM ini membandingkan model dengan respon dari LLM canggih seperti GPT-4 dan Claude, menghitung tingkat kemenangan model kandidat.
3. Open LLM Leaderboard: Menggunakan Harness Evaluasi Model Bahasa, leaderboard ini mengevaluasi LLM pada tujuh benchmark kunci, termasuk tantangan penalaran dan tes pengetahuan umum, dalam pengaturan zero-shot dan few-shot.
4. BIG-bench: Benchmark kolaboratif ini mencakup lebih dari 200 tugas bahasa baru, meliputi berbagai topik dan bahasa. Ini bertujuan untuk menyelidiki kemampuan LLM dan memprediksi kemampuan masa depan mereka.
5. ChatEval: Kerangka debat multi-agensi yang memungkinkan tim untuk berdiskusi dan mengevaluasi kualitas respon dari model yang berbeda pada pertanyaan terbuka dan tugas generasi bahasa alami tradisional.

Kinerja Komparatif

Dalam hal benchmark umum, LLM terbuka telah menunjukkan kemajuan yang luar biasa. Llama-2-70B, misalnya, mencapai hasil yang mengesankan, terutama setelah diperhalus dengan data instruksi. Varianya, Llama-2-chat-70B, unggul dalam AlpacaEval dengan tingkat kemenangan 92,66%, mengungguli GPT-3.5-turbo. Namun, GPT-4 tetap menjadi pemimpin dengan tingkat kemenangan 95,28%.

Zephyr-7B, model yang lebih kecil, menunjukkan kemampuan yang setara dengan LLM 70B yang lebih besar, terutama dalam AlpacaEval dan MT-Bench. Sementara itu, WizardLM-70B, yang diperhalus dengan berbagai data instruksi, mencetak skor tertinggi di antara LLM terbuka pada MT-Bench. Namun, itu masih tertinggal di belakang GPT-3.5-turbo dan GPT-4.

Entri menarik, GodziLLa2-70B, mencapai skor kompetitif pada Open LLM Leaderboard, menunjukkan potensi model eksperimental yang menggabungkan dataset yang beragam. Serupa, Yi-34B, dikembangkan dari awal, berdiri dengan skor yang setara dengan GPT-3.5-turbo dan hanya sedikit di belakang GPT-4.

UltraLlama, dengan pembaruan data yang beragam dan berkualitas tinggi, sesuai dengan GPT-3.5-turbo dalam benchmark yang diusulkan dan bahkan mengunggulinya dalam bidang pengetahuan dunia dan profesional.

Meningkatkan: Munculnya LLM Raksasa

Model LLM teratas sejak 2020

Tren yang menonjol dalam pengembangan LLM telah menjadi peningkatan ukuran parameter model. Model seperti Gopher, GLaM, LaMDA, MT-NLG, dan PaLM telah mendorong batas, menghasilkan model dengan hingga 540 miliar parameter. Model ini telah menunjukkan kemampuan luar biasa, tetapi sifatnya yang tertutup telah membatasi aplikasi yang lebih luas. Pembatasan ini telah memicu minat dalam mengembangkan LLM terbuka, tren yang sedang berkembang.

Dalam paralel dengan peningkatan ukuran model, peneliti telah menjelajahi strategi alternatif. Sebagai gantinya membuat model yang lebih besar, mereka telah fokus pada perbaikan pra-pelatihan model yang lebih kecil. Contoh termasuk Chinchilla dan UL2, yang telah menunjukkan bahwa lebih tidak selalu lebih baik; strategi yang lebih cerdas dapat menghasilkan hasil yang efisien juga. Selain itu, ada perhatian yang cukup pada penalaan instruksi model bahasa, dengan proyek seperti FLAN, T0, dan Flan-T5 membuat kontribusi signifikan pada area ini.

Katalis ChatGPT

Pengenalan OpenAI ChatGPT menandai titik balik dalam penelitian NLP. Untuk bersaing dengan OpenAI, perusahaan seperti Google (GOOGL ) dan Anthropic meluncurkan model mereka sendiri, Bard dan Claude, masing-masing. Meskipun model ini menunjukkan kinerja yang setara dengan ChatGPT dalam banyak tugas, mereka masih tertinggal di belakang model terbaru dari OpenAI, GPT-4. Kesuksesan model ini sebagian besar dikaitkan dengan pembelajaran penguatan dari umpan balik manusia (RLHF), teknik yang mendapatkan fokus penelitian yang meningkat untuk perbaikan lebih lanjut.

Desas-Desus dan Spekulasi sekitar Q* (Q-Bintang) OpenAI

Laporan terbaru menunjukkan bahwa peneliti di OpenAI mungkin telah mencapai kemajuan signifikan dalam AI dengan pengembangan model baru yang disebut Q* (dibaca Q bintang). Diduga, Q* memiliki kemampuan untuk melakukan matematika tingkat sekolah dasar, prestasi yang telah memicu diskusi di antara ahli tentang potensinya sebagai tonggak menuju kecerdasan buatan umum (AGI). Meskipun OpenAI belum mengomentari laporan ini, kemampuan yang diduga dari Q* telah menghasilkan kegembiraan dan spekulasi yang cukup di media sosial dan di antara penggemar AI.

Pengembangan Q* menarik karena model bahasa yang ada seperti ChatGPT dan GPT-4, meskipun mampu melakukan beberapa tugas matematika, tidak terlalu andal dalam menangani tugas tersebut dengan andal. Tantangan terletak pada kebutuhan model AI untuk tidak hanya mengenali pola, seperti yang mereka lakukan saat ini melalui pembelajaran dalam dan transformer, tetapi juga untuk bernalar dan memahami konsep abstrak. Matematika, sebagai tolak ukur penalaran, memerlukan AI untuk merencanakan dan melaksanakan langkah-langkah multiple, menunjukkan pemahaman yang mendalam tentang konsep abstrak. Kemampuan ini akan menandai lompatan besar dalam kemampuan AI, berpotensi meluas di luar matematika ke tugas kompleks lainnya.

Namun, ahli memperingatkan untuk tidak terlalu bersemangat tentang perkembangan ini. Meskipun sistem AI yang dapat menyelesaikan masalah matematika dengan andal akan menjadi prestasi yang mengesankan, itu tidak secara langsung menandakan datangnya AI supercerdas atau AGI. Penelitian AI saat ini, termasuk upaya oleh OpenAI, telah fokus pada masalah dasar, dengan tingkat keberhasilan yang bervariasi dalam tugas yang lebih kompleks.

Potensi aplikasi kemajuan seperti Q* sangat luas, mulai dari pelatihan pribadi hingga membantu dalam penelitian ilmiah dan teknik. Namun, penting untuk mengelola harapan dan mengakui keterbatasan serta kekhawatiran keamanan yang terkait dengan kemajuan tersebut. Kekhawatiran tentang AI yang membawa risiko eksistensial, kekhawatiran dasar OpenAI, tetap relevan, terutama karena sistem AI mulai berinteraksi lebih dengan dunia nyata.

Gerakan LLM Terbuka

Untuk meningkatkan penelitian LLM terbuka, Meta merilis model Llama, memicu gelombang pengembangan baru berdasarkan Llama. Ini termasuk model yang diperhalus dengan data instruksi, seperti Alpaca, Vicuna, Lima, dan WizardLM. Penelitian juga bercabang ke peningkatan kemampuan agen, penalaran logis, dan pemodelan konteks panjang dalam kerangka Llama.

Selain itu, ada tren yang tumbuh dalam mengembangkan LLM kuat dari awal, dengan proyek seperti MPT, Falcon, XGen, Phi, Baichuan, Mistral, Grok, dan Yi. Upaya ini mencerminkan komitmen untuk mendemokratisasi kemampuan LLM tertutup, membuat alat AI canggih lebih mudah diakses dan efisien.

Dampak ChatGPT dan Model Terbuka pada Kesehatan

Kita melihat masa depan di mana LLM membantu dalam pencatatan klinis, pengisian formulir untuk penggantian, dan mendukung dokter dalam perencanaan diagnosis dan pengobatan. Ini telah menarik perhatian baik raksasa teknologi maupun lembaga kesehatan.

Perbincangan Microsoft dengan Epic (MSFT ), penyedia perangkat lunak catatan kesehatan elektronik terkemuka, menandai integrasi LLM ke dalam kesehatan. Inisiatif sudah berlangsung di UC San Diego Health dan Stanford University Medical Center. Serupa, kemitraan Google dengan Mayo Clinic dan peluncuran Amazon (AMZN ) Web Services HealthScribe, layanan dokumentasi klinis AI, menandai langkah signifikan dalam arah ini.

Namun, penerapan cepat ini memunculkan kekhawatiran tentang penyerahan kontrol kedokteran kepada kepentingan perusahaan. Sifat milik pribadi dari LLM ini membuatnya sulit untuk dievaluasi. Modifikasi atau penghentian mereka untuk alasan profit dapat mengompromikan perawatan pasien, privasi, dan keamanan.

Keperluan mendesak adalah pendekatan terbuka dan inklusif untuk pengembangan LLM dalam kesehatan. Lembaga kesehatan, peneliti, klinisi, dan pasien harus bekerja sama secara global untuk membangun LLM terbuka untuk kesehatan. Pendekatan ini, serupa dengan Konsorsium Triliun Parameter, akan memungkinkan penggabungan sumber daya komputasi, keuangan, dan keahlian.