Biaya Pelatihan AI Terus Menerus Merosot

Biaya pelatihan AI yang tinggi telah menjadi hambatan signifikan bagi adopsi AI, mencegah banyak perusahaan untuk mengimplementasikan teknologi AI. Menurut Laporan Forrester Consulting 2017, 48% perusahaan menyoroti biaya teknologi yang tinggi sebagai salah satu alasan utama untuk tidak mengimplementasikan solusi yang didorong oleh AI.

Namun, perkembangan terbaru telah menunjukkan bahwa biaya pelatihan AI terus menurun, dan tren ini diharapkan akan terus berlanjut di masa depan. Menurut Laporan ARK Invest Big Ideas 2023, biaya pelatihan model bahasa besar yang serupa dengan kinerja GPT-3 telah menurun dari $4,6 juta pada 2020 menjadi $450.000 pada 2022, penurunan 70% per tahun.

Mari kita jelajahi tren penurunan biaya pelatihan AI lebih lanjut dan membahas faktor-faktor yang menyebabkan penurunan ini.

Bagaimana Biaya Pelatihan AI Berubah Seiring Waktu?

Menurut Penelitian ARK Invest 2020, biaya pelatihan model pembelajaran dalam sangat cepat, 50 kali lebih cepat dari Hukum Moore. Faktanya, biaya yang terkait dengan menjalankan sistem inferensi AI telah menurun secara signifikan hingga hampir tidak ada untuk banyak kasus penggunaan.

Lebih lagi, biaya pelatihan telah menurun sepuluh kali lipat setiap tahunnya dalam beberapa tahun terakhir. Misalnya, pada 2017, pelatihan klasifikasi gambar seperti ResNet-50 di cloud publik membutuhkan biaya sekitar $1.000, tetapi pada 2019, biaya tersebut telah menurun secara signifikan menjadi sekitar $10.

Temuan ini sejalan dengan Laporan OpenAI 2020, yang menemukan bahwa jumlah daya komputasi yang dibutuhkan untuk melatih model AI untuk melakukan tugas yang sama telah menurun dengan faktor dua setiap 16 bulan sejak 2012.

Lebih lanjut, Laporan ARK menyoroti biaya pelatihan AI yang menurun. Laporan tersebut memperkirakan bahwa pada 2030, biaya pelatihan model dengan kinerja GPT-3 akan menurun menjadi $30, dibandingkan dengan $450.000 pada 2022.

Biaya pelatihan GPT-3 – ARK Invest Big Ideas 2023

Faktor-Faktor yang Membuat Biaya Pelatihan AI Menurun

Pelatihan model AI menjadi lebih murah dan mudah karena teknologi AI terus meningkat, membuatnya lebih mudah diakses oleh berbagai bisnis. Beberapa faktor, termasuk biaya perangkat keras dan perangkat lunak serta AI berbasis cloud, telah menyebabkan penurunan biaya pelatihan AI.

Mari kita jelajahi faktor-faktor ini di bawah.

1. Perangkat Keras

AI membutuhkan perangkat keras khusus yang mahal untuk memproses volume data yang besar dan komputasi. Organisasi seperti NVIDIA, IBM, dan Google menyediakan GPU dan TPU untuk menjalankan beban kerja komputasi kinerja tinggi (HPC). Biaya perangkat keras yang tinggi membuatnya sulit untuk mendemokratisasikan AI pada skala besar.

Namun, seiring kemajuan teknologi, biaya perangkat keras menurun. Menurut Laporan ARK Invest 2023, Hukum Wright memprediksi bahwa biaya produksi unit komputasi AI (RCU), yaitu biaya perangkat keras pelatihan AI, harus menurun sebesar 57% per tahun, yang akan menghasilkan penurunan 70% dalam biaya pelatihan AI pada 2030, seperti yang ditunjukkan pada grafik di bawah.

Biaya perangkat keras pelatihan AI – ARK Invest Big Ideas 2023

2. Perangkat Lunak

Biaya pelatihan perangkat lunak AI dapat diturunkan sebesar 47% per tahun melalui peningkatan efisiensi dan skalabilitas. Kerangka perangkat lunak seperti TensorFlow dan PyTorch memungkinkan pengembang untuk melatih model pembelajaran dalam yang kompleks pada sistem terdistribusi dengan kinerja tinggi, sehingga menghemat waktu dan sumber daya.

Lebih lanjut, model pra-dilatih besar seperti Inceptionv3 atau ResNet dan teknik transfer pembelajaran juga membantu mengurangi biaya dengan memungkinkan pengembang untuk memperbarui model yang ada daripada melatihnya dari awal.

Biaya pelatihan perangkat lunak AI – ARK Invest Big Ideas 2023

3. AI Berbasis Cloud

Pelatihan AI berbasis cloud mengurangi biaya dengan menyediakan sumber daya komputasi yang skalabel secara on-demand. Dengan model bayar-sebagai-anda-pergi, bisnis hanya membayar untuk sumber daya komputasi mereka. Selain itu, penyedia cloud menawarkan layanan AI pra-dibangun yang mempercepat pelatihan AI.

Misalnya, Azure Machine Learning adalah layanan berbasis cloud untuk analitik prediktif yang memungkinkan pengembangan model yang cepat dan implementasi. Ini menawarkan sumber daya komputasi yang fleksibel dan memori. Pengguna dapat meningkatkan hingga ribuan GPU dengan cepat untuk meningkatkan kinerja komputasi mereka. Ini memungkinkan pengguna untuk bekerja melalui browser web mereka pada lingkungan AI yang telah dikonfigurasi sebelumnya, menghilangkan overhead pengaturan dan pemasangan.

Dampak Penurunan Biaya Pelatihan AI

Penurunan biaya pelatihan AI memiliki implikasi signifikan untuk berbagai industri dan bidang, menghasilkan inovasi dan kompetisi yang lebih baik.

Mari kita bahas beberapa di antaranya di bawah.

1. Adopsi Massal Chatbot AI yang Canggih

Chatbot AI sedang meningkat karena biaya AI yang menurun. Terutama setelah pengembangan OpenAI ChatGPT dan GPT-4 (Generative Pre-trained Transformer), ada lonjakan yang signifikan dalam jumlah perusahaan yang ingin mengembangkan chatbot AI dengan kemampuan serupa atau lebih baik.

Misalnya, lima hari setelah dirilis pada November 2022, ChatGPT telah mengumpulkan 1 juta pengguna. Meskipun saat ini, biaya untuk menjalankan model pada skala besar sekitar $0,01 per kueri, Hukum Wright memprediksi bahwa pada 2030, aplikasi chatbot yang serupa dengan ChatGPT akan dapat diterapkan pada skala besar dengan biaya yang jauh lebih murah (diperkirakan $650 untuk menjalankan satu miliar kueri), dengan potensi untuk memproses 8,5 miliar pencarian per hari, setara dengan Google Search.

Biaya untuk menjalankan inferensi AI per miliar kueri – ARK Invest Big Ideas 2023

2. Peningkatan Penggunaan AI Generatif

Penurunan biaya pelatihan AI telah menyebabkan lonjakan dalam pengembangan dan implementasi teknologi AI generatif. Pada 2022, ada peningkatan signifikan dalam penggunaan AI generatif, didorong oleh pengenalan alat AI generatif inovatif, seperti DALL-E 2, Meta Make-A-Video, dan Stable Diffusion. Pada 2023, kita telah menyaksikan model yang revolusioner berupa GPT-4.

Selain generasi gambar dan teks, AI generatif membantu pengembang menulis kode. Program seperti GitHub Copilot dapat membantu menyelesaikan tugas pemrograman dalam setengah waktu.

Waktu untuk menyelesaikan tugas pemrograman – ARK Invest Big Ideas 2023

3. Penggunaan Data Pelatihan yang Lebih Baik

Biaya pelatihan AI yang rendah diharapkan akan memungkinkan penggunaan data pelatihan pembelajaran mesin yang lebih baik. Misalnya, Laporan ARK Invest 2023 menyatakan bahwa pada 2030, biaya untuk melatih model dengan 57 kali lebih banyak parameter dan 720 kali lebih banyak token daripada GPT-3 (175B parameter) diperkirakan akan menurun dari $17 miliar menjadi $600.000.

Ketersediaan dan kualitas data akan menjadi faktor pembatas utama untuk mengembangkan model pembelajaran mesin yang canggih dalam dunia komputasi berbiaya rendah ini. Namun, model yang dilatih akan mengembangkan kapasitas untuk memproses sekitar 162 triliun kata atau 216 triliun token.

Masa depan AI terlihat sangat menjanjikan. Untuk mempelajari lebih lanjut tentang tren dan penelitian terbaru di bidang kecerdasan buatan, kunjungi Unite.ai.