Biaya Pelatihan AI Terus Menerus Merosot

Biaya pelatihan AI yang tinggi telah menjadi hambatan signifikan bagi adopsi AI, mencegah banyak perusahaan untuk mengimplementasikan teknologi AI. Menurut Laporan Forrester Consulting 2017, 48% perusahaan menyoroti biaya teknologi yang tinggi sebagai salah satu alasan utama untuk tidak mengimplementasikan solusi yang didorong oleh AI.

Namun, perkembangan terbaru menunjukkan bahwa biaya pelatihan AI semakin menurun, dan tren ini diharapkan akan terus berlanjut di masa depan. Menurut Laporan ARK Invest Big Ideas 2023, biaya pelatihan model bahasa besar yang serupa dengan kinerja GPT-3 telah menurun dari $4,6 juta pada 2020 menjadi $450.000 pada 2022, penurunan sebesar 70% per tahun.

Mari kita jelajahi tren ini lebih lanjut dan membahas faktor-faktor yang menyebabkan penurunan biaya pelatihan AI.

Bagaimana Biaya Pelatihan AI Berubah Seiring Waktu?

Menurut Penelitian ARK Invest 2020, biaya pelatihan model pembelajaran dalam adalah 50 kali lebih cepat daripada Hukum Moore. Faktanya, biaya yang terkait dengan menjalankan sistem inferensi AI telah menurun secara signifikan hingga hampir tidak ada untuk banyak kasus penggunaan.

Lebih lanjut, biaya pelatihan telah menurun sepuluh kali lipat setiap tahun selama beberapa tahun terakhir. Sebagai contoh, pada 2017, pelatihan klasifikasi gambar seperti ResNet-50 pada cloud publik membutuhkan biaya sekitar $1.000, tetapi pada 2019, biaya tersebut telah menurun secara signifikan menjadi sekitar $10.

Temuan ini sejalan dengan Laporan OpenAI 2020, yang menemukan bahwa jumlah daya komputasi yang dibutuhkan untuk melatih model AI untuk melakukan tugas yang sama telah menurun dengan faktor dua setiap 16 bulan sejak 2012.

Lebih lanjut, Laporan ARK menyoroti biaya pelatihan AI yang menurun. Laporan tersebut memperkirakan bahwa pada 2030, biaya pelatihan model dengan kinerja GPT-3 akan menurun menjadi $30, dibandingkan dengan $450.000 pada 2022.

Biaya pelatihan GPT-3 – ARK Invest Big Ideas 2023

Faktor-Faktor yang Membuat Biaya Pelatihan AI Menurun

Pelatihan model AI menjadi lebih murah dan lebih mudah karena teknologi AI terus meningkat, membuatnya lebih dapat diakses oleh berbagai bisnis. Beberapa faktor, termasuk biaya perangkat keras dan perangkat lunak, serta AI berbasis cloud, telah menyebabkan biaya pelatihan AI menurun.

Mari kita jelajahi faktor-faktor ini lebih lanjut.

1. Perangkat Keras

AI membutuhkan perangkat keras khusus yang mahal untuk memproses volume data yang besar dan komputasi. Organisasi seperti NVIDIA (NVDA ), IBM, dan Google (GOOGL ) menyediakan GPU dan TPU untuk menjalankan beban kerja komputasi kinerja tinggi (HPC). Biaya perangkat keras yang tinggi membuatnya sulit untuk mendemokratisasi AI pada skala besar.

Namun, seiring kemajuan teknologi, biaya perangkat keras menurun. Menurut Laporan ARK Invest 2023, Hukum Wright memprediksi bahwa biaya produksi unit komputasi AI (RCU) harus menurun sebesar 57% per tahun, yang akan menyebabkan penurunan biaya pelatihan AI sebesar 70% pada 2030, seperti yang ditunjukkan pada grafik di bawah.

Biaya perangkat keras pelatihan AI – ARK Invest Big Ideas 2023

2. Perangkat Lunak

Biaya pelatihan perangkat lunak AI dapat dikurangi sebesar 47% per tahun melalui peningkatan efisiensi dan skalabilitas. Kerangka perangkat lunak seperti TensorFlow dan PyTorch memungkinkan pengembang untuk melatih model pembelajaran dalam yang kompleks pada sistem terdistribusi dengan kinerja tinggi, sehingga menghemat waktu dan sumber daya.

Lebih lanjut, model pra-dilatih besar seperti Inceptionv3 atau ResNet dan teknik transfer learning juga membantu mengurangi biaya dengan memungkinkan pengembang untuk memperbarui model yang ada daripada melatihnya dari awal.

Biaya pelatihan perangkat lunak AI – ARK Invest Big Ideas 2023

3. AI Berbasis Cloud

Pelatihan AI berbasis cloud mengurangi biaya dengan menyediakan sumber daya komputasi yang dapat diskalakan sesuai kebutuhan. Dengan model bayar-sebagai-anda-pergi, bisnis hanya membayar untuk sumber daya komputasi yang mereka gunakan. Selain itu, penyedia cloud menawarkan layanan AI pra-dibangun yang mempercepat pelatihan AI.

Sebagai contoh, Azure Machine Learning adalah layanan cloud untuk analitik prediktif yang memungkinkan pengembangan dan implementasi model yang cepat. Ini menawarkan sumber daya komputasi yang fleksibel dan memori. Pengguna dapat menskalakan hingga ribuan GPU dengan cepat untuk meningkatkan kinerja komputasi mereka. Ini memungkinkan pengguna untuk bekerja melalui browser web pada lingkungan AI yang telah dikonfigurasi sebelumnya, menghilangkan overhead pengaturan dan instalasi.

Dampak Penurunan Biaya Pelatihan AI

Penurunan biaya pelatihan AI memiliki implikasi yang signifikan bagi berbagai industri dan bidang, menghasilkan inovasi dan kompetisi yang lebih baik.

Mari kita bahas beberapa di antaranya.

1. Adopsi Chatbot AI yang Lebih Luas

Chatbot AI sedang meningkat karena biaya AI yang menurun. Terutama setelah pengembangan OpenAI’s ChatGPT dan GPT-4 (Generative Pre-trained Transformer), ada peningkatan yang signifikan dalam jumlah perusahaan yang ingin mengembangkan chatbot AI dengan kemampuan serupa atau lebih baik.

Sebagai contoh, lima hari setelah dirilis pada November 2022, ChatGPT telah mencapai 1 juta pengguna. Meskipun saat ini, biaya untuk menjalankan model pada skala besar sekitar $0,01 per kueri, Hukum Wright memprediksi bahwa pada 2030, aplikasi chatbot yang serupa dengan ChatGPT akan dapat diterapkan pada skala besar dengan biaya yang jauh lebih murah (diperkirakan $650 untuk menjalankan 1 miliar kueri), dengan potensi untuk memproses 8,5 miliar pencarian per hari, setara dengan Google Search.

Biaya untuk menjalankan inferensi AI per miliar kueri – ARK Invest Big Ideas 2023

2. Penggunaan AI Generatif yang Lebih Luas

Penurunan biaya pelatihan AI telah menyebabkan peningkatan dalam pengembangan dan implementasi teknologi AI generatif. Pada 2022, ada peningkatan yang signifikan dalam penggunaan AI generatif, didorong oleh pengenalan alat AI generatif inovatif seperti DALL-E 2, Meta Make-A-Video, dan Stable Diffusion. Pada 2023, kita telah menyaksikan model yang revolusioner berupa GPT-4.

Di luar generasi gambar dan teks, AI generatif membantu pengembang menulis kode. Program seperti GitHub Copilot dapat membantu menyelesaikan tugas coding dalam setengah waktu.

Waktu untuk menyelesaikan tugas coding – ARK Invest Big Ideas 2023

3. Penggunaan Data Pelatihan yang Lebih Baik

Biaya pelatihan AI yang menurun diharapkan akan memungkinkan penggunaan data pelatihan yang lebih baik. Sebagai contoh, Laporan ARK Invest 2023 menyatakan bahwa pada 2030, biaya pelatihan model dengan 57 kali lebih banyak parameter dan 720 kali lebih banyak token daripada GPT-3 (175B parameter) diperkirakan akan menurun dari $17 miliar menjadi $600.000.

Ketersediaan dan kualitas data akan menjadi faktor pembatas utama untuk mengembangkan model pembelajaran mesin yang canggih dalam dunia komputasi berbiaya rendah ini. Namun, model pelatihan akan mengembangkan kapasitas untuk memproses sekitar 162 triliun kata atau 216 triliun token.

Masa depan AI terlihat sangat menjanjikan. Untuk mempelajari lebih lanjut tentang tren dan penelitian terbaru dalam bidang kecerdasan buatan, kunjungi Unite.ai.