Biaya Pelatihan AI Terus Menurun

Biaya pelatihan AI yang tinggi telah menjadi penghalang signifikan untuk adopsi AI, mencegah banyak perusahaan menerapkan teknologi AI. Menurut a Laporan Konsultasi Forrester 2017, 48% perusahaan menyoroti biaya teknologi tinggi sebagai salah satu alasan utama untuk tidak menerapkan solusi berbasis AI.

Namun, perkembangan terakhir menunjukkan bahwa biaya pelatihan AI menurun dengan cepat, dan tren ini diperkirakan akan berlanjut di masa mendatang. Menurut Laporan ARK Invest Big Ideas 2023, biaya pelatihan model bahasa besar yang mirip dengan kinerja level GPT-3 telah turun drastis dari $4.6 juta pada tahun 2020 menjadi $450,000 pada tahun 2022, penurunan sebesar 70% per tahun.

Mari jelajahi tren penurunan biaya pelatihan AI ini lebih jauh dan diskusikan faktor-faktor yang berkontribusi terhadap penurunan ini.

Bagaimana Biaya Pelatihan AI Berubah Seiring Waktu?

Menurut yang terbaru Riset ARK Invest 2020, biaya pelatihan model deep learning meningkat 50 kali lebih cepat daripada Hukum Moore. Faktanya, biaya yang terkait dengan menjalankan sistem inferensi AI telah berkurang secara drastis ke tingkat yang hampir dapat diabaikan untuk banyak kasus penggunaan.

Selain itu, biaya pelatihan telah menurun sepuluh kali lipat setiap tahun selama beberapa tahun terakhir. Misalnya, pada tahun 2017, melatih pengklasifikasi gambar seperti ResNet-50 di cloud publik menghabiskan biaya sekitar $1,000, tetapi pada tahun 2019, biaya tersebut telah menurun secara signifikan menjadi sekitar $10.

Temuan ini sejalan dengan Laporan 2020 oleh OpenAI, yang menemukan bahwa jumlah daya komputasi yang diperlukan untuk melatih model AI untuk melakukan tugas yang sama telah berkurang dua kali lipat setiap 16 bulan sejak 2012.

Selanjutnya, laporan ARK menyoroti penurunan biaya pelatihan AI. Laporan tersebut memperkirakan bahwa pada tahun 2030 biaya pelatihan model level GPT-3 akan turun menjadi $30, dibandingkan dengan $450,000 pada tahun 2022.

Faktor-Faktor yang Berkontribusi pada Penurunan Biaya Pelatihan AI

Pelatihan model AI menjadi lebih murah dan lebih mudah karena teknologi AI terus meningkat, menjadikannya lebih mudah diakses oleh bisnis yang lebih luas. Beberapa faktor, termasuk biaya perangkat keras dan perangkat lunak serta AI berbasis cloud, telah berkontribusi terhadap penurunan biaya pelatihan AI.

Mari jelajahi faktor-faktor tersebut di bawah ini.

1. Perangkat keras

AI membutuhkan perangkat keras khusus yang mahal untuk memproses data dan komputasi dalam jumlah besar. Organisasi seperti NVIDIA, IBM, dan Google menyediakan GPU dan TPU untuk menjalankan beban kerja komputasi kinerja tinggi (HPC). Biaya perangkat keras yang tinggi mempersulit untuk mendemokratisasi AI dalam skala besar.

Namun, seiring kemajuan teknologi, biaya perangkat keras menurun. Menurut Laporan ARK Invest 2023, Hukum Wright memprediksi bahwa biaya produksi AI-relative compute unit (RCU), yaitu biaya perangkat keras pelatihan AI, akan turun sebesar 57% setiap tahun, yang mengarah ke pengurangan 70% biaya pelatihan AI pada tahun 2030, seperti yang ditunjukkan pada grafik di bawah ini.

2. Perangkat lunak

Biaya pelatihan perangkat lunak AI dapat diturunkan 47% per tahun melalui peningkatan efisiensi dan skalabilitas. Kerangka perangkat lunak seperti TensorFlow dan PyTorch memungkinkan pengembang untuk melatih model pembelajaran mendalam yang kompleks pada sistem terdistribusi dengan kinerja tinggi, menghemat waktu dan sumber daya.

Selain itu, model pra-terlatih besar seperti Awalv3 or ResNet dan teknik pembelajaran transfer juga membantu mengurangi biaya dengan memungkinkan pengembang menyempurnakan model yang ada daripada melatihnya dari awal.

3. Kecerdasan Buatan Berbasis Cloud

Pelatihan AI berbasis cloud mengurangi biaya dengan menyediakan sumber daya komputasi yang dapat diskalakan sesuai permintaan. Dengan model pay-as-you-go, bisnis hanya membayar sumber daya komputasi mereka. Selain itu, penyedia cloud menawarkan layanan AI siap pakai yang mempercepat pelatihan AI.

Misalnya, Pembelajaran Mesin Azure adalah layanan berbasis cloud untuk analitik prediktif yang memungkinkan pengembangan dan penerapan model secara cepat. Ini menawarkan sumber daya dan memori komputasi yang fleksibel. Pengguna dapat meningkatkan hingga ribuan GPU dengan cepat untuk meningkatkan kinerja komputasi mereka. Hal ini memungkinkan pengguna untuk bekerja melalui browser web mereka pada lingkungan AI yang telah dikonfigurasi sebelumnya, menghilangkan biaya penyiapan dan pemasangan.

Dampak Menurunnya Biaya Pelatihan AI

Penurunan biaya pelatihan AI memiliki implikasi yang signifikan untuk berbagai industri dan bidang, menghasilkan peningkatan inovasi dan daya saing.

Mari kita bahas beberapa di antaranya di bawah ini.

1. Adopsi Massal Chatbots AI Canggih

AI chatbots sedang naik daun karena penurunan biaya AI. Terutama setelah pengembangan OpenAI ChatGPT dan GPT-4 (Generative Pre-trained Transformer), telah terjadi lonjakan yang nyata dalam jumlah perusahaan yang ingin mengembangkan chatbot AI dengan kemampuan serupa atau lebih baik.

Misalnya, lima hari setelah dirilis pada November 2022, ChatGPT mengumpulkan 1 juta pengguna. Meskipun saat ini, biaya untuk menjalankan model dalam skala besar adalah sekitar $01 per kueri, Hukum Wright memperkirakan bahwa pada tahun 2030, aplikasi chatbot yang mirip dengan ChatGPT akan dapat diterapkan dalam skala besar dengan jauh lebih murah (diperkirakan $650 untuk menjalankan satu miliar kueri), dengan potensi memproses 8.5 miliar pencarian per hari, setara dengan Google Search.

2. Peningkatan Penggunaan Generatif AI

Menurunnya biaya pelatihan AI telah menyebabkan lonjakan dalam pengembangan dan penerapan teknologi AI generatif. Pada tahun 2022, terjadi peningkatan yang signifikan dalam penggunaan AI generatif, didorong oleh pengenalan alat AI generatif yang inovatif, seperti DALL-E 2, Meta Make-A-Video, dan Stable Diffusion. Pada tahun 2023, kami telah menyaksikan model terobosan dalam bentuk GPT-4.

Selain pembuatan gambar dan teks, AI generatif membantu pengembang menulis kode. Program seperti GitHub Copilot dapat membantu menyelesaikan tugas pengkodean dalam separuh waktu.

3. Penggunaan Data Pelatihan yang Lebih Baik

Pengurangan biaya pelatihan AI diharapkan memungkinkan pemanfaatan data pelatihan pembelajaran mesin dengan lebih baik. Contohnya, Laporan ARK Invest 2023 menunjukkan bahwa pada tahun 2030, biaya pelatihan model dengan parameter 57 kali lebih banyak dan token 720 kali lebih banyak daripada GPT-3 (parameter 175B) diproyeksikan menurun dari $17 miliar menjadi $600,000.

Ketersediaan dan kualitas data akan menjadi faktor pembatas utama untuk mengembangkan model pembelajaran mesin tingkat lanjut di dunia komputasi berbiaya rendah ini. Namun, model pelatihan akan mengembangkan kapasitas untuk memproses sekitar 162 triliun kata atau 216 triliun token.

Masa depan AI terlihat sangat menjanjikan. Untuk mempelajari lebih lanjut tentang tren dan penelitian terbaru di bidang kecerdasan buatan, kunjungi Bersatu.ai.