Mengutamakan Kepercayaan dalam Kecerdasan Buatan

Ketergantungan masyarakat pada aplikasi kecerdasan buatan (AI) dan pembelajaran mesin (ML) terus tumbuh, mengubah cara informasi dikonsumsi. Dari chatbot yang ditenagai AI hingga sintesis informasi yang dihasilkan dari Model Bahasa Besar (LLM), masyarakat memiliki akses ke lebih banyak informasi dan wawasan yang lebih dalam daripada sebelumnya. Namun, ketika perusahaan teknologi berlomba untuk mengimplementasikan AI di seluruh rantai nilai mereka, sebuah pertanyaan kritis muncul. Apakah kita benar-benar dapat mempercayai output solusi AI?

Apakah kita benar-benar dapat mempercayai output AI tanpa kuantifikasi ketidakpastian

Untuk input tertentu, model mungkin telah menghasilkan banyak output lain yang sama-sama masuk akal. Ini bisa disebabkan oleh data pelatihan yang tidak cukup, variasi dalam data pelatihan, atau penyebab lain. Ketika mengimplementasikan model, organisasi dapat menggunakan kuantifikasi ketidakpastian untuk memberikan pengguna akhir dengan pemahaman yang lebih jelas tentang seberapa banyak mereka harus mempercayai output model AI/ML. Kuantifikasi ketidakpastian adalah proses memperkirakan apa output lain yang mungkin terjadi.

Bayangkan model yang memprediksi suhu tertinggi besok. Model mungkin menghasilkan output 21ºC, tetapi kuantifikasi ketidakpastian yang diterapkan pada output tersebut mungkin menunjukkan bahwa model juga bisa menghasilkan output 12 ºC, 15 ºC, atau 16 ºC; mengetahui hal ini, seberapa banyak kita sekarang mempercayai prediksi sederhana 20 ºC? Meskipun potensinya untuk membangun kepercayaan atau untuk memberi nasihat hati-hati, banyak organisasi memilih untuk melewati kuantifikasi ketidakpastian karena pekerjaan tambahan yang mereka perlukan untuk mengimplementasikannya, serta karena tuntutan sumber daya komputasi dan kecepatan inferensi.

Sistem human-in-the-loop, seperti sistem diagnosis dan prognosis medis, melibatkan manusia sebagai bagian dari proses pengambilan keputusan. Dengan mempercayai data solusi AI/ML kesehatan secara buta, para profesional kesehatan berisiko salah mendiagnosis pasien, yang dapat menyebabkan hasil kesehatan yang buruk atau bahkan lebih buruk. Kuantifikasi ketidakpastian dapat memungkinkan para profesional kesehatan untuk melihat, secara kuantitatif, kapan mereka dapat mempercayai output AI dan kapan mereka harus memperlakukan prediksi tertentu dengan hati-hati. Demikian pula, dalam sistem yang sepenuhnya otomatis seperti mobil self-driving, output model untuk memperkirakan jarak hambatan dapat menyebabkan kecelakaan yang mungkin dapat dihindari dengan adanya kuantifikasi ketidakpastian pada perkiraan jarak.

Tantangan menggunakan metode Monte Carlo untuk membangun kepercayaan dalam model AI/ML

Metode Monte Carlo, yang dikembangkan selama Proyek Manhattan, adalah cara yang kuat untuk melakukan kuantifikasi ketidakpastian. Mereka melibatkan menjalankan algoritma berulang kali dengan input yang sedikit berbeda sampai iterasi lebih lanjut tidak memberikan informasi yang signifikan dalam output; ketika proses mencapai keadaan seperti itu, dikatakan bahwa proses tersebut telah konvergen. Salah satu kelemahan metode Monte Carlo adalah bahwa mereka biasanya lambat dan memerlukan komputasi yang intensif, memerlukan banyak pengulangan perhitungan untuk mendapatkan output yang konvergen dan memiliki variabilitas bawaan di seluruh output. Karena metode Monte Carlo menggunakan output generator angka acak sebagai salah satu bangunan utama, bahkan ketika Anda menjalankan Monte Carlo dengan banyak pengulangan internal, hasil yang Anda dapatkan akan berubah ketika Anda mengulangi proses dengan parameter yang identik.

Jalan menuju kepercayaan dalam model AI/ML

Tidak seperti server tradisional dan akselerator AI khusus, platform komputasi baru sedang dikembangkan untuk memproses distribusi probabilitas empiris secara langsung, sama seperti platform komputasi tradisional memproses integer dan nilai titik mengambang. Dengan mengimplementasikan model AI mereka pada platform ini, organisasi dapat mengotomatisasi implementasi kuantifikasi ketidakpastian pada model yang sudah dilatih sebelumnya dan juga dapat mempercepat tugas komputasi lain yang secara tradisional menggunakan metode Monte Carlo, seperti perhitungan VaR dalam keuangan. Secara khusus, untuk skenario VaR, platform baru ini memungkinkan organisasi untuk bekerja dengan distribusi empiris yang dibangun langsung dari data pasar riil, bukan mengapproximasikan distribusi tersebut dengan sampel yang dihasilkan oleh generator angka acak, untuk analisis yang lebih akurat dan hasil yang lebih cepat.

Terobosan baru-baru ini dalam komputasi telah menurunkan hambatan untuk kuantifikasi ketidakpastian. Artikel penelitian baru-baru ini yang diterbitkan oleh rekan-rekan dan saya, dalam Workshop Pembelajaran Mesin dengan Paradigma Komputasi Baru di NeurIPS 2024, menyoroti bagaimana platform komputasi generasi berikutnya yang kami kembangkan memungkinkan analisis kuantifikasi ketidakpastian untuk berjalan lebih dari 100 kali lebih cepat dibandingkan dengan menjalankan analisis berbasis Monte Carlo tradisional pada server Intel-Xeon kelas atas. Kemajuan seperti ini memungkinkan organisasi yang mengimplementasikan solusi AI untuk mengimplementasikan kuantifikasi ketidakpastian dengan mudah dan menjalankannya dengan biaya rendah.

Masa depan kepercayaan AI/ML bergantung pada komputasi generasi berikutnya yang maju

Ketika organisasi mengintegrasikan lebih banyak solusi AI ke dalam masyarakat, kepercayaan dalam AI/ML akan menjadi prioritas utama. Perusahaan tidak lagi dapat mengabaikan implementasi fasilitas dalam penggunaan model AI mereka untuk memungkinkan konsumen mengetahui kapan harus memperlakukan output model AI tertentu dengan skeptis. Permintaan untuk kemampuan menjelaskan dan kuantifikasi ketidakpastian ini jelas, dengan sekitar tiga dari empat orang yang mengindikasikan bahwa mereka akan lebih percaya pada sistem AI jika mekanisme jaminan yang tepat ada.

Teknologi komputasi baru membuatnya semakin mudah untuk mengimplementasikan dan menggelar kuantifikasi ketidakpastian. Sementara industri dan badan pengatur berusaha mengatasi tantangan lain yang terkait dengan penggunaan AI dalam masyarakat, setidaknya ada kesempatan untuk membangun kepercayaan yang dibutuhkan manusia, dengan membuat kuantifikasi ketidakpastian menjadi norma dalam penggunaan AI.