Apakah Minimisasi Pendekatan Terbaik untuk Tata Kelola AI?

Seiring organisasi mengintegrasikan kecerdasan buatan (AI) ke dalam operasional bisnis, mereka membutuhkan cara yang jelas untuk mengelola risiko terkait pengembangan dan penggunaannya. Tata kelola yang efektif memberikan pengawasan, tetapi prosedur yang rumit dapat menyita sumber daya dan memperlambat penerapan. Minimisasi menawarkan cara yang berpotensi membuat tata kelola lebih proporsional dengan membatasi penggunaan data yang tidak perlu, sembari mempertahankan akuntabilitas dan perlindungan.

Mengapa Tata Kelola AI Penting

Tata kelola AI menetapkan kebijakan, tanggung jawab, dan pengawasan yang memandu cara organisasi mengembangkan, menerapkan, dan menggunakan sistem AI. Tata kelola membantu organisasi mengidentifikasi risiko, menetapkan kewenangan pengambilan keputusan, serta membangun proses untuk memantau kinerja dan menangani masalah.

Organisasi harus mempertimbangkan sejumlah risiko saat mengadopsi AI, termasuk pelanggaran privasi, kerentanan keamanan, hasil yang bias, keluaran yang tidak akurat, dan transparansi yang terbatas. Tanpa pengendalian yang sesuai, keputusan yang dihasilkan AI dapat berdampak pada pelanggan, karyawan, dan pemangku kepentingan lainnya dengan cara yang sulit diperbaiki. Tata kelola juga membantu organisasi memenuhi persyaratan hukum yang berlaku dan menyelaraskan penggunaan AI dengan tujuan bisnis.

International Association of Privacy Professionals melaporkan bahwa 77% organisasi yang disurvei tengah mengupayakan tata kelola AI pada 2025. Temuan ini menunjukkan besarnya perhatian organisasi terhadap topik tersebut, meskipun upaya menjalankan tata kelola tidak serta-merta berarti suatu organisasi telah menyelesaikan atau menerapkan kerangkanya secara menyeluruh.

Tanggung jawab yang jelas dan pemantauan berkelanjutan membantu organisasi mengidentifikasi persoalan yang muncul, menyelidiki hasil yang tidak terduga, dan menyesuaikan pengendalian seiring perubahan sistem. Tata kelola yang efektif juga dapat memperkuat kepercayaan pemangku kepentingan dengan menunjukkan bahwa organisasi mempertimbangkan implikasi penggunaan AI dan tetap bertanggung jawab atas keputusannya.

Tantangan dalam Tata Kelola AI

Meskipun tata kelola membantu organisasi mengelola risiko AI, membangun dan mempertahankan pengawasan yang efektif bisa jadi sulit. Untuk menetapkan cakupan pengawasan, organisasi perlu menentukan sistem AI, aktivitas, dan ketergantungan mana yang memerlukan tata kelola. 

Untuk menetapkan cakupan tata kelola AI dengan jelas, organisasi dapat merujuk pada ISO/IEC 42001, yang menetapkan persyaratan untuk membangun dan memelihara sistem manajemen AI. Kepatuhan dapat meningkatkan kinerja model, sehingga memungkinkan pengembangan AI yang lebih cepat dan aman. Kepatuhan juga membantu organisasi menentukan bagian mana dari operasional mereka yang termasuk dalam sistem manajemen AI. Standar ini mempertimbangkan cakupan geografis, keterhubungan dengan sistem lain, dan cakupan aktivitas AI mereka. 

Tantangan penting lainnya meliputi:

• Kompleksitas sistem AI: Aplikasi AI mungkin bergantung pada model, kumpulan data, perangkat pihak ketiga, dan keputusan otomatis yang saling terhubung. Ketergantungan ini dapat menyulitkan penelusuran keluaran, identifikasi kerentanan, dan penentuan area yang memerlukan pengendalian.
• Privasi dan keamanan data: Organisasi harus melindungi informasi sensitif selama pengumpulan data, pelatihan model, penerapan, dan penggunaan berkelanjutan. 
• Bias dan transparansi yang terbatas: Data pelatihan yang tidak representatif dapat berkontribusi pada hasil yang tidak adil, sementara perilaku model yang tidak transparan dapat menyulitkan penjelasan, penilaian, atau pengajuan keberatan atas keputusan.
• Regulasi dan standar yang terus berkembang: Organisasi yang beroperasi di berbagai yurisdiksi mungkin menghadapi persyaratan hukum yang berbeda atau terus berubah. Proses tata kelola harus mengakomodasi kewajiban yang relevan tanpa menimbulkan duplikasi yang tidak perlu.
• Keterbatasan sumber daya dan operasional: Keahlian khusus, dokumentasi, peninjauan, dan pemantauan berkelanjutan membutuhkan waktu dan pendanaan. 
• Menyeimbangkan pengawasan dan inovasi: Persyaratan persetujuan yang berlebihan dapat menunda proyek, sementara pengendalian yang lemah dapat membuat risiko signifikan tidak tertangani.

Tantangan ini menunjukkan pentingnya mengurangi kerumitan yang tidak perlu. Namun, penyederhanaan tata kelola juga harus mencakup penetapan pengendalian untuk melindungi orang dan informasi serta memastikan akuntabilitas organisasi.

Sebagai contoh, New York State Comptroller menemukan bahwa sejumlah lembaga di Kota New York menerapkan pendekatan yang tidak konsisten terhadap pengawasan AI, dan beberapa di antaranya tidak memiliki kebijakan untuk menilai bias dan akurasi. Temuan ini menunjukkan bahwa pengurangan kerumitan membutuhkan standar tata kelola yang jelas dan konsisten untuk menjaga akuntabilitas. 

Makna Minimisasi dalam Tata Kelola AI

Minimisasi dalam tata kelola AI mencakup pengurangan penggunaan data yang tidak perlu dan beban administratif, sembari mempertahankan langkah-langkah yang diperlukan untuk mengelola risiko. Minimisasi memiliki dua dimensi utama, yaitu minimisasi data dan minimisasi tata kelola. Keduanya bertujuan agar praktik AI lebih proporsional dengan tujuan dan potensi dampaknya.

Minimisasi Data

Minimisasi data membatasi pengumpulan, penyimpanan, pemrosesan, dan pembagian informasi hanya pada data yang dibutuhkan sistem AI untuk tujuan tertentu. Organisasi dapat menerapkan prinsip ini dengan membatasi akses ke informasi sensitif serta menggunakan data anonim atau sintetis jika sesuai.

Mengurangi data yang tidak diperlukan dapat membatasi paparan terhadap risiko privasi dan mengurangi jumlah informasi yang perlu dilindungi organisasi. Namun, minimisasi data memerlukan pertimbangan yang cermat. Menghapus informasi yang relevan dapat menurunkan akurasi model, mengurangi keterwakilan berbagai kelompok, atau mempersulit identifikasi hasil yang bias. Organisasi harus menentukan data apa yang diperlukan untuk mencapai tujuan yang dimaksud dan mendukung hasil yang andal serta adil.

Minimisasi Tata Kelola

Minimisasi tata kelola berfokus pada penyederhanaan proses pengawasan. Organisasi dapat menggabungkan proses peninjauan yang tumpang tindih dan menggunakan kembali penilaian jika sesuai. Organisasi juga dapat memperjelas wewenang pengambilan keputusan dan menghapus lapisan persetujuan yang tidak memberikan perlindungan berarti terhadap risiko.

Perubahan ini membantu mengurangi biaya administrasi dan keterlambatan sekaligus memperjelas tanggung jawab tim. Namun, minimisasi tata kelola tidak boleh menghilangkan dokumentasi penting, peninjauan independen, pengawasan manusia, atau kontrol wajib. Tujuannya adalah membuat pengawasan lebih efisien sekaligus mempertahankan akuntabilitas.

Strategi Minimisasi untuk Tata Kelola AI

Pendekatan minimisasi dapat membuat tata kelola AI lebih efisien jika organisasi menyesuaikan praktik pengelolaan data dan persyaratan pengawasan dengan risiko setiap kasus penggunaan. Sejumlah langkah dapat mengurangi kompleksitas yang tidak perlu tanpa mengorbankan akuntabilitas, kinerja yang andal, dan perlindungan yang sesuai.

Terapkan Pendekatan Berbasis Risiko

Organisasi dapat mengklasifikasikan sistem AI berdasarkan tujuan penggunaannya, potensi dampak, dan sensitivitas data. AI Risk Management Framework dari National Institute of Standards and Technology menyediakan kerangka untuk mengelola risiko AI melalui empat fungsi yang mencakup Tata Kelola, Pemetaan, Pengukuran, dan Pengelolaan. Organisasi dapat menggunakan fungsi-fungsi ini untuk mengidentifikasi risiko, menilai tingkat kepentingannya, dan menentukan respons yang sesuai.

Tetapkan Persyaratan Data yang Jelas

Setiap sistem AI harus memiliki tujuan yang jelas sebelum pengumpulan data dimulai. Setelah itu, organisasi dapat mengidentifikasi kategori data yang diperlukan, menghapus kolom yang tidak relevan, membatasi akses, dan menetapkan batas waktu penyimpanan yang sesuai. Pengujian harus memastikan bahwa kumpulan data yang telah dikurangi tetap mendukung hasil yang akurat dan adil.

Optimalkan Model dan Sumber Daya Komputasi

Optimalisasi model, algoritma yang efisien, dan perangkat keras hemat energi dapat membantu mengurangi kebutuhan komputasi yang tidak perlu. Perusahaan dapat menjajaki pembelajaran federatif, yang mengurangi kebutuhan untuk mentransfer informasi dalam jumlah besar. Praktik-praktik ini dapat menekan biaya komputasi dan konsumsi energi sekaligus mendukung privasi data. 

Sederhanakan Alur Kerja Tata Kelola

Organisasi dapat menggabungkan proses peninjauan yang tumpang tindih, menggunakan kembali penilaian yang mencakup risiko yang sama, memperjelas tanggung jawab, dan menetapkan jalur persetujuan berdasarkan tingkat risiko. Proses yang terstandardisasi membantu tim menangani penerapan rutin secara efisien sekaligus mengarahkan kasus yang lebih kompleks kepada tenaga ahli yang tepat.

Pertahankan Perlindungan Penting

Pendekatan minimisasi harus tetap mempertahankan perlindungan privasi dan keamanan, penilaian bias, pengawasan manusia yang sesuai, jejak audit, dan prosedur penanganan insiden. Organisasi juga harus memastikan bahwa proses yang disederhanakan tetap memenuhi kewajiban hukum dan peraturan yang berlaku.

Pantau Kinerja dan Tinjau Ulang Kontrol

Persyaratan tata kelola dapat berubah seiring perkembangan sistem AI, bertambahnya pengguna baru, atau bertambahnya tugas yang didukung sistem. Organisasi harus memantau akurasi, keadilan, dan risiko privasi setelah penerapan. Organisasi juga harus meninjau kembali persyaratan data dan prosedur pengawasan saat kondisi berubah.

Menerapkan Minimisasi dalam Tata Kelola AI

Minimisasi paling efektif jika menjadi bagian dari strategi tata kelola berbasis risiko. Namun, tingkat minimisasi yang tepat akan berbeda-beda sesuai tujuan, kompleksitas, dan potensi dampak suatu sistem AI. Dengan menyeimbangkan efisiensi dengan perlindungan yang sesuai, akuntabilitas, dan evaluasi berkelanjutan, organisasi dapat menyederhanakan tata kelola AI sekaligus mempertahankan penggunaan AI yang bertanggung jawab dan andal.