5 Pilar Fondasional untuk Memastikan AI yang Bertanggung Jawab

Kita sedang menyaksikan pertumbuhan luar biasa dalam sistem AI/ML untuk memproses lautan data yang dihasilkan dalam perekonomian digital baru. Namun, dengan pertumbuhan ini, ada kebutuhan untuk serius mempertimbangkan implikasi etika dan hukum AI.

Ketika kita mempercayakan tugas yang semakin kompleks dan penting kepada sistem AI, seperti persetujuan pinjaman otomatis, misalnya, kita harus yakin bahwa sistem-sistem ini bertanggung jawab dan dapat dipercaya. Mengurangi bias dalam AI telah menjadi area fokus besar bagi banyak peneliti dan memiliki implikasi etika yang besar, begitu juga dengan jumlah otonomi yang kita berikan kepada sistem-sistem ini.

Konsep AI yang Bertanggung Jawab adalah kerangka kerja penting yang dapat membantu membangun kepercayaan dalam penerapan AI Anda. Ada lima pilar fondasional untuk AI yang Bertanggung Jawab. Artikel ini akan menjelajahi pilar-pilar ini untuk membantu Anda membangun sistem yang lebih baik.

1. Reproducibility

Ada sebuah ungkapan lama di dunia pengembangan perangkat lunak yang berbunyi: “hey, itu bekerja di mesin saya” Dalam ML dan AI, ungkapan tersebut dapat disesuaikan menjadi: “hey, itu bekerja di dataset saya.” Ini berarti bahwa model pembelajaran mesin seringkali dapat menjadi sebuah kotak hitam. Banyak dataset pelatihan dapat memiliki bias bawaan seperti bias sampling atau bias konfirmasi yang mengurangi akurasi produk akhir.

Untuk membantu membuat sistem AI/ML lebih dapat direproduksi, dan oleh karena itu lebih akurat dan dapat dipercaya, langkah pertama adalah untuk memstandarisasi pipeline MLOps. Bahkan ilmuwan data yang paling cerdas memiliki teknologi dan perpustakaan favorit mereka, yang berarti bahwa teknik pengembangan fitur dan model yang dihasilkan tidak seragam dari orang ke orang. Dengan menggunakan alat seperti MLflow, Anda dapat memstandarisasi pipeline MLOps dan mengurangi perbedaan ini.

Cara lain untuk membantu membuat sistem AI/ML lebih dapat direproduksi adalah dengan menggunakan apa yang disebut “dataset emas.” Dataset ini adalah dataset representatif yang pada dasarnya berfungsi sebagai tes dan validasi model baru sebelum mereka dirilis untuk produksi.

2. Transparansi

Seperti yang disebutkan sebelumnya, banyak model ML, terutama jaringan saraf, adalah kotak hitam. Untuk membuat mereka lebih bertanggung jawab, kita perlu membuat mereka lebih dapat diinterpretasikan. Untuk sistem sederhana seperti pohon keputusan, sangat mudah untuk memahami bagaimana dan mengapa sistem membuat keputusan tertentu, tetapi, ketika akurasi dan kompleksitas sistem AI meningkat, interpretabilitasnya seringkali menurun.

Ada area penelitian baru yang disebut “penjelasan” yang berusaha membawa transparansi bahkan ke sistem AI yang kompleks seperti jaringan saraf dan pembelajaran dalam. Mereka menggunakan model proxy untuk meniru kinerja jaringan saraf, tetapi mereka juga berusaha memberikan penjelasan yang valid tentang fitur mana yang penting.

Semua ini menyebabkan kesetaraan; Anda ingin tahu mengapa keputusan tertentu dibuat dan memastikan bahwa keputusan tersebut adil. Anda juga ingin memastikan bahwa fitur yang tidak sesuai tidak dipertimbangkan sehingga bias tidak masuk ke dalam model Anda.

3. Akuntabilitas

Mungkin aspek paling penting dari AI yang Bertanggung Jawab adalah akuntabilitas. Ada banyak pembicaraan tentang topik ini, bahkan di sektor pemerintah, karena berkaitan dengan kebijakan yang akan mengarahkan hasil AI. Pendekatan berbasis kebijakan ini menentukan pada tahap mana manusia harus terlibat.

Akuntabilitas memerlukan pemantauan dan metrik yang kuat untuk membantu pembuat kebijakan dan mengendalikan sistem AI/ML. Akuntabilitas benar-benar menghubungkan reproduksi dan transparansi, tetapi memerlukan pengawasan yang efektif dalam bentuk komite etika AI. Komite-komite ini dapat menangani keputusan kebijakan, menentukan apa yang penting untuk diukur, dan melakukan tinjauan kesetaraan.

4. Keamanan

Keamanan AI berfokus pada kerahasiaan dan integritas data. Ketika sistem memproses data, Anda ingin mereka berada dalam lingkungan yang aman. Anda ingin data tersebut dienkripsi baik saat istirahat di database maupun saat dipanggil melalui pipeline, tetapi kerentanan masih ada saat data tersebut dimasukkan ke dalam model pembelajaran mesin sebagai teks biasa. Teknologi seperti enkripsi homomorfik memecahkan masalah ini dengan memungkinkan pelatihan pembelajaran mesin terjadi dalam lingkungan yang dienkripsi.

Aspek lainnya adalah keamanan model itu sendiri. Misalnya, serangan inversi model memungkinkan peretas mempelajari data pelatihan yang digunakan untuk membangun model. Ada juga serangan pencemaran model, yang memasukkan data buruk ke dalam model saat pelatihan dan merusak kinerjanya secara total. Menguji model Anda terhadap serangan adversarial seperti ini dapat menjaga keamanan dan keamanannya.

5. Privasi

Google dan OpenMined adalah dua organisasi yang baru-baru ini memprioritaskan privasi AI, dan OpenMined mengadakan konferensi tentang topik ini. Dengan regulasi baru seperti GDPR dan CCPA, dan kemungkinan lebih banyak lagi yang akan datang, privasi akan memainkan peran sentral dalam cara kita melatih model pembelajaran mesin.

Cara untuk memastikan bahwa Anda menangani data pelanggan dengan cara yang menyadari privasi adalah dengan menggunakan pembelajaran terdistribusi. Metode pembelajaran mesin ini melatih model yang berbeda secara lokal, lalu menggabungkan setiap model di pusat yang terpusat sambil menjaga data tetap aman, aman, dan pribadi. Metode lainnya adalah dengan memperkenalkan noise statistik sehingga nilai-nilai individu pelanggan tidak bocor. Ini membuat Anda bekerja dengan agregat sehingga data individu tetap utuh dan tidak tersedia untuk algoritma.

Mempertahankan AI yang Bertanggung Jawab

 Akhirnya, mempertahankan AI yang bertanggung jawab adalah tanggung jawab setiap organisasi yang merancang sistem AI/ML. Dengan sengaja mengejar teknologi dalam setiap aspek AI yang Bertanggung Jawab ini, Anda tidak hanya dapat memanfaatkan kekuatan kecerdasan buatan, tetapi Anda dapat melakukannya dengan cara yang dapat dipercaya dan lurus yang akan memberikan kepastian kepada organisasi, pelanggan, dan regulator Anda.