Bagaimana Bias Dapat Menghancurkan Strategi AI/ML Anda dan Apa yang Dapat Dilakukan Tentang Hal Itu

‘Bias’ dalam model apa pun menggambarkan situasi di mana model merespons tidak akurat terhadap prompt atau data input karena belum dilatih dengan cukup banyak data berkualitas tinggi dan beragam untuk memberikan respons yang akurat. Salah satu contoh adalah fitur pengenalan wajah iPhone Apple, yang gagal dengan tingkat yang jauh lebih tinggi untuk orang dengan warna kulit yang lebih gelap dibandingkan dengan warna kulit yang lebih terang. Model tersebut belum dilatih dengan cukup banyak gambar orang dengan warna kulit yang lebih gelap. Ini adalah contoh yang relatif rendah risiko tentang bias, tetapi ini adalah alasan mengapa Undang-Undang AI Uni Eropa telah mengeluarkan persyaratan untuk membuktikan efikasi model (dan kontrol) sebelum dipasarkan. Model dengan output yang mempengaruhi bisnis, keuangan, kesehatan, atau situasi pribadi harus dipercaya, atau tidak akan digunakan.

Mengatasi Bias dengan Data

Volume Besar Data Berkualitas Tinggi

Di antara banyak praktik manajemen data yang penting, komponen kunci untuk mengatasi dan meminimalkan bias dalam model AI/ML adalah memperoleh volume besar data berkualitas tinggi dan beragam. Ini memerlukan kolaborasi dengan beberapa organisasi yang memiliki data tersebut. Secara tradisional, akuisisi data dan kolaborasi dihadapkan pada tantangan keamanan dan perlindungan IP – data sensitif tidak dapat dikirim ke pemilik model, dan pemilik model tidak dapat mengambil risiko kebocoran IP mereka kepada pemilik data. Solusi yang umum adalah bekerja dengan data sintetis atau buatan, yang dapat berguna tetapi juga memiliki keterbatasan dibandingkan dengan menggunakan data nyata dan konteks penuh. Ini adalah tempat di mana teknologi pengembangan privasi (PETs) memberikan jawaban yang sangat dibutuhkan.

Data Sintetis: Dekat, tetapi Belum Sepenuhnya

Data sintetis dibuat secara buatan untuk meniru data nyata. Ini sulit dilakukan, tetapi sedikit lebih mudah dengan alat AI. Data sintetis berkualitas tinggi harus memiliki jarak fitur yang sama dengan data nyata, atau tidak akan berguna. Data sintetis berkualitas dapat digunakan untuk secara efektif meningkatkan keberagaman data pelatihan dengan mengisi celah untuk populasi kecil atau terpinggirkan, atau untuk populasi yang penyedia AI tidak memiliki cukup data. Data sintetis juga dapat digunakan untuk menangani kasus tepi yang mungkin sulit ditemukan dalam volume yang memadai di dunia nyata. Selain itu, organisasi dapat membuat set data sintetis untuk memenuhi persyaratan residensi data dan privasi yang memblokir akses ke data nyata. Ini terdengar baik; namun, data sintetis hanya sebagian dari teka-teki, bukan solusi.

Salah satu keterbatasan yang jelas dari data sintetis adalah pemutusan dari dunia nyata. Misalnya, kendaraan otonom yang dilatih hanya dengan data sintetis akan bergelut dengan kondisi jalan yang tidak terduga di dunia nyata. Selain itu, data sintetis mewarisi bias dari data dunia nyata yang digunakan untuk menghasilkannya – hampir mengalahkan tujuan dari diskusi kita. Dalam kesimpulan, data sintetis adalah pilihan yang berguna untuk penyetelan halus dan menangani kasus tepi, tetapi perbaikan yang signifikan dalam efikasi model dan minimisasi bias masih bergantung pada akses ke data dunia nyata.

Cara yang Lebih Baik: Data Nyata melalui Alur Kerja yang Diaktifkan PETs

PETs melindungi data saat digunakan. Ketika datang ke model AI/ML, mereka juga dapat melindungi IP model yang sedang dijalankan – “dua burung, satu batu.” Solusi yang menggunakan PETs memberikan opsi untuk melatih model pada dataset nyata yang sensitif yang sebelumnya tidak dapat diakses karena kekhawatiran privasi dan keamanan data. Pembukaan aliran data ke data nyata adalah pilihan terbaik untuk mengurangi bias. Tapi, bagaimana sebenarnya cara kerjanya?

Untuk saat ini, opsi terdepan dimulai dengan lingkungan komputasi yang dapat dipercaya. Kemudian, integrasi dengan solusi perangkat lunak berbasis PETs yang membuatnya siap digunakan langsung sambil menangani persyaratan tata kelola dan keamanan data yang tidak termasuk dalam lingkungan eksekusi tepercaya (TEE) standar. Dengan solusi ini, model dan data semua dienkripsi sebelum dikirim ke lingkungan komputasi yang aman. Lingkungan dapat dihosting di mana saja, yang penting ketika menangani beberapa persyaratan lokalasi data. Ini berarti bahwa baik IP model dan keamanan data input dipertahankan selama komputasi – bahkan penyedia lingkungan eksekusi tepercaya tidak memiliki akses ke model atau data di dalamnya. Hasil yang dienkripsi kemudian dikirim kembali untuk ditinjau dan log tersedia untuk ditinjau.

Aliran ini membuka data berkualitas terbaik tanpa memandang di mana atau siapa yang memiliki data, menciptakan jalur untuk meminimalkan bias dan model efikasi tinggi yang dapat dipercaya. Aliran ini juga yang digambarkan dalam persyaratan Undang-Undang AI Uni Eropa untuk sebuah sandbox regulasi AI.

Mengaktifkan Kepatuhan Etis dan Hukum

Mendapatkan data berkualitas baik dan nyata itu sulit. Persyaratan privasi dan lokalasi data segera membatasi dataset yang dapat diakses oleh organisasi. Untuk inovasi dan pertumbuhan terjadi, data harus mengalir ke mereka yang dapat mengekstrak nilai dari data.

Pasal 54 dari Undang-Undang AI Uni Eropa memberikan persyaratan untuk “jenis model risiko tinggi” dalam hal apa yang harus dibuktikan sebelum mereka dapat dipasarkan. Secara singkat, tim akan perlu menggunakan data dunia nyata di dalam Sandbox Regulasi AI untuk menunjukkan efikasi model yang memadai dan kepatuhan dengan semua kontrol yang terperinci dalam Judul III Bab 2. Kontrol tersebut termasuk pemantauan, transparansi, keterjelasan, keamanan data, perlindungan data, minimisasi data, dan perlindungan model – pikirkan DevSecOps + Data Ops.

Tantangan pertama akan menjadi menemukan dataset dunia nyata untuk digunakan – karena ini secara inheren adalah data sensitif untuk jenis model tersebut. Tanpa jaminan teknis, banyak organisasi mungkin ragu untuk mempercayai penyedia model dengan data mereka atau tidak diizinkan untuk melakukannya. Selain itu, cara Undang-Undang menggambarkan “Sandbox Regulasi AI” adalah tantangan itu sendiri. Beberapa persyaratan termasuk jaminan bahwa data dihapus dari sistem setelah model telah dijalankan serta kontrol tata kelola, penegakan, dan pelaporan untuk membuktikannya.

Banyak organisasi telah mencoba menggunakan ruang pembersihan data (DCR) dan lingkungan eksekusi tepercaya (TEE) yang siap pakai. Namun, dengan sendirinya, teknologi ini memerlukan keahlian dan pekerjaan yang signifikan untuk dioperasikan dan memenuhi persyaratan regulasi data dan AI.
DCR lebih sederhana untuk digunakan, tetapi belum berguna untuk kebutuhan AI/ML yang lebih kuat. TEE adalah server yang aman dan masih memerlukan platform kolaborasi terintegrasi untuk berguna dengan cepat. Ini, bagaimanapun, mengidentifikasi kesempatan bagi platform teknologi pengembangan privasi untuk mengintegrasikan dengan TEE untuk menghilangkan pekerjaan tersebut, mempermudah pengaturan dan penggunaan sandbox regulasi AI, dan dengan demikian, akuisisi dan penggunaan data sensitif.

Dengan memungkinkan penggunaan dataset yang lebih beragam dan komprehensif dengan cara yang menjaga privasi, teknologi ini membantu memastikan bahwa praktik AI dan ML mematuhi standar etis dan persyaratan hukum yang terkait dengan privasi data (misalnya, GDPR dan Undang-Undang AI Uni Eropa di Eropa). Dalam ringkasan, sementara persyaratan sering diterima dengan keluhan dan desahan, persyaratan ini sebenarnya membimbing kita untuk membangun model yang lebih baik yang dapat kita percayai dan andalkan untuk pengambilan keputusan yang penting berdasarkan data sambil melindungi privasi subjek data yang digunakan untuk pengembangan dan kustomisasi model.