Apa itu AI Bertanggung Jawab? Prinsip, Tantangan, & Manfaat

AI Bertanggung Jawab (RAI) merujuk pada perancangan dan penerapan sistem AI yang transparan, tidak bias, bertanggung jawab, dan mengikuti pedoman etika. Ketika sistem AI menjadi lebih kuat dan umum, memastikan mereka dikembangkan dengan bertanggung jawab dan mengikuti pedoman keamanan dan etika sangat penting.

Kesehatan, Transportasi, Manajemen Jaringan, dan Pengawasan adalah aplikasi AI kritis di mana kegagalan sistem dapat memiliki konsekuensi yang parah. Perusahaan besar menyadari bahwa RAI sangat penting untuk memitigasi risiko teknologi. Namun, menurut laporan MIT Sloan/BCG yang melibatkan 1093 responden, 54% perusahaan kekurangan keahlian dan bakat AI Bertanggung Jawab.

Meskipun pemimpin pemikiran dan organisasi telah mengembangkan prinsip untuk AI bertanggung jawab, memastikan pengembangan sistem AI yang bertanggung jawab masih menimbulkan tantangan. Mari kita jelajahi ide ini secara lebih rinci:

5 Prinsip untuk AI Bertanggung Jawab

1. Keadilan

Teknolog harus merancang prosedur sehingga sistem AI memperlakukan semua individu dan kelompok dengan adil tanpa bias. Oleh karena itu, keadilan adalah persyaratan utama dalam aplikasi pengambilan keputusan yang berisiko tinggi.

Keadilan didefinisikan sebagai:

“Menganalisis dampak pada berbagai kelompok demografi dan memilih salah satu dari beberapa definisi matematika keadilan kelompok yang akan memuaskan himpunan hukum, budaya, dan persyaratan etika yang diinginkan.”

2. Akuntabilitas

Akuntabilitas berarti individu dan organisasi yang mengembangkan dan menerapkan sistem AI harus bertanggung jawab atas keputusan dan tindakan mereka. Tim yang menerapkan sistem AI harus memastikan bahwa sistem AI mereka transparan, dapat diinterpretasikan, dapat diaudit, dan tidak merugikan masyarakat.

Akuntabilitas mencakup tujuh komponen:

1. Konteks (tujuan untuk akuntabilitas diperlukan)
2. Ruang lingkup (subyek akuntabilitas)
3. Agen (siapa yang bertanggung jawab?)
4. Forum (kepada siapa pihak yang bertanggung jawab harus melaporkan)
5. Standar (kriteria untuk akuntabilitas)
6. Proses (metode akuntabilitas)
7. Implikasi (konsekuensi akuntabilitas)

3. Transparansi

Transparansi berarti alasan di balik pengambilan keputusan dalam sistem AI jelas dan dapat dipahami. Sistem AI yang transparan dapat dijelaskan.

Menurut Assessment List for Trustworthy Artificial Intelligence (ALTAI), transparansi memiliki tiga elemen kunci:

1. Jejak (data, langkah pra-pengolahan, dan model dapat diakses)
2. Penggunaan (alasan di balik pengambilan keputusan/prediksi jelas)
3. Komunikasi Terbuka (mengenai keterbatasan sistem AI)

4. Privasi

Privasi adalah salah satu prinsip utama AI bertanggung jawab. Ini merujuk pada perlindungan informasi pribadi. Prinsip ini memastikan bahwa informasi pribadi orang dikumpulkan dan diproses dengan persetujuan dan dijaga dari tangan yang tidak bertanggung jawab.

Seperti yang terbukti baru-baru ini, ada kasus Clearview, sebuah perusahaan yang membuat model pengenalan wajah untuk kepolisian dan universitas. Pengawas data Inggris menggugat Clearview AI sebesar £ 7,5 juta karena mengumpulkan gambar warga Inggris dari media sosial tanpa persetujuan untuk membuat basis data 20 miliar gambar.

5. Keamanan

Keamanan berarti memastikan bahwa sistem AI aman dan tidak mengancam masyarakat. Contoh ancaman keamanan AI adalah serangan adversarial. Serangan jahat ini menipu model ML untuk membuat keputusan yang salah. Melindungi sistem AI dari serangan siber sangat penting untuk AI bertanggung jawab.

4 Tantangan Utama & Risiko AI Bertanggung Jawab

1. Bias

Bias manusia yang terkait dengan usia, jenis kelamin, kebangsaan, dan ras dapat mempengaruhi pengumpulan data, yang dapat menyebabkan model AI yang bias. Studi Departemen Perdagangan AS menemukan bahwa AI pengenalan wajah salah mengidentifikasi orang-orang berwarna. Oleh karena itu, menggunakan AI untuk pengenalan wajah dalam penegakan hukum dapat menyebabkan penangkapan yang salah. Selain itu, membuat model AI yang adil sangat menantang karena ada 21 parameter yang berbeda untuk mendefinisikannya. Jadi, ada trade-off; memuaskan satu parameter AI yang adil berarti mengorbankan yang lain.

2. Interpretasi

Interpretasi adalah tantangan kritis dalam mengembangkan AI bertanggung jawab. Ini merujuk pada pemahaman tentang bagaimana model pembelajaran mesin mencapai kesimpulan tertentu.

Jaringan neural dalam tidak memiliki interpretasi karena mereka beroperasi sebagai Kotak Hitam dengan banyak lapisan neuron tersembunyi, membuatnya sulit untuk memahami proses pengambilan keputusan. Ini dapat menjadi tantangan dalam pengambilan keputusan yang berisiko tinggi seperti kesehatan, keuangan, dll.

Selain itu, memformalkan interpretasi dalam model ML sangat menantang karena ini subyektif dan spesifik domain.

3. Tata Kelola

Tata kelola merujuk pada serangkaian aturan, kebijakan, dan prosedur yang mengawasi pengembangan dan penerapan sistem AI. Baru-baru ini, telah ada kemajuan yang signifikan dalam diskusi tata kelola AI, dengan organisasi yang menyajikan kerangka dan pedoman etika.

Pedoman etika untuk AI yang dapat dipercaya oleh UE, Kerangka Etika AI Australia, dan Prinsip AI OECD adalah contoh kerangka tata kelola AI.

Namun, kemajuan AI yang cepat dalam beberapa tahun terakhir dapat melampaui kerangka tata kelola AI ini. Untuk itu, perlu ada kerangka yang menilai keadilan, interpretasi, dan etika sistem AI.

4. Regulasi

Ketika sistem AI menjadi lebih umum, perlu ada regulasi untuk mempertimbangkan nilai-nilai etika dan sosial. Mengembangkan regulasi yang tidak menghambat inovasi AI adalah tantangan kritis dalam AI bertanggung jawab.

Even dengan Regulasi Perlindungan Data Umum (GDPR), Undang-Undang Privasi Konsumen California (CCPA), dan Undang-Undang Perlindungan Informasi Pribadi (PIPL) sebagai badan regulasi, peneliti AI menemukan bahwa 97% situs web UE tidak memenuhi persyaratan kerangka hukum GDPR.

Selain itu, legislator menghadapi tantangan signifikan dalam mencapai kesepakatan tentang definisi AI yang mencakup baik sistem AI klasik maupun aplikasi AI terbaru.

3 Manfaat Utama AI Bertanggung Jawab

1. Pengurangan Bias

AI Bertanggung Jawab mengurangi bias dalam proses pengambilan keputusan, membangun kepercayaan pada sistem AI. Mengurangi bias dalam sistem AI dapat menyediakan sistem kesehatan yang adil dan setara serta mengurangi bias dalam layanan keuangan berbasis AI dll.

2. Transparansi yang Ditingkatkan

AI Bertanggung Jawab membuat aplikasi AI yang transparan yang membangun kepercayaan pada sistem AI. Sistem AI yang transparan mengurangi risiko kesalahan dan penyalahgunaan. Transparansi yang ditingkatkan membuat audit sistem AI lebih mudah, memenangkan kepercayaan stakeholder, dan dapat menyebabkan sistem AI yang bertanggung jawab.

3. Keamanan yang Lebih Baik

Aplikasi AI yang aman memastikan privasi data, menghasilkan output yang dapat dipercaya dan tidak berbahaya, serta aman dari serangan siber.

Raksasa teknologi seperti Microsoft (MSFT ) dan Google (GOOGL ), yang berada di garis depan pengembangan sistem AI, telah mengembangkan Prinsip AI Bertanggung Jawab. AI Bertanggung Jawab memastikan bahwa inovasi dalam AI tidak merugikan individu dan masyarakat.

Pemimpin pemikiran, peneliti, organisasi, dan otoritas hukum harus terus-menerus merevisi literatur AI bertanggung jawab untuk memastikan masa depan yang aman untuk inovasi AI.

Untuk konten AI yang lebih banyak, kunjungi unite.ai.