Panduan Praktis untuk Mengirimkan AI yang Bertanggung Jawab

Penyebaran kecerdasan buatan (AI) berkembang di luar fase pilot awal menjadi solusi yang terintegrasi sepenuhnya, mengarah pada transformasi produksi dan perusahaan. Melawan ini, eksekutif menghadapi tugas yang menantang: memindahkan AI dari konsep bukti ke inti operasi sehari-hari. Perubahan ini memerlukan mereka untuk menjawab pertanyaan baru, mulai dari bagaimana mengembangkan, menerapkan, dan menggunakan AI secara bertanggung jawab untuk membangun fondasi yang dapat dipercaya untuk ditingkatkan.

AI yang Bertanggung Jawab adalah tentang memastikan AI bermanfaat tanpa merugikan orang, organisasi, dan masyarakat. Sementara persepsi mungkin bahwa itu dapat memperlambat siklus pengembangan, dalam prakteknya, itu dapat membuat inovasi lebih kuat. Mengeluarkan AI yang Bertanggung Jawab dapat membantu mengurangi jumlah kegagalan yang mahal, memungkinkan adopsi yang lebih cepat dan kepercayaan, menyediakan sistem yang siap untuk peraturan, dan meningkatkan keberlanjutan.

Namun, memahami bagaimana organisasi dapat mengembangkan, menerapkan, dan mengadopsi AI yang Bertanggung Jawab adalah kunci untuk memastikan praktik dasar dan integrasi penuh. Di sini kami menyediakan panduan praktis tentang bagaimana perusahaan dapat melakukannya, memastikan pengawasan manusia dari tahap desain awal hingga penerapan, pemantauan, penilaian risiko, dan akhirnya pembongkaran.

Orang-orang yang memperlakukan AI yang Bertanggung Jawab sebagai sesuatu yang tidak penting akan berisiko terkena paparan peraturan, kerusakan reputasi, dan erosi kepercayaan klien. Sebaliknya, orang-orang yang mengintegrasikan AI yang Bertanggung Jawab dari awal lebih siap untuk meningkatkan AI secara berkelanjutan.

Mengidentifikasi Lima Prinsip untuk Mengintegrasikan AI yang Bertanggung Jawab

Di jantung setiap strategi AI yang Bertanggung Jawab terdapat serangkaian prinsip inti yang harus memandu pengembangan, penerapan, evaluasi, dan tata kelola. Dampak dari prinsip-prinsip ini akan membentuk praktik tata kelola, manajemen risiko, dan kepatuhan yang memadai untuk melindungi orang dan melindungi nilai merek.

Untuk organisasi besar, mereka harus bekerja di seluruh tim dan dengan mitra eksternal untuk memastikan integrasi. Oleh karena itu, ada lima prinsip kunci yang bisnis dapat adopsi untuk mengarahkan inisiatif AI mereka menuju kepercayaan, kepatuhan, dan hasil etis.

Pertama adalah akuntabilitas. Seseorang harus memiliki tanggung jawab atas hasil untuk setiap sistem AI yang penting dan harus ada orang atau tim yang bertanggung jawab dari awal hingga akhir. Mulai dengan inventori sederhana, otomatisasi untuk meningkatkan skala dan mulai membuat daftar sistem AI, tujuan, sumber data, dan pemilik. Juga penting untuk memiliki rencana untuk ketika sesuatu salah. Sangat penting untuk mengetahui bagaimana mempause dan bagaimana menyelidiki dan memitigasi masalah.

Kedua, menilai keadilan AI dan dampak potensialnya pada orang sangat penting. Jangan hanya mengandalkan metrik teknis dan sadar bahwa hasil AI dapat berbeda di seluruh kelompok dan tidak sengaja merugikan seseorang. Ini sangat penting untuk kasus penggunaan yang berisiko tinggi di bidang seperti perekrutan, pemberian pinjaman, atau perawatan kesehatan. Gunakan tes data kapan pun memungkinkan dan sertakan tinjauan manusia dan alasan untuk output.

Ketiga, keamanan sangat penting. Ancaman terhadap sistem AI terus berkembang, sekarang termasuk serangan berbasis prompt atau agen. Sangat penting untuk mengatasi risiko ini dan bekerja dengan tim keamanan untuk memodelkan serangan potensial ini. Bangun keamanan ke dalam desain, batasi akses AI ke sistem dan data lain, dan lakukan pengujian terus-menerus bahkan setelah peluncuran.

Keempat, privasi adalah hal yang sangat penting. Kekhawatiran ini melampaui data pelatihan awal, dan privasi harus dilindungi pada setiap tahap. Pertimbangkan privasi dalam prompt pengguna, log percakapan, dan output yang dihasilkan AI, karena semuanya dapat berisi informasi pribadi. Desain sistem untuk mengumpulkan hanya data yang diperlukan, tetapkan aturan yang ketat untuk akses dan retensi, dan lakukan tinjauan privasi untuk aplikasi yang berisiko lebih tinggi.

Terakhir, transparansi dan menyediakan kontrol yang menyesuaikan dengan pemangku kepentingan sangat penting. Apa yang dibutuhkan pelanggan berbeda dari pengembang AI. Sebaliknya, pengguna harus tahu ketika mereka berinteraksi dengan AI dan memahami batasannya. Tim internal memerlukan dokumentasi yang jelas tentang bagaimana AI dibangun dan bagaimana kinerjanya. Transparansi sistem AI memicu pengawasan bersama dan kepercayaan pada kemampuan sistem.

Memahami Perbedaan: AI yang Bertanggung Jawab vs. Tata Kelola AI

Sementara AI yang Bertanggung Jawab dan Tata Kelola AI sering digunakan secara bergantian, ada perbedaan kunci. AI yang Bertanggung Jawab adalah serangkaian praktik dan prinsip holistik untuk membuat keputusan yang dapat dipercaya sepanjang pengembangan, penerapan, dan penggunaan AI. Ini fokus pada memungkinkan kemampuan seperti lima prinsip di atas untuk meminimalkan risiko dan memaksimalkan manfaat AI.

Tata Kelola AI, di sisi lain, adalah serangkaian kebijakan, prosedur, dan praktik yang bertujuan untuk memungkinkan hasil positif dan mengurangi kemungkinan kerusakan. Ini fokus pada memasang kontrol organisasi dan teknis yang tepat untuk memungkinkan AI yang bertanggung jawab dan etis, sering dengan penekanan pada akuntabilitas dan kepatuhan dengan hukum dan kebijakan organisasi.

Organisasi lebih siap untuk meningkatkan AI secara bertanggung jawab sambil mempertahankan kepercayaan dan kesiapan peraturan ketika mereka memahami bahwa keduanya berbeda tetapi terkait. Selain itu, sementara beberapa tindakan tentang tanggung jawab dan tata kelola diperlukan oleh hukum, beberapa tidak. Misalnya, hukum yang mengenakan pembatasan pada pekerjaan yang dapat dipegang oleh perempuan di negara tertentu. Oleh karena itu, keduanya diperlukan untuk pendekatan yang komprehensif dan seimbang terhadap AI yang Bertanggung Jawab.

Pentingnya Tata Kelola yang Fleksibel

Ketika AI berkembang, regulator mengambil langkah dengan kerangka tata kelola yang melampaui pedoman sukarela. Peraturan seperti Undang-Undang Kecerdasan Buatan Uni Eropa menempatkan regulasi berbasis risiko di pusat tata kelola AI. Daripada mengatur teknologi secara seragam, Undang-Undang ini mengklasifikasikan sistem AI menjadi beberapa tingkat risiko yang mengakui potensi kerusakan berdasarkan berbagai kasus penggunaan. Misalnya, sistem AI untuk perekrutan versus mesin rekomendasi belanja. Ini berarti bahwa tata kelola, dokumentasi, dan perlindungan harus selaras dengan konteks dan aplikasi AI.

Yurisdiksi lain juga telah mendefinisikan kerangka untuk mengatur AI. Menurut laporan IAPP ini, Singapura mempromosikan pendekatan yang fleksibel dengan alat seperti Kerangka Tata Kelola AI Model, menekankan pengujian dan transparansi daripada mandat yang ketat. Undang-Undang AI Dasar Korea Selatan juga mencampurkan pengawasan dengan ruang untuk inovasi. Dan di dalam industri, ini berbeda. Layanan keuangan telah lama menghadapi standar keamanan dan keadilan yang ketat, sementara AI kesehatan memiliki peraturan perangkat medis untuk dipenuhi. Produk teknologi konsumen juga tunduk pada hukum perlindungan privasi dan konsumen, dengan setiap domain menuntut peraturan yang disesuaikan dengan profil risiko dan harapan sosial.

Oleh karena itu, pendekatan satu-ukuran untuk Tata Kelola AI tidak berfungsi karena industri dan domain negara berbeda dalam jenis kerusakan, pemangku kepentingan yang terkena, dan kerangka hukum yang mereka operasikan. Oleh karena itu, perlu ada fleksibilitas.

Bagaimana Mengelola AI Otonom

Ketika AI memasuki era baru, bergeser dari mesin prediksi yang sempit ke AI agen, sistem yang mampu merencanakan, beradaptasi, dan mengambil tindakan otonom, ini datang dengan risiko baru.

Sebagai contoh, pertimbangkan AI agen yang menjalankan transaksi keuangan atau keputusan SDM secara otonom. Jika itu salah mengklasifikasikan transaksi atau membuat rekomendasi perekrutan yang mengandung bias, konsekuensi bisnis sangat parah, dari kerugian keuangan hingga kerusakan reputasi, sanksi peraturan, dan paparan hukum.

Penelitian yang disajikan dalam Pertimbangan Ekonomi dan Sistemik dalam Sistem Web Agen juga menjelaskan tantangan baru yang dibawa oleh konsep web agen yang muncul, yang bertindak dalam pasar berkecepatan mesin, lintas batas, dan multi-agents. Ini menguraikan beberapa tuas tata kelola arah, termasuk agen pengawasan dan kebijakan yang dapat dibaca mesin, dengan penekanan pada adopsi inklusif di bawah keterbatasan sumber daya yang tidak merata.

Menentang ini, sistem tata kelola perlu menetapkan batasan dan kontrol pada seberapa banyak sistem AI dapat menangani secara otonom tanpa persetujuan manusia. Mereka perlu membangun batasan yang jelas, membatasi akses ke alat dan fungsi otorisasi serta memungkinkan titik desain khusus untuk tinjauan manusia wajib. Semua komponen alur kerja harus diuji termasuk koneksi dan interaksi antara agen, di mana kesalahan sering terjadi. Setiap tindakan harus dicatat untuk jejakability dan kontrol harus ditempatkan untuk menonaktifkan sistem ketika diperlukan untuk mengelola risiko ini.

Masa Depan AI yang Bertanggung Jawab

AI menawarkan kesempatan yang belum pernah terjadi sebelumnya untuk mengubah cara bisnis beroperasi, berinovasi, mengirimkan nilai, dan AI yang Bertanggung Jawab mendukung ini. Mengintegrasikan AI yang Bertanggung Jawab dalam desain, pengembangan, dan penerapan tidak hanya taktik mitigasi risiko hukum, tetapi juga melindungi dan meningkatkan reputasi merek, mendapatkan kepercayaan pelanggan dan klien, serta membuka keunggulan pasar dengan menunjukkan komitmen terhadap inovasi etis.

Namun, untuk membuka manfaatnya, perusahaan harus mengintegrasikan praktik yang bertanggung jawab kunci ke seluruh sistem AI, mulai dari awal dan memperluas hingga akhir siklus hidupnya. Ini termasuk mengintegrasikan pertimbangan etis dan tata kelola ke dalam strategi data, privasi dan pengumpulan, desain sistem, pengembangan, transparansi dan keadilan, penerapan dan pemantauan serta pasca-penerapan dan pembongkaran.

Bagi semua yang terlibat dalam pengembangan dan penerapan AI, mandatnya jelas: bangun dengan bertanggung jawab, atur secara proaktif, antisipasi risiko hari ini, besok dan seterusnya untuk memastikan evolusi AI yang sukses di dunia yang berubah.