Penggunaan AI yang Etis Bukan Hanya Hal yang Benar untuk Dilakukan – Tetapi Juga Bisnis yang Baik

Ketika adopsi AI meningkat dan organisasi di semua industri mengadopsi alat dan aplikasi berbasis AI, tidak mengherankan bahwa penjahat cyber sudah menemukan cara untuk menargetkan dan mengeksploitasi alat tersebut untuk keuntungan mereka sendiri. Namun, sementara penting untuk melindungi AI dari serangan cyber potensial, masalah risiko AI jauh melampaui keamanan. Di seluruh dunia, pemerintah mulai mengatur bagaimana AI dikembangkan dan digunakan – dan bisnis dapat mengalami kerusakan reputasi yang signifikan jika mereka ditemukan menggunakan AI dengan cara yang tidak tepat. Bisnis saat ini menemukan bahwa menggunakan AI dengan cara yang etis dan bertanggung jawab tidak hanya hal yang benar untuk dilakukan – tetapi juga penting untuk membangun kepercayaan, mempertahankan kepatuhan, dan bahkan meningkatkan kualitas produk mereka.

Kenyaataan Regulasi yang Mengelilingi AI

Lanskap regulasi yang berkembang pesat harus menjadi perhatian serius bagi vendor yang menawarkan solusi berbasis AI. Misalnya, EU AI Act, yang disetujui pada 2024, mengadopsi pendekatan berbasis risiko untuk regulasi AI dan menganggap sistem yang terlibat dalam praktik seperti skor sosial, perilaku manipulatif, dan kegiatan tidak etis lainnya sebagai “tidak dapat diterima.” Sistem tersebut dilarang secara keseluruhan, sementara sistem AI “berisiko tinggi” lainnya tunduk pada kewajiban yang lebih ketat seputar penilaian risiko, kualitas data, dan transparansi. Hukuman untuk ketidakpatuhan sangat parah: perusahaan yang ditemukan menggunakan AI dengan cara yang tidak dapat diterima dapat dikenakan denda hingga €35 juta atau 7% dari omzet tahunan mereka.

EU AI Act hanya salah satu legislasi, tetapi jelas menggambarkan biaya yang tinggi dari gagal memenuhi ambang batas etis tertentu. Negara bagian seperti California, New York, Colorado, dan lain-lain telah mengesahkan pedoman AI mereka sendiri, sebagian besar dari mereka fokus pada faktor seperti transparansi, privasi data, dan pencegahan bias. Dan meskipun Perserikatan Bangsa-Bangsa tidak memiliki mekanisme penegakan seperti yang dinikmati oleh pemerintah, perlu diingat bahwa semua 193 anggota PBB secara bulat mengakui bahwa “hak asasi manusia dan kebebasan fundamental harus dihormati, dilindungi, dan dipromosikan sepanjang siklus hidup sistem AI” dalam resolusi 2024. Di seluruh dunia, hak asasi manusia dan pertimbangan etis semakin menjadi perhatian utama ketika datang ke AI.

Dampak Reputasi dari Etika AI yang Buruk

Sementara kekhawatiran kepatuhan sangat nyata, cerita tidak berakhir di sana. Faktanya, memprioritaskan perilaku etis dapat secara fundamental meningkatkan kualitas solusi AI. Jika sistem AI memiliki bias bawaan, itu buruk untuk alasan etis – tetapi itu juga berarti produk tidak bekerja sebaik yang seharusnya. Misalnya, teknologi pengenalan wajah tertentu telah dikritik karena gagal mengenali wajah berkulit gelap sebaik wajah berkulit terang. Jika solusi pengenalan wajah gagal mengenali sebagian besar subjek, itu menyajikan masalah etis yang serius – tetapi itu juga berarti teknologi itu sendiri tidak memberikan manfaat yang diharapkan, dan pelanggan tidak akan senang. Mengatasi bias tidak hanya memitigasi kekhawatiran etis tetapi juga meningkatkan kualitas produk itu sendiri.

Kekhawatiran tentang bias, diskriminasi, dan keadilan dapat mendarat vendor dalam masalah dengan badan regulasi, tetapi mereka juga mengikis kepercayaan pelanggan. Ini ide yang baik untuk memiliki “garis merah” tertentu ketika datang ke cara AI digunakan dan penyedia mana yang bekerja sama. Penyedia AI yang terkait dengan disinformasi, pengawasan massal, skor sosial, pemerintah yang represif, atau bahkan hanya kurangnya akuntabilitas dapat membuat pelanggan merasa tidak nyaman, dan vendor yang menyediakan solusi berbasis AI harus mempertimbangkan hal ini ketika mempertimbangkan siapa yang bekerja sama. Transparansi hampir selalu lebih baik – mereka yang menolak untuk mengungkapkan bagaimana AI digunakan atau siapa mitra mereka terlihat seperti mereka menyembunyikan sesuatu, yang biasanya tidak memicu sentimen positif di pasar.

Mengidentifikasi dan Memitigasi Bendera Merah Etis

Pelanggan semakin belajar untuk mencari tanda-tanda perilaku AI yang tidak etis. Vendor yang berlebihan berjanji tetapi tidak menjelaskan kemampuan AI mereka mungkin kurang jujur tentang apa yang solusi mereka dapat lakukan. Praktik data yang buruk, seperti pengikisan data berlebihan atau ketidakmampuan untuk keluar dari pelatihan model AI, juga dapat menimbulkan bendera merah. Hari ini, vendor yang menggunakan AI dalam produk dan layanan mereka harus memiliki kerangka kerja tata kelola yang jelas dan tersedia untuk umum dengan mekanisme yang ada untuk akuntabilitas. Mereka yang memaksakan arbitrase – atau lebih buruk, tidak menyediakan pengadilan sama sekali – kemungkinan besar tidak akan menjadi mitra yang baik. Hal yang sama berlaku untuk vendor yang tidak mau atau tidak dapat menyediakan metrik yang mereka gunakan untuk menilai dan mengatasi bias dalam model AI mereka. Pelanggan hari ini tidak mempercayai solusi black box – mereka ingin tahu kapan dan bagaimana AI diterapkan dalam solusi yang mereka andalkan.

Untuk vendor yang menggunakan AI dalam produk mereka, penting untuk mengkomunikasikan kepada pelanggan bahwa pertimbangan etis adalah prioritas utama. Mereka yang melatih model AI mereka sendiri memerlukan proses pencegahan bias yang kuat dan mereka yang mengandalkan vendor AI eksternal harus memprioritaskan mitra dengan reputasi untuk perilaku yang adil. Juga penting untuk menawarkan pelanggan pilihan: banyak yang masih tidak nyaman mempercayakan data mereka ke solusi AI dan menyediakan “keluar” untuk fitur AI memungkinkan mereka untuk bereksperimen dengan kecepatan mereka sendiri. Juga penting untuk transparan tentang dari mana data pelatihan berasal. Lagi, ini etis, tetapi juga bisnis yang baik – jika pelanggan menemukan bahwa solusi yang mereka andalkan dilatih pada data berhak cipta, itu membuka mereka untuk tindakan regulasi atau hukum. Dengan meletakkan semua di luar, vendor dapat membangun kepercayaan dengan pelanggan mereka dan membantu mereka menghindari hasil negatif.

Memrioritaskan Etika Adalah Keputusan Bisnis yang Cerdas

Kepercayaan selalu menjadi bagian penting dari setiap hubungan bisnis. AI tidak mengubah itu – tetapi telah memperkenalkan pertimbangan baru yang perlu diatasi oleh vendor. Kekhawatiran etis tidak selalu menjadi prioritas utama bagi pemimpin bisnis, tetapi ketika datang ke AI, perilaku yang tidak etis dapat memiliki konsekuensi serius – termasuk kerusakan reputasi dan potensi pelanggaran regulasi dan kepatuhan. Lebih parah lagi, kurangnya perhatian pada pertimbangan etis seperti mitigasi bias dapat secara aktif merugikan kualitas produk dan layanan vendor. Ketika adopsi AI terus meningkat, vendor semakin mengakui bahwa memprioritaskan perilaku etis tidak hanya hal yang benar untuk dilakukan – tetapi juga bisnis yang baik.