Bias dan Keadilan Sistem Berbasis AI dalam Kejahatan Finansial

Ketika datang untuk melawan kejahatan keuangan, tantangan ada yang melampaui ruang lingkup hanya menghentikan penipu atau aktor jahat lainnya.

Beberapa teknologi terbaru yang diluncurkan sering memiliki masalah spesifik yang harus dipertimbangkan selama tahap adopsi untuk berhasil melawan penipu tanpa konsekuensi regulasi. Dalam deteksi penipuan, keadilan model dan bias data dapat terjadi ketika sistem lebih berat atau kekurangan representasi dari kelompok atau kategori data tertentu. Secara teori, model prediktif bisa salah mengasosiasikan nama belakang dari budaya lain dengan akun penipuan, atau menurunkan risiko dalam segmen populasi untuk jenis aktivitas keuangan tertentu.

Sistem AI yang bias dapat mewakili ancaman serius ketika reputasi dapat dipengaruhi dan terjadi ketika data yang tersedia tidak representatif dari populasi atau fenomena yang sedang diselidiki. Data ini tidak termasuk variabel yang tepat untuk menangkap fenomena yang ingin diprediksi. Atau alternatifnya, data bisa termasuk konten yang diproduksi oleh manusia yang mungkin mengandung bias terhadap kelompok orang, yang diwariskan oleh pengalaman budaya dan pribadi, yang menyebabkan distorsi saat membuat keputusan. Sementara pada awalnya data mungkin tampak objektif, data masih dikumpulkan dan dianalisis oleh manusia, dan oleh karena itu dapat berbias.

Sementara tidak ada solusi ajaib ketika datang untuk memperbaiki bahaya diskriminasi dan ketidakadilan dalam sistem AI atau perbaikan permanen untuk masalah keadilan dan mitigasi bias dalam membangun model pembelajaran mesin dan penggunaan, masalah-masalah ini harus dipertimbangkan untuk alasan sosial dan bisnis.

Melakukan Hal yang Benar dalam AI

Mengatasi bias dalam sistem berbasis AI tidak hanya hal yang benar, tetapi juga hal yang cerdas untuk bisnis — dan taruhan untuk pemimpin bisnis sangat tinggi. Sistem AI yang bias dapat memimpin lembaga keuangan ke jalan yang salah dengan mengalokasikan kesempatan, sumber daya, informasi atau kualitas layanan secara tidak adil. Mereka bahkan memiliki potensi untuk melanggar hak-hak sipil, membahayakan keselamatan individu, atau mempengaruhi kesejahteraan seseorang jika dianggap merendahkan atau menyerang.

Penting bagi perusahaan untuk memahami kekuatan dan risiko bias AI. Meskipun sering tidak diketahui oleh lembaga, sistem AI yang bias bisa menggunakan model atau data yang merugikan yang mengungkapkan bias ras atau gender ke dalam keputusan pemberian kredit. Informasi seperti nama dan jenis kelamin bisa menjadi proxy untuk mengkategorikan dan mengidentifikasi pelamar dengan cara ilegal. Bahkan jika bias tidak disengaja, itu masih membuat organisasi berisiko dengan tidak mematuhi persyaratan regulasi dan bisa menyebabkan kelompok orang tertentu secara tidak adil ditolak pinjaman atau kredit.

Saat ini, organisasi tidak memiliki komponen yang diperlukan untuk berhasil memitigasi bias dalam sistem AI. Namun, dengan AI yang semakin banyak diterapkan di seluruh bisnis untuk memandu keputusan, sangat penting bagi organisasi untuk berusaha mengurangi bias, tidak hanya untuk alasan moral, tetapi juga untuk mematuhi persyaratan regulasi dan membangun pendapatan.

Budaya dan Implementasi “Sadar Keadilan”

Solusi yang berfokus pada desain dan implementasi yang sadar keadilan akan memiliki hasil yang paling bermanfaat. Penyedia harus memiliki budaya analitis yang mempertimbangkan akuisisi data yang bertanggung jawab, penanganan, dan manajemen sebagai komponen penting dari keadilan algoritmik, karena jika hasil proyek AI dihasilkan oleh dataset yang bias, rusak, atau miring, pihak yang terkena dampak tidak akan cukup dilindungi dari kerusakan diskriminatif.

Berikut adalah elemen keadilan data yang tim sains data harus pertimbangkan:

• Representativitas: Bergantung pada konteks, baik underrepresentasi atau overrepresentasi dari kelompok yang kurang beruntung atau kelompok yang dilindungi secara hukum dalam sampel data dapat menyebabkan kelompok yang rentan secara sistematis dirugikan dalam hasil model yang dilatih. Untuk menghindari jenis bias sampling, keahlian domain akan sangat penting untuk menilai kesesuaian antara data yang dikumpulkan atau diperoleh dan populasi yang mendasarinya. Anggota tim teknis harus menawarkan sarana untuk memperbaiki kekurangan representatif dalam sampling.
• Cocok untuk Tujuan dan Kecukupan: Penting untuk memahami apakah data yang dikumpulkan cukup untuk tujuan proyek yang dimaksud. Dataset yang tidak cukup mungkin tidak mencerminkan kualitas yang harus dipertimbangkan untuk menghasilkan hasil yang dibenarkan yang konsisten dengan tujuan AI yang diinginkan. Oleh karena itu, anggota tim proyek dengan kompetensi teknis dan kebijakan harus bekerja sama untuk menentukan apakah kuantitas data cukup dan sesuai dengan tujuan.
• Integritas Sumber dan Akurasi Pengukuran: Mitigasi bias yang efektif dimulai dari awal proses ekstraksi dan pengumpulan data. Baik sumber maupun alat pengukuran dapat memperkenalkan faktor diskriminatif ke dalam dataset. Untuk memastikan non-harm diskriminatif, sampel data harus memiliki integritas sumber yang optimal. Ini melibatkan memastikan atau mengonfirmasi bahwa proses pengumpulan data melibatkan sumber pengukuran yang sesuai, dapat diandalkan, dan tidak memihak, serta metode pengumpulan yang kuat.
• Ketepatan Waktu dan Kekinian: Jika dataset termasuk data yang sudah ketinggalan zaman, maka perubahan dalam distribusi data yang mendasarinya dapat mempengaruhi generalisasi model yang dilatih. Jika pergeseran distribusi ini mencerminkan perubahan hubungan sosial atau dinamika kelompok, maka kehilangan akurasi terkait karakteristik sebenarnya dari populasi yang mendasarinya dapat memperkenalkan bias ke dalam sistem AI. Dalam mencegah hasil diskriminatif, ketepatan waktu dan kekinian dari semua elemen dataset harus diperiksa.
• Relevansi, Kelayakan, dan Pengetahuan Domain: Pemahaman dan penggunaan sumber dan jenis data yang paling sesuai sangat penting untuk membangun sistem AI yang kuat dan tidak bias. Pengetahuan domain yang solid tentang distribusi populasi yang mendasarinya dan tentang tujuan prediktif proyek sangat penting untuk memilih input pengukuran yang paling relevan yang memberikan kontribusi pada resolusi masalah yang wajar. Ahli domain harus bekerja sama erat dengan tim sains data untuk membantu menentukan kategori dan sumber pengukuran yang paling sesuai.

Sementara sistem berbasis AI membantu dalam proses automatisasi pengambilan keputusan dan memberikan penghematan biaya, lembaga keuangan yang mempertimbangkan AI sebagai solusi harus waspada untuk memastikan bahwa keputusan yang bias tidak terjadi. Pemimpin kepatuhan harus berada dalam keselarasan dengan tim sains data untuk mengonfirmasi bahwa kemampuan AI bertanggung jawab, efektif, dan bebas dari bias. Memiliki strategi yang mendukung AI yang bertanggung jawab adalah hal yang benar untuk dilakukan, dan itu juga dapat menyediakan jalur untuk mematuhi regulasi AI di masa depan.