Kekurangan AI yang Dapat Dipercaya Dapat Menghambat Inovasi dan Nilai Bisnis

Survei terbaru di antara pemimpin bisnis global menunjukkan bahwa AI yang dapat dipercaya adalah prioritas utama, namun banyak yang tidak mengambil langkah yang cukup untuk mencapainya, tetapi dengan biaya apa?

Memang, survei IBM mengungkapkan bahwa 85% responden setuju bahwa konsumen lebih mungkin memilih perusahaan yang transparan tentang bagaimana model AI mereka dibangun, dikelola, dan digunakan.

Namun, sebagian besar mengakui bahwa mereka belum mengambil langkah-langkah kunci untuk memastikan AI mereka dapat dipercaya dan bertanggung jawab, seperti mengurangi bias (74%), melacak variasi kinerja dan drift model (68%), dan memastikan bahwa mereka dapat menjelaskan keputusan yang didukung AI (61%). Ini sangat mengkhawatirkan, terutama ketika Anda mempertimbangkan bahwa penggunaan AI terus tumbuh – dengan 35% mengatakan bahwa mereka sekarang menggunakan AI dalam bisnis mereka, naik dari 31% setahun yang lalu.

Saya baru-baru ini menghadiri Corporate Innovation Summit yang diadakan di Toronto, di mana peserta bertukar ide inovatif dan menampilkan teknologi yang siap untuk membentuk masa depan. Saya memiliki kehormatan untuk berpartisipasi dalam tiga sesi diskusi dalam segmen jasa keuangan, asuransi, dan ritel dengan tiga area utama yang muncul: kebutuhan akan transparansi lebih besar untuk membangun kepercayaan pada AI, demokratisasi AI melalui no-code/low-code, dan pengembangan untuk mengirimkan waktu-ke-nilai yang lebih cepat dan mitigasi risiko melalui praktik terbaik pemerintahan AI.

Meningkatkan kepercayaan pada teknologi AI. COVID-19 memperkuat dan mempercepat tren menuju penerimaan chatbot yang didukung AI, asisten keuangan virtual, dan pendaftaran pelanggan tanpa sentuhan. Tren ini akan terus berlanjut seperti yang dikonfirmasi dalam penelitian oleh Cap Gemini yang menunjukkan bahwa 78% konsumen yang disurvei berencana untuk meningkatkan penggunaan teknologi AI, termasuk manajemen identitas digital dalam interaksi mereka dengan organisasi jasa keuangan.

Meskipun memiliki manfaat bawaan, sejumlah tantangan muncul. Yang utama adalah ketidakpercayaan konsumen yang terus-menerus terhadap teknologi AI dan bagaimana sifatnya yang meresap memengaruhi hak privasi dan keamanan mereka. 30% konsumen menyatakan bahwa mereka akan lebih nyaman berbagi informasi biometrik mereka jika penyedia jasa keuangan mereka memberikan lebih banyak transparansi dalam menjelaskan bagaimana informasi mereka dikumpulkan, dikelola, dan diamankan.

CIO harus mengadopsi prinsip AI yang dapat dipercaya dan menerapkan langkah-langkah yang ketat untuk melindungi hak privasi dan keamanan. Mereka dapat mencapai ini melalui penggunaan enkripsi, minimisasi data, dan otentikasi yang lebih aman, termasuk mempertimbangkan standar identitas digital terdesentralisasi yang muncul. Sebagai hasilnya, upaya otomatisasi pintar Anda dan penawaran layanan mandiri akan melihat adopsi yang lebih besar dan memerlukan intervensi manusia yang lebih sedikit.

Menghilangkan hambatan untuk demokratisasi AI. Terdapat pergeseran yang tumbuh menuju pengembangan aplikasi AI no-code/low-code, yang penelitian memperkirakan akan mencapai $45,5 miliar pada tahun 2025. Penggerak utama adalah waktu ke nilai yang lebih cepat dengan perbaikan produktivitas pengembangan aplikasi sebesar 10x.

Misalnya, 56% organisasi jasa keuangan yang disurvei menganggap pengumpulan data dari peminjam sebagai salah satu langkah paling sulit dan tidak efisien dalam proses aplikasi pinjaman, yang menghasilkan tingkat pengabaian yang tinggi. Sementara teknologi identifikasi biometrik dan pengumpulan data yang didorong AI terbukti dapat meningkatkan efisiensi dalam proses aplikasi pinjaman, mereka juga dapat menghasilkan risiko kepatuhan, terutama risiko privasi data, kerahasiaan, dan bias algoritma AI.

Untuk memitigasi dan memperbaiki risiko tersebut, aplikasi no-code/low-code harus mencakup pengujian komprehensif untuk memastikan bahwa mereka berfungsi sesuai dengan tujuan desain awal, menghilangkan potensi bias dalam set data pelatihan yang mungkin termasuk bias sampling, bias pelabelan, dan aman dari serangan AI yang dapat memengaruhi hasil algoritma AI. Pertimbangan prinsip ilmu data yang bertanggung jawab dari keadilan, akurasi, kerahasiaan, dan keamanan sangat penting.

Mengembangkan kerangka tata kelola dan regulasi AI. Tata kelola AI tidak lagi menjadi inisiatif yang baik, tetapi sebuah keharusan. Menurut pelacak kebijakan AI nasional OECD, terdapat lebih dari 700 inisiatif regulasi AI yang sedang dikembangkan di lebih dari 60 negara. Namun, ada kode etik sukarela dan prinsip AI etis yang dikembangkan oleh organisasi standar internasional seperti Institut Elektro dan Elektronik (IEEE) dan Institut Standar dan Teknologi Nasional (NIST).

Kekhawatiran dari organisasi mengelilingi asumsi bahwa regulasi AI akan mengimpos lebih banyak kewajiban kepatuhan yang ketat pada mereka, didukung oleh mekanisme penegakan yang keras, termasuk sanksi untuk tidak mematuhi. Namun, regulasi AI adalah tidak terhindarkan.

Eropa dan Amerika Utara mengambil posisi proaktif yang akan memerlukan CIO untuk berkolaborasi dengan rekan teknologi dan bisnis mereka untuk membentuk kebijakan yang efektif. Misalnya, Komisi Eropa telah mengusulkan Undang-Undang Kecerdasan Buatan yang mengusulkan untuk membangun kewajiban berbasis risiko pada penyedia AI untuk melindungi hak konsumen, sambil juga mempromosikan inovasi dan kesempatan ekonomi yang terkait dengan teknologi AI.

Selain itu, pada Juni 2022, Pemerintah Federal Kanada merilis Undang-Undang Implementasi Piagam Digital yang melindungi terhadap dampak negatif dari sistem AI berisiko tinggi. AS juga melanjutkan dengan inisiatif regulasi AI, meskipun secara sektoral. Komisi Perdagangan Federal (FTC), Biro Perlindungan Keuangan Konsumen (CFPB) dan Dewan Reserve Federal semua menggunakan otot regulasi mereka melalui mekanisme penegakan untuk melindungi konsumen terhadap dampak negatif yang timbul dari aplikasi AI yang meningkat yang mungkin menghasilkan hasil diskriminatif, meskipun tidak disengaja. Kerangka regulasi AI adalah suatu keharusan untuk setiap perusahaan inovatif.

Mencapai AI yang Dapat Dipercaya Memerlukan Wawasan Berbasis Data

Implementasi AI yang dapat dipercaya tidak dapat dicapai tanpa pendekatan berbasis data untuk menentukan di mana aplikasi teknologi AI mungkin memiliki dampak terbesar sebelum melanjutkan dengan implementasi. Apakah itu untuk meningkatkan keterlibatan pelanggan, atau untuk mewujudkan efisiensi operasional atau untuk memitigasi risiko kepatuhan?

Setiap penggerak bisnis ini memerlukan pemahaman tentang bagaimana proses dieksekusi, bagaimana eskalasi dan pengecualian ditangani, dan mengidentifikasi variasi dalam eksekusi proses, hambatan, dan penyebab akar. Berdasarkan analisis berbasis data seperti itu, organisasi dapat membuat keputusan bisnis yang tepat tentang dampak dan hasil yang terkait dengan implementasi solusi berbasis AI untuk mengurangi gesekan pendaftaran pelanggan dan meningkatkan efisiensi operasional. Setelah organisasi memiliki manfaat dari wawasan berbasis data, maka mereka dapat mengotomatisasi proses yang sangat padat karya seperti memenuhi mandat kepatuhan AI, audit kepatuhan, KYC, dan AML di jasa keuangan.

Inti dari hal ini adalah bahwa bagian integral dari otomatisasi proses yang didukung AI adalah implementasi praktik terbaik AI yang dapat dipercaya. Penggunaan etis AI tidak boleh dipertimbangkan hanya sebagai kewajiban hukum dan moral, tetapi sebagai keharusan bisnis. Ini merupakan keputusan bisnis yang baik untuk transparan dalam penerapan AI. Ini membangun kepercayaan dan memupuk loyalitas merek.