Kemampuan Penjelasan Dapat Menangani Masalah AI di Setiap Industri: Kekurangan Transparansi

Oleh: Migüel Jetté, VP of R&D Speech, Rev.

Pada tahap awal, AI mungkin dapat beristirahat di atas kemampuan barunya. Ini tidak masalah jika machine learning belajar secara perlahan dan mempertahankan proses yang tidak transparan di mana perhitungan AI tidak dapat dipahami oleh konsumen rata-rata. Namun, hal ini mulai berubah. Ketika lebih banyak industri seperti kesehatan, keuangan, dan sistem peradilan pidana mulai menggunakan AI dengan cara yang dapat memiliki dampak nyata pada kehidupan orang, lebih banyak orang ingin tahu bagaimana algoritma digunakan, bagaimana data diperoleh, dan seberapa akurat kemampuan AI. Jika perusahaan ingin tetap berada di garis depan inovasi di pasar mereka, mereka perlu mengandalkan AI yang dapat dipercayai oleh audiens mereka. Kemampuan penjelasan AI adalah kunci untuk memperdalam hubungan tersebut.

Kemampuan penjelasan AI berbeda dari prosedur AI standar karena menawarkan orang cara untuk memahami bagaimana algoritma machine learning menciptakan output. AI yang dapat dijelaskan adalah sistem yang dapat memberikan orang hasil potensial dan kelemahan. Ini adalah sistem machine learning yang dapat memenuhi keinginan manusia untuk keadilan, akuntabilitas, dan rasa hormat terhadap privasi. AI yang dapat dijelaskan sangat penting bagi bisnis untuk membangun kepercayaan dengan konsumen.

Saat AI berkembang, penyedia AI perlu memahami bahwa model “black box” tidak dapat dipertahankan. Model “black box” dibuat langsung dari data dan seringkali bahkan pengembang yang menciptakan algoritma tidak dapat mengidentifikasi apa yang mendorong kebiasaan mesin. Namun, konsumen yang bertanggung jawab tidak ingin berinteraksi dengan sesuatu yang tidak transparan sehingga tidak dapat dipertanggungjawabkan. Orang ingin tahu bagaimana algoritma AI mencapai hasil tertentu tanpa misteri input dan output yang dikendalikan, terutama ketika kesalahan AI sering disebabkan oleh bias mesin. Saat AI menjadi lebih maju, orang ingin mengakses proses machine learning untuk memahami bagaimana algoritma mencapai hasil tertentu. Pemimpin di setiap industri harus memahami bahwa lebih cepat atau lambat, orang tidak akan lagi memilih akses ini tetapi menuntutnya sebagai tingkat transparansi yang diperlukan.

Sistem ASR seperti asisten suara, teknologi transkripsi, dan layanan lain yang mengubah ucapan manusia menjadi teks sangat terpengaruh oleh bias. Ketika layanan digunakan untuk langkah-langkah keamanan, kesalahan karena aksen, usia, atau latar belakang seseorang dapat menjadi kesalahan yang parah, sehingga masalah ini harus dianggap serius. ASR dapat digunakan secara efektif dalam kamera tubuh polisi, misalnya, untuk merekam dan mentranskripsikan interaksi secara otomatis — menyimpan catatan yang, jika ditranskripsikan dengan akurat, dapat menyelamatkan nyawa. Praktik kemampuan penjelasan akan memerlukan AI untuk tidak hanya mengandalkan dataset yang dibeli, tetapi untuk memahami karakteristik audio masuk yang mungkin menyebabkan kesalahan jika ada. Apa profil akustiknya? Apakah ada kebisingan di latar belakang? Apakah pembicara dari negara non-Inggris atau dari generasi yang menggunakan kosakata yang belum dipelajari AI? Machine learning perlu proaktif dalam belajar lebih cepat dan dapat dimulai dengan mengumpulkan data yang dapat menangani variabel-variabel ini.

Keperluan ini menjadi jelas, tetapi jalur untuk mengimplementasikan metode ini tidak selalu memiliki solusi yang mudah. Jawaban tradisional untuk masalah ini adalah menambahkan lebih banyak data, tetapi solusi yang lebih canggih akan diperlukan, terutama ketika dataset yang dibeli oleh banyak perusahaan secara inheren memiliki bias. Ini karena secara historis, sulit untuk menjelaskan keputusan tertentu yang diambil oleh AI dan itu disebabkan oleh kompleksitas model akhir-ke-akhir. Namun, sekarang kita dapat, dan kita dapat memulai dengan bertanya bagaimana orang kehilangan kepercayaan pada AI pada awalnya.

Tidak dapat dihindari, AI akan membuat kesalahan. Perusahaan perlu membangun model yang menyadari kelemahan potensial, mengidentifikasi kapan dan di mana masalah terjadi, dan menciptakan solusi berkelanjutan untuk membangun model AI yang lebih kuat:

1. Ketika sesuatu salah, pengembang akan perlu menjelaskan apa yang terjadi dan mengembangkan rencana segera untuk memperbaiki model untuk mengurangi kesalahan serupa di masa depan.
2. Agar mesin dapat mengetahui apakah benar atau salah, ilmuwan perlu menciptakan umpan balik sehingga AI dapat belajar dari kelemahan dan berkembang.
3. Cara lain untuk ASR membangun kepercayaan saat AI masih berkembang adalah menciptakan sistem yang dapat memberikan skor kepercayaan, dan menawarkan alasan mengapa AI kurang percaya diri. Misalnya, perusahaan biasanya menghasilkan skor dari nol hingga 100 untuk mencerminkan kekurangan AI mereka sendiri dan membangun transparansi dengan pelanggan mereka. Di masa depan, sistem mungkin menyediakan penjelasan pasca-fakta untuk mengapa audio sulit dipahami dengan menawarkan lebih banyak metadata tentang audio, seperti tingkat kebisingan yang dirasakan atau aksen yang kurang dipahami.

Transparansi tambahan akan menghasilkan pengawasan manusia yang lebih baik atas pelatihan dan kinerja AI. Semakin kita terbuka tentang di mana kita perlu memperbaiki, semakin kita bertanggung jawab untuk mengambil tindakan pada perbaikan tersebut. Misalnya, seorang peneliti mungkin ingin tahu mengapa teks yang salah dihasilkan sehingga mereka dapat memitigasi masalah, sedangkan seorang juru transkripsi mungkin ingin bukti mengapa ASR salah menginterpretasikan input untuk membantu dengan penilaian validitasnya. Memasukkan manusia ke dalam proses dapat memitigasi beberapa masalah paling jelas yang muncul ketika AI tidak terkendali. Ini juga dapat mempercepat waktu yang dibutuhkan AI untuk menangkap kesalahan, memperbaiki, dan akhirnya memperbaiki diri secara real-time.

AI memiliki kemampuan untuk memperbaiki kehidupan orang, tetapi hanya jika manusia membangunnya untuk menghasilkan dengan benar. Kita perlu mempertanggungjawabkan tidak hanya sistem ini tetapi juga orang-orang di balik inovasi. Sistem AI di masa depan diharapkan untuk mematuhi prinsip yang ditetapkan oleh manusia, dan hanya sampai saat itu kita akan memiliki sistem yang dipercayai orang. Saatnya untuk meletakkan dasar dan berusaha untuk prinsip-prinsip tersebut sekarang, sementara masih manusia yang melayani diri kita sendiri.