Membuka Kotak Hitam pada Keterjelasan AI

Kecerdasan Buatan (AI) telah menjadi bagian integral dari hampir semua aspek kehidupan sehari-hari kita, dari rekomendasi pribadi hingga pengambilan keputusan kritis. Ini adalah suatu hal yang pasti bahwa AI akan terus berkembang, dan dengan itu, ancaman yang terkait dengan AI juga akan menjadi lebih canggih. Ketika bisnis menerapkan pertahanan yang diaktifkan AI untuk merespons kompleksitas yang meningkat, langkah selanjutnya menuju promosi budaya keamanan yang menyeluruh di organisasi adalah meningkatkan keterjelasan AI.

Sementara sistem ini menawarkan kemampuan yang mengesankan, mereka sering berfungsi sebagai “kotak hitam“—menghasilkan hasil tanpa wawasan yang jelas tentang bagaimana model tersebut mencapai kesimpulan yang dilakukan. Masalah sistem AI membuat pernyataan palsu atau mengambil tindakan palsu dapat menyebabkan masalah yang signifikan dan gangguan bisnis potensial. Ketika perusahaan membuat kesalahan karena AI, pelanggan dan konsumen mereka menuntut penjelasan dan segera setelah itu, solusi.

Tapi apa yang salah? Seringkali, data yang buruk digunakan untuk pelatihan. Sebagai contoh, sebagian besar teknologi GenAI publik dilatih pada data yang tersedia di Internet, yang sering tidak diverifikasi dan tidak akurat. Sementara AI dapat menghasilkan respons yang cepat, akurasi respons tersebut tergantung pada kualitas data yang digunakannya.

Kesalahan AI dapat terjadi dalam berbagai contoh, termasuk generasi skrip dengan perintah yang salah dan keputusan keamanan yang salah, atau menolak seorang karyawan dari bekerja pada sistem bisnis karena tuduhan palsu yang dibuat oleh sistem AI. Semua ini memiliki potensi untuk menyebabkan gangguan bisnis yang signifikan. Ini hanya salah satu dari banyak alasan mengapa memastikan transparansi adalah kunci untuk membangun kepercayaan pada sistem AI.

Membangun Kepercayaan

Kita hidup dalam budaya di mana kita mempercayai berbagai sumber dan informasi. Namun, pada saat yang sama, kita menuntut bukti dan validasi lebih dan lebih, perlu untuk terus memvalidasi berita, informasi, dan klaim. Ketika datang ke AI, kita mempercayai sistem yang memiliki potensi untuk tidak akurat. Lebih penting lagi, mustahil untuk mengetahui apakah tindakan yang diambil oleh sistem AI akurat tanpa transparansi tentang dasar keputusan yang dibuat. Bagaimana jika sistem AI keamanan Anda mematikan mesin, tetapi itu salah menginterpretasikan tanda-tanda? Tanpa wawasan tentang informasi yang menyebabkan sistem membuat keputusan itu, tidak ada cara untuk mengetahui apakah itu membuat keputusan yang benar.

Sementara gangguan bisnis sangat menjengkelkan, salah satu kekhawatiran yang lebih signifikan dengan penggunaan AI adalah privasi data. Sistem AI, seperti ChatGPT, adalah model pembelajaran mesin yang mendapatkan jawaban dari data yang diterimanya. Oleh karena itu, jika pengguna atau pengembang secara tidak sengaja memberikan informasi sensitif, model pembelajaran mesin mungkin menggunakan data tersebut untuk menghasilkan respons kepada pengguna lain yang mengungkapkan informasi rahasia. Kesalahan ini memiliki potensi untuk sangat mengganggu efisiensi, profitabilitas, dan yang paling penting, kepercayaan pelanggan. Sistem AI dimaksudkan untuk meningkatkan efisiensi dan memudahkan proses, tetapi dalam kasus di mana validasi konstan diperlukan karena output tidak dapat dipercaya, organisasi tidak hanya membuang waktu tetapi juga membuka pintu untuk kerentanan potensial.

Melatih Tim untuk Penggunaan AI yang Bertanggung Jawab

Untuk melindungi organisasi dari risiko potensial penggunaan AI, profesional IT memiliki tanggung jawab penting untuk melatih rekan mereka dengan cukup untuk memastikan bahwa AI digunakan secara bertanggung jawab. Dengan melakukan ini, mereka membantu menjaga organisasi mereka aman dari serangan cyber yang mengancam viabilitas dan profitabilitas mereka.

Namun, sebelum melatih tim, pemimpin IT perlu menyelaraskan secara internal untuk menentukan sistem AI mana yang akan sesuai untuk organisasi mereka. Terburu-buru ke AI hanya akan berakhir dengan kegagalan nanti, jadi mulailah dengan kecil, fokus pada kebutuhan organisasi. Pastikan standar dan sistem yang dipilih sesuai dengan tumpukan teknologi organisasi dan tujuan perusahaan, dan bahwa sistem AI memenuhi standar keamanan yang sama dengan vendor lain yang dipilih.

Setelah sistem dipilih, profesional IT dapat memulai memberikan tim mereka pengalaman dengan sistem ini untuk memastikan kesuksesan. Mulailah dengan menggunakan AI untuk tugas kecil dan melihat di mana itu berfungsi dengan baik dan di mana tidak, dan pelajari apa potensi bahaya atau validasi yang perlu diterapkan. Kemudian, perkenalkan penggunaan AI untuk meningkatkan pekerjaan, memungkinkan resolusi self-service yang lebih cepat, termasuk pertanyaan “bagaimana” sederhana. Dari sana, dapat diajarkan bagaimana menempatkan validasi. Ini sangat berharga karena kita akan mulai melihat lebih banyak pekerjaan menjadi tentang menempatkan kondisi batas dan validasi bersama, dan sudah terlihat dalam pekerjaan seperti menggunakan AI untuk membantu menulis perangkat lunak.

Selain langkah-langkah yang dapat dilakukan untuk melatih anggota tim, memulai dan mendorong diskusi juga sangat penting. Dorong dialog terbuka, didorong oleh data, tentang bagaimana AI melayani kebutuhan pengguna – apakah itu memecahkan masalah dengan akurat dan lebih cepat, apakah kita meningkatkan produktivitas untuk perusahaan dan pengguna akhir, apakah skor NPS pelanggan kita meningkat karena alat-alat yang digerakkan AI ini? Jelaskan dengan jelas tentang return on investment (ROI) dan pertahankan itu di depan. Komunikasi yang jelas akan memungkinkan kesadaran tentang penggunaan yang bertanggung jawab tumbuh, dan ketika anggota tim memahami lebih baik bagaimana sistem AI bekerja, mereka lebih mungkin untuk menggunakannya secara bertanggung jawab.

Bagaimana Mencapai Transparansi dalam AI

Meskipun melatih tim dan meningkatkan kesadaran sangat penting, untuk mencapai transparansi dalam AI, sangat penting bahwa ada lebih banyak konteks sekitar data yang digunakan untuk melatih model, memastikan bahwa hanya data berkualitas yang digunakan. Mudah-mudahan, akan ada cara untuk melihat bagaimana sistem itu beralasan sehingga kita dapat sepenuhnya mempercayainya. Namun, sampai saat itu, kita memerlukan sistem yang dapat bekerja dengan validasi dan guardrails dan membuktikan bahwa mereka mematuhinya.

Sementara transparansi penuh akan akhirnya membutuhkan waktu untuk dicapai, pertumbuhan cepat AI dan penggunaannya membuat nya perlu bekerja cepat. Ketika model AI terus meningkat dalam kompleksitas, mereka memiliki kekuatan untuk membuat perbedaan besar bagi kemanusiaan, tetapi konsekuensi dari kesalahan mereka juga tumbuh. Sebagai hasilnya, memahami bagaimana sistem ini mencapai keputusan mereka sangat berharga dan diperlukan untuk tetap efektif dan dapat dipercaya. Dengan fokus pada sistem AI yang transparan, kita dapat memastikan bahwa teknologi ini seberguna yang dimaksudkan sambil tetap tidak bias, etis, efisien, dan akurat.