Pada 2022, perusahaan memiliki rata-rata 3,8 model AI dalam produksi. Saat ini, tujuh dari sepuluh perusahaan bereksperimen dengan AI generatif, yang berarti bahwa jumlah model AI dalam produksi akan melonjak dalam beberapa tahun mendatang. Sebagai hasilnya, diskusi industri sekitar AI bertanggung jawab telah menjadi lebih mendesak.

Berita baiknya adalah bahwa lebih dari setengah organisasi sudah menjadi juara etika AI. Namun, hanya sekitar 20% telah mengimplementasikan program komprehensif dengan kerangka, tata kelola, dan pengamanan untuk mengawasi pengembangan model AI dan proaktif mengidentifikasi dan memitigasi risiko. Mengingat kecepatan pengembangan AI, pemimpin harus melangkah maju sekarang untuk mengimplementasikan kerangka dan proses yang matang. Regulasi di seluruh dunia akan segera hadir, dan sudah satu dari dua organisasi telah mengalami kegagalan AI bertanggung jawab.

Tantangan Mengimplementasikan AI Bertanggung Jawab

AI bertanggung jawab mencakup hingga 20 fungsi bisnis yang berbeda, meningkatkan kompleksitas proses dan pengambilan keputusan. Tim AI bertanggung jawab harus bekerja dengan pemangku kepentingan kunci, termasuk kepemimpinan; pemilik bisnis; tim data, AI, dan IT; dan mitra untuk:

• Membangun solusi AI yang adil dan bebas dari bias: Tim dan mitra dapat menggunakan teknik yang berbeda, seperti analisis data eksploratif, untuk mengidentifikasi dan memitigasi potensi bias sebelum mengembangkan solusi—dengan cara itu, model dibangun dengan keadilan dalam pikiran dari awal. Tim dan mitra juga dapat meninjau data yang digunakan dalam pra-pengolahan, desain algoritma, dan pasca-pengolahan untuk memastikan bahwa data tersebut representatif dan seimbang. Selain itu, mereka dapat menggunakan teknik keadilan kelompok dan individu untuk memastikan bahwa algoritma memperlakukan kelompok dan individu yang berbeda dengan adil. Dan pendekatan keadilan kontrafaktual memodelkan hasil jika faktor tertentu diubah, membantu mengidentifikasi dan mengatasi bias.
• Mempromosikan transparansi dan keterjelasan AI: Transparansi AI berarti mudah untuk memahami bagaimana model AI bekerja dan membuat keputusan. Keterjelasan berarti keputusan tersebut dapat dengan mudah dikomunikasikan kepada orang lain dalam istilah non-teknis. Menggunakan terminologi umum, mengadakan diskusi reguler dengan pemangku kepentingan, dan menciptakan budaya kesadaran AI dan pembelajaran berkelanjutan dapat membantu mencapai tujuan ini.
• Memastikan privasi dan keamanan data: Model AI menggunakan gunung data. Perusahaan menggunakan data pertama dan ketiga untuk memberi makan model. Mereka juga menggunakan teknik pembelajaran yang menjaga privasi, seperti membuat data sintetis untuk mengatasi masalah kekurangan data. Pemimpin dan tim akan ingin meninjau dan mengembangkan pengamanan privasi dan keamanan data untuk memastikan bahwa data rahasia dan sensitif masih dilindungi saat digunakan dalam cara baru. Misalnya, data sintetis harus meniru karakteristik kunci pelanggan tetapi tidak dapat dilacak kembali ke individu.
• Mengimplementasikan tata kelola: Tata kelola akan bervariasi berdasarkan kematangan AI perusahaan. Namun, perusahaan harus menetapkan prinsip dan kebijakan AI dari awal. Saat penggunaan model AI mereka meningkat, mereka dapat menunjuk petugas AI; mengimplementasikan kerangka; menciptakan mekanisme akuntabilitas dan pelaporan; dan mengembangkan umpan balik dan program perbaikan berkelanjutan.

Pengaktif Kritis Program AI Bertanggung Jawab

Jadi, apa yang membedakan perusahaan yang menjadi pemimpin AI bertanggung jawab dari yang lain? Mereka:

• Menciptakan visi dan tujuan untuk AI: Pemimpin mengkomunikasikan visi dan tujuan mereka untuk AI dan bagaimana AI memberikan manfaat bagi perusahaan, pelanggan, dan masyarakat.
• Menetapkan harapan: Pemimpin senior menetapkan harapan yang tepat dengan tim untuk membangun solusi AI bertanggung jawab dari awal rather daripada mencoba menyesuaikan solusi setelah selesai.
• Mengimplementasikan kerangka dan proses: Mitra menyediakan kerangka AI bertanggung jawab dengan proses transparan dan pengamanan. Misalnya, pemeriksaan privasi data, keadilan, dan bias harus dibangun ke dalam persiapan data awal, pengembangan model, dan pemantauan berkelanjutan.
• Mengakses domain, industri, dan keterampilan AI: Tim ingin mempercepat inovasi solusi AI untuk meningkatkan daya saing bisnis. Mereka dapat bermitra untuk mendapatkan keterampilan domain dan industri yang relevan, seperti strategi dan eksekusi data dan AI, dipasangkan dengan analitik pelanggan, teknologi pemasaran, rantai pasokan, dan kemampuan lainnya. Mitra juga dapat menyediakan keterampilan AI spektrum penuh, termasuk teknik rekayasa, pengembangan, operasional, dan kemampuan rekayasa platform, memanfaatkan kerangka dan proses AI bertanggung jawab untuk merancang, mengembangkan, mengoperasikan, dan memproduksikan solusi.
• Mengakses akselerator: Mitra menawarkan akses ke ekosistem AI, yang mengurangi waktu pengembangan proyek pilot AI generatif dan tradisional yang bertanggung jawab hingga 50%. Perusahaan memperoleh solusi vertikal yang meningkatkan daya saing pasar mereka.
• Memastikan adopsi dan akuntabilitas tim: Tim perusahaan dan mitra dilatih pada kebijakan dan proses baru. Selain itu, perusahaan melakukan audit tim untuk memastikan kepatuhan dengan kebijakan kunci.
• Menggunakan metrik yang tepat untuk mengukur hasil: Pemimpin dan tim menggunakan benchmark dan metrik lainnya untuk menunjukkan bagaimana AI bertanggung jawab memberikan nilai bisnis untuk menjaga keterlibatan pemangku kepentingan tetap tinggi.
• Memantau sistem AI: Mitra menyediakan layanan pemantauan model, memecahkan masalah secara proaktif dan memastikan bahwa mereka memberikan hasil yang dipercaya.

Rencanakan AI Bertanggung Jawab Sekarang

Jika perusahaan Anda mempercepat inovasi AI, Anda mungkin memerlukan program AI bertanggung jawab. Beraksi proaktif untuk mengurangi risiko, mematangkan program dan proses, dan menunjukkan akuntabilitas kepada pemangku kepentingan.

Mitra dapat menyediakan keterampilan, kerangka, alat, dan kemitraan yang Anda butuhkan untuk membuka nilai bisnis dengan AI bertanggung jawab. Terapkan model yang adil dan bebas dari bias, laksanakan kontrol, dan tingkatkan kepatuhan dengan persyaratan perusahaan sambil mempersiapkan regulasi yang akan datang.