Pada tahun 2022, perusahaan memiliki rata-rata 3,8 model AI dalam produksi. Saat ini, tujuh dari sepuluh perusahaan bereksperimen dengan AI generatif, yang berarti bahwa jumlah model AI dalam produksi akan melonjak dalam beberapa tahun mendatang. Sebagai hasilnya, diskusi industri sekitar AI bertanggung jawab telah menjadi lebih mendesak.

Berita baiknya adalah bahwa lebih dari setengah organisasi sudah menjadi juara etika AI. Namun, hanya sekitar 20% telah mengimplementasikan program komprehensif dengan kerangka, tata kelola, dan pengawasan untuk mengawasi pengembangan model AI dan proaktif mengidentifikasi serta memitigasi risiko. Mengingat kecepatan pengembangan AI, pemimpin harus melangkah maju sekarang untuk mengimplementasikan kerangka dan proses yang matang. Regulasi di seluruh dunia sedang datang, dan sudah satu dari dua organisasi telah mengalami kegagalan AI bertanggung jawab.

Tantangan Mengimplementasikan AI Bertanggung Jawab

AI bertanggung jawab meliputi hingga 20 fungsi bisnis yang berbeda, meningkatkan kompleksitas proses dan pengambilan keputusan. Tim AI bertanggung jawab harus bekerja sama dengan pemangku kepentingan kunci, termasuk kepemimpinan; pemilik bisnis; tim data, AI, dan IT; serta mitra untuk:

• Membangun solusi AI yang adil dan bebas dari bias: Tim dan mitra dapat menggunakan teknik yang berbeda, seperti analisis data eksploratif, untuk mengidentifikasi dan memitigasi potensi bias sebelum mengembangkan solusi—dengan demikian, model dibangun dengan keadilan dalam pikiran dari awal. Tim dan mitra juga dapat meninjau data yang digunakan dalam pengolahan awal, desain algoritma, dan pengolahan lanjutan untuk memastikan bahwa data tersebut representatif dan seimbang. Selain itu, mereka dapat menggunakan teknik keadilan kelompok dan individu untuk memastikan bahwa algoritma memperlakukan kelompok dan individu secara adil. Dan pendekatan keadilan kontrafaktual memodelkan hasil jika faktor-faktor tertentu diubah, membantu mengidentifikasi dan mengatasi bias.
• Meningkatkan transparansi dan keterjelasan AI: Transparansi AI berarti mudah untuk memahami bagaimana model AI bekerja dan membuat keputusan. Keterjelasan berarti keputusan tersebut dapat dengan mudah dikomunikasikan kepada orang lain dalam bahasa non-teknis. Menggunakan terminologi umum, mengadakan diskusi reguler dengan pemangku kepentingan, dan menciptakan budaya kesadaran AI dan pembelajaran berkelanjutan dapat membantu mencapai tujuan ini.
• Memastikan privasi dan keamanan data: Model AI menggunakan sejumlah besar data. Perusahaan menggunakan data pertama dan ketiga untuk memberi makan model. Mereka juga menggunakan teknik pembelajaran yang menjaga privasi, seperti membuat data sintetis untuk mengatasi masalah kekurangan data. Pemimpin dan tim akan ingin meninjau dan mengembangkan pengawasan privasi dan keamanan data untuk memastikan bahwa data rahasia dan sensitif masih dilindungi saat digunakan dalam cara baru. Misalnya, data sintetis harus meniru karakteristik kunci pelanggan tetapi tidak dapat dilacak kembali ke individu.
• Mengimplementasikan tata kelola: Tata kelola akan bervariasi berdasarkan kematangan AI perusahaan. Namun, perusahaan harus menetapkan prinsip dan kebijakan AI dari awal. Saat penggunaan model AI mereka meningkat, mereka dapat menunjuk petugas AI; mengimplementasikan kerangka; menciptakan mekanisme akuntabilitas dan pelaporan; serta mengembangkan umpan balik dan program perbaikan berkelanjutan.

Penggerak Kritis Program AI Bertanggung Jawab

Jadi, apa yang membedakan perusahaan yang menjadi pemimpin AI bertanggung jawab dari yang lain? Mereka:

• Menciptakan visi dan tujuan untuk AI: Pemimpin mengkomunikasikan visi dan tujuan mereka untuk AI dan bagaimana AI memberikan manfaat bagi perusahaan, pelanggan, dan masyarakat.
• Menetapkan harapan: Pemimpin senior menetapkan harapan yang tepat dengan tim untuk membangun solusi AI bertanggung jawab dari awal rather daripada mencoba menyesuaikan solusi setelah selesai.
• Mengimplementasikan kerangka dan proses: Mitra menyediakan kerangka AI bertanggung jawab dengan proses transparan dan pengawasan. Misalnya, pemeriksaan privasi data, keadilan, dan bias harus dibangun ke dalam persiapan data awal, pengembangan model, dan pemantauan berkelanjutan.
• Mengakses domain, industri, dan keterampilan AI: Tim ingin mempercepat inovasi solusi AI untuk meningkatkan daya saing bisnis. Mereka dapat bermitra untuk mendapatkan keterampilan domain dan industri yang relevan, seperti strategi data dan AI, pelaksanaan, analitik pelanggan, teknologi pemasaran, rantai pasokan, dan kemampuan lainnya. Mitra juga dapat menyediakan keterampilan AI penuh, termasuk teknik rekayasa model bahasa besar (LLM), pengembangan, operasional, dan kemampuan rekayasa platform, yang menggunakan kerangka AI bertanggung jawab untuk merancang, mengembangkan, mengoperasikan, dan memproduksi solusi.
• Mengakses akselerator: Mitra menawarkan akses ke ekosistem AI, yang mengurangi waktu pengembangan proyek pilot AI tradisional dan generatif yang bertanggung jawab hingga 50%. Perusahaan memperoleh solusi vertikal yang meningkatkan daya saing pasar mereka.
• Memastikan adopsi tim dan akuntabilitas: Tim perusahaan dan mitra dilatih pada kebijakan dan proses baru. Selain itu, perusahaan melakukan audit tim untuk memastikan kepatuhan terhadap kebijakan kunci.
• Menggunakan metrik yang tepat untuk mengukur hasil: Pemimpin dan tim menggunakan benchmark dan metrik lainnya untuk menunjukkan bagaimana AI bertanggung jawab memberikan nilai bisnis untuk menjaga keterlibatan pemangku kepentingan tetap tinggi.
• Memonitor sistem AI: Mitra menyediakan layanan pemantauan model, memecahkan masalah secara proaktif, dan memastikan bahwa mereka memberikan hasil yang dipercaya.

Rencanakan AI Bertanggung Jawab Sekarang

Jika perusahaan Anda mempercepat inovasi AI, Anda mungkin memerlukan program AI bertanggung jawab. Beraksi proaktif untuk mengurangi risiko, mematangkan program dan proses, serta menunjukkan akuntabilitas kepada pemangku kepentingan.

Mitra dapat menyediakan keterampilan, kerangka, alat, dan kemitraan yang Anda butuhkan untuk membuka nilai bisnis dengan AI bertanggung jawab. Terapkan model yang adil dan bebas dari bias, laksanakan kontrol, dan tingkatkan kepatuhan dengan persyaratan perusahaan sambil mempersiapkan regulasi yang akan datang.