Bergerak Cepat, Tapi Jangan Merusak Apa Pun: Bagaimana Membalancekan Adopsi AI yang Bertanggung Jawab dan Inovasi

Menurut survei global terbaru dari McKinsey, meskipun 78% organisasi sekarang menggunakan AI dalam setidaknya satu fungsi bisnis, hanya 13% yang telah merekrut spesialis kepatuhan AI, dan hanya 6% yang memiliki spesialis etika AI di staf.

Ini, secara jujur, adalah perilaku yang ceroboh.

Meskipun di masa lalu yang tidak terlalu jauh saya adalah seorang pendukung besar etos “bergerak cepat dan merusak apa pun” di Lembah Silikon, kita tidak bisa bersikap ceroboh dengan AI – teknologi yang lebih kuat daripada apa pun yang pernah kita lihat sebelumnya dan tumbuh dengan kecepatan cahaya.

Mengadopsi AI tanpa garda yang berarti adalah jenis pemotongan sudut yang cepat yang pasti akan berakhir dengan bencana dan menghancurkan segalanya. Hanya dibutuhkan satu insiden bias AI atau penyalahgunaan untuk menghancurkan reputasi merek yang telah dibangun selama bertahun-tahun.

Dan meskipun banyak CIO dan CTO menyadari risiko ini, mereka tampaknya beroperasi di bawah asumsi bahwa regulator akan akhirnya campur tangan dan menyelamatkan mereka dari membangun kerangka mereka sendiri, menghasilkan banyak pembicaraan tentang risiko dengan sedikit pengawasan yang sebenarnya.

Sementara saya tidak memiliki keraguan bahwa peraturan akan akhirnya datang, saya kurang yakin mereka akan ditetapkan dalam waktu dekat. ChatGPT diperkenalkan sekitar tiga tahun yang lalu, dan kita baru saja mulai melihat hal-hal seperti Pertemuan Senat tentang chatbot dan risiko keamanan terjadi. Kenyataannya, bisa jadi tahun sebelum kita melihat peraturan yang berarti.

Daripada mengambil ini sebagai alasan untuk menunda pengawasan internal, ini seharusnya mendorong bisnis untuk mengambil pendekatan yang lebih proaktif. Terutama mengingat bahwa ketika peraturan akhirnya tiba, perusahaan tanpa kerangka mereka sendiri akan berjuang untuk memasang kepatuhan. Ini persis apa yang terjadi ketika GDPR dan CCPA diberlakukan.

Sama seperti startup yang gesit di awal tahun 2000-an sekarang diharuskan memenuhi standar yang lebih tinggi sebagai raksasa teknologi korporat yang mereka telah tumbuh, kita secara kolektif harus matang dalam pendekatan kita untuk mengadopsi AI secara bertanggung jawab.

Tidak Ada “Beli Sekarang Bayar Nanti” dengan Penerapan AI yang Bertanggung Jawab – Mulai Sekarang

Langkah pertama dalam pendekatan yang lebih bertanggung jawab terhadap AI adalah berhenti menunggu regulator dan menetapkan aturan sendiri. Apa pun keunggulan yang Anda pikir Anda dapatkan dengan menghindari pengawasan hari ini hanya akan kembali menggigit Anda di masa depan ketika Anda dihadapkan pada proses yang sangat mahal dan mengganggu untuk memasang kepatuhan.

Tentu saja, bagi banyak orang, masalahnya adalah tidak tahu dari mana harus memulai. Perusahaan saya baru-baru ini mengadakan survei 500 CIO dan CTO di perusahaan besar dan hampir setengah (48%) menyebutkan “menentukan apa yang merupakan penggunaan atau penerapan AI yang bertanggung jawab” sebagai tantangan untuk memastikan penggunaan AI yang etis.

Satu tempat yang mudah untuk memulai adalah memperluas fokus Anda di luar hanya fitur yang dimungkinkan oleh AI dan mempertimbangkan risiko yang mungkin terjadi. Misalnya, meskipun penggunaan AI dapat menyelamatkan waktu karyawan, juga membuka kemungkinan besar jumlah data Informasi Pribadi (PII) atau rahasia dagang yang dibagikan dengan LLM yang tidak berlisensi dan tidak disetujui.

Setiap perusahaan digital hari ini sudah familiar dengan Siklus Pengembangan Perangkat Lunak (SDLC), yang menyediakan kerangka untuk membangun produk berkualitas. Praktik pengawasan AI sebaiknya disematkan dalam alur kerja sehari-hari untuk memastikan bahwa pengambilan keputusan yang bertanggung jawab menjadi bagian dari rutinitas, bukan sebagai pemikiran terakhir.

Sebuah badan pengawas, seperti komite etika atau dewan pengawasan, seharusnya dibentuk yang menetapkan standar tentang apa aplikasi AI sebenarnya terlihat dalam organisasi, dan menetapkan metrik tentang cara memantau dan mempertahankan standar tersebut. Secara fungsional, ini terlihat seperti pengawasan alat AI dan model, persetujuan solusi, pengelolaan risiko, keselarasan peraturan dan standar, dan komunikasi transparan. Meskipun secara teknis ini mungkin merupakan “proses baru”, ini tidak terlalu berbeda dari praktik terbaik data dan mempertahankan keamanan siber dan dapat diotomatisasi untuk memastikan deteksi dini masalah.

Tentu saja, tidak semua risiko memerlukan tingkat perhatian yang sama, sehingga juga penting untuk mengembangkan proses pengelolaan risiko yang bertingkat sehingga tim Anda dapat fokus pada apa yang telah ditetapkan sebagai prioritas tinggi.

Akhirnya, dan paling penting, komunikasi yang jelas dan transparan tentang praktik pengawasan baik secara internal maupun eksternal sangat penting. Ini termasuk mempertahankan dokumen hidup untuk standar pengawasan dan menyediakan pelatihan berkelanjutan untuk menjaga tim tetap terkini.

Berhenti Menganggap Pengawasan sebagai Ancaman terhadap Inovasi

Sangat mungkin bahwa ancaman sebenarnya terhadap AI yang bertanggung jawab adalah keyakinan bahwa pengawasan dan inovasi saling bertentangan. Data survei kami mencerminkan 87% CIO dan CTO merasa bahwa terlalu banyak peraturan akan membatasi inovasi.

Tapi pengawasan seharusnya dianggap sebagai mitra strategis, bukan sebagai semacam rem inovasi.

Alasan pengawasan dianggap sebagai kekuatan gesekan yang melambatkan momentum adalah karena sering kali ditinggalkan untuk akhir pengembangan produk, tetapi garda harus menjadi bagian dari proses. Seperti yang disebutkan di atas, pengawasan dapat dibangun ke dalam siklus sprint sehingga tim produk dapat bergerak cepat, sementara pemeriksaan otomatis untuk keadilan, bias, dan kepatuhan berjalan secara paralel. Dalam jangka panjang, ini membayar karena pelanggan, karyawan, dan regulator merasa lebih percaya diri ketika mereka melihat tanggung jawab dibangun dari awal.

Dan ini telah terbukti membawa hasil keuangan. Penelitian telah menunjukkan bahwa organisasi dengan kerangka pengawasan data dan AI yang terimplementasikan dengan baik mengalami peningkatan kinerja keuangan sebesar 21-49%. Kegagalan untuk membangun kerangka ini, bagaimanapun, juga datang dengan konsekuensinya sendiri. Menurut studi yang sama, pada tahun 2027, sebagian besar organisasi (60%) akan “gagal memahami nilai yang diharapkan dari penggunaan AI mereka karena kerangka etika yang tidak kohesif”.

Sebuah catatan tentang argumen bahwa pengawasan tidak perlu datang dengan biaya inovasi adalah bahwa tim hukum yang terlibat dalam percakapan ini cenderung memperlambat hal-hal. Dalam pengalaman saya, bagaimanapun, membangun tim Governance, Risiko, dan Kepatuhan (GRC) membantu menjaga hal-hal berjalan lancar dan cepat dengan berfungsi sebagai jembatan antara tim hukum dan tim produk.

Ketika dikelola dengan baik, tim GRC membangun hubungan positif dengan tim hukum, berfungsi sebagai mata mereka di lapangan dan memberikan mereka laporan yang mereka butuhkan, sementara juga berkolaborasi dengan tim pengembangan untuk memitigasi risiko masa depan dari tuntutan hukum dan denda. Akhirnya, ini lebih lanjut memperkuat bahwa berinvestasi dalam pengawasan pada awalnya adalah cara terbaik untuk memastikan bahwa pengawasan tidak mengganggu inovasi.

Buat Sistem Pengawasan dan Pengawasan yang Dapat Diskalakan

Meskipun banyak CIO dan CTO yang disurvei merasa bahwa peraturan dapat membatasi inovasi, persentase yang sama besar (84%) mengharapkan perusahaan mereka akan meningkatkan pengawasan AI dalam 12 bulan ke depan. Mengingat kemungkinan bahwa integrasi AI terus berkembang dan diskalakan seiring waktu, juga penting bahwa sistem pengawasan dapat diskalakan bersama dengan mereka.

Sesuatu yang saya lihat sering di tahap awal penerapan AI dalam perusahaan adalah bahwa unit yang berbeda dalam bisnis bekerja dalam silo sehingga mereka menjalankan penerapan yang berbeda secara bersamaan dan dengan visi yang berbeda tentang apa yang “AI yang bertanggung jawab” maksudkan. Untuk menghindari inkonsistensi ini, perusahaan akan bijak untuk membangun Pusat Keunggulan AI yang menggabungkan keahlian teknis, kepatuhan, dan bisnis.

Pusat Keunggulan AI akan menetapkan standar perusahaan dan proses persetujuan yang bertingkat di mana ada jalur untuk kasus penggunaan risiko rendah. Ini, pada gilirannya, mempertahankan kecepatan sementara juga memastikan bahwa penerapan risiko tinggi melewati pemeriksaan keamanan yang lebih formal. Serupa, Pusat Keunggulan juga harus menetapkan indikator keamanan AI untuk eksekutif top sehingga akuntabilitas tidak hilang dalam fungsi bisnis sehari-hari.

Tapi untuk membuat ini menjadi kenyataan, eksekutif memerlukan visibilitas yang ditingkatkan ke dalam pelacakan indikator pengawasan. Dashboard yang menyajikan data waktu nyata tentang indikator ini akan jauh lebih efektif daripada norma saat ini dari laporan kepatuhan statis yang segera menjadi usang dan sering tidak dibaca. Idealnya, perusahaan juga harus membangun register risiko AI, dengan cara yang sama seperti mereka sudah melacak risiko keamanan siber, serta mempertahankan jejak audit yang mencerminkan siapa yang membangun implementasi ML/AI, bagaimana itu diuji, dan bagaimana itu berperforma seiring waktu.

Pesan penting di sini adalah bahwa AI yang bertanggung jawab memerlukan pengawasan sebagai proses yang berkelanjutan. Ini tidak hanya tentang persetujuan saat peluncuran, tetapi pemantauan terus-menerus sepanjang siklus hidup model. Sebagai such, pelatihan adalah kunci. Pengembang, teknolog, dan pemimpin bisnis harus dilatih dalam praktik AI yang bertanggung jawab sehingga mereka dapat mendeteksi masalah awal dan mempertahankan standar pengawasan yang tinggi seiring dengan evolusi sistem. Dengan melakukan hal ini, penerapan AI pasti akan lebih dapat dipercaya, efektif, dan menguntungkan – tanpa harus merusak apa pun dalam proses.