Menerangi Bayangan AI

Di seluruh industri, pekerja semakin banyak menggunakan alat kecerdasan buatan (AI) untuk mengubah operasi sehari-hari. Baik itu profesional pemasaran yang menggunakan ChatGPT untuk membuat kampanye atau insinyur perangkat lunak yang menulis kode dengan alat generatif, AI secara diam-diam terintegrasi ke dalam hampir setiap aspek bisnis. Faktanya, Proyek NANDA MIT menemukan bahwa di lebih dari 90% organisasi, karyawan menggunakan akun chatbot pribadi untuk mendukung pekerjaan sehari-hari mereka, seringkali tanpa pengawasan IT, namun hanya 40% perusahaan yang memiliki langganan resmi untuk alat model bahasa besar (LLM). Kesenjangan ini antara penggunaan AI yang disetujui dan yang disembunyikan telah membuka blind spot keamanan baru: bayangan AI. 

Tanpa pengawasan, data sensitif dapat dibagikan dengan model eksternal, output dapat tidak akurat atau bias, dan tim kepatuhan kehilangan visibilitas ke mana dan bagaimana informasi diproses. Ketika karyawan terus bereksperimen dengan alat di luar saluran yang disetujui, organisasi perlu membayangkan kembali strategi mereka untuk mengelola AI, atau risiko tersebut akan terus muncul ke permukaan. Bagi CIO, melarang alat AI sama sekali bukanlah solusi, karena dapat memengaruhi kemampuan bersaing. Sebaliknya, fokus harus pada pengamanan yang adaptif yang menyeimbangkan inovasi dengan pengelolaan risiko yang bertanggung jawab.

Untuk tetap satu langkah di depan risiko terkait AI, organisasi harus menetapkan kebijakan AI yang mempromosikan adopsi yang bertanggung jawab. Pedoman ini harus mendorong karyawan untuk menggunakan AI dengan bijak, dan setiap kebijakan yang diberlakukan harus selaras dengan nilai dan nafsu risiko perusahaan. Untuk mencapai program yang sukses, organisasi harus melampaui model tata kelola yang ketinggalan zaman dan alat warisan yang tidak mendeteksi atau melacak penggunaan AI di seluruh bisnis mereka.

Sementara menetapkan kebijakan AI adalah langkah penting, intinya adalah memastikan bahwa kebijakan tersebut dirancang untuk praktis, dapat ditegakkan, dan selaras dengan visi inovatif dan kebutuhan kepatuhan setiap bisnis, tanpa menghambat kemajuan mereka.

Berikut adalah empat langkah yang dapat diambil organisasi:

1. Tentukan kerangka kerja terbaik

Bisnis tidak perlu memulai dari awal. Beberapa lembaga terkemuka telah mengembangkan kerangka kerja yang menawarkan titik referensi yang berharga. Sumber daya dari Organisasi untuk Kerja Sama dan Pengembangan Ekonomi (OECD), Institut Nasional untuk Standar (NIST), dan ISO/IEC, dapat memberikan panduan tentang mengelola AI dengan aman dan efektif. Selain itu, badan pemerintah mulai terlibat. Peraturan baru dari Uni Eropa (EU) menetapkan harapan seputar transparansi, akuntabilitas, dan tata kelola. Bersama, sumber daya ini akan membantu memberikan fondasi yang kuat bagi bisnis untuk membangun dan memperbarui kerangka kerja mereka sendiri untuk memandu adopsi AI yang bertanggung jawab.

2. Tingkatkan visibilitas AI

Ketika organisasi memetakan jalur mereka menuju pengelolaan risiko AI yang efektif, sangat penting bahwa pemimpin keamanan mengembangkan pemahaman yang kuat tentang bagaimana AI sebenarnya digunakan di seluruh bisnis mereka. Mereka harus berinvestasi pada alat yang membantu memberikan visibilitas kegiatan di seluruh fungsi. Alat ini dapat memantau dan mengakses perilaku pengguna, dan tidak akan meninggalkan batu yang terlewatkan ketika menemukan penggunaan AI generatif. Wawasan ini sangat penting ketika menemukan penggunaan bayangan AI, dan membantu pemimpin mengevaluasi risiko dan mengatasinya.

3. Bentuk Dewan AI

Setelah visibilitas terbentuk, pemimpin keamanan dapat menggunakan informasi tersebut untuk memandu kebijakan baru. Karena penggunaan AI memengaruhi seluruh bisnis, mereka tidak boleh memisahkan proses pengambilan keputusan. CISO harus mempertimbangkan untuk membentuk dewan AI yang mengumpulkan pemangku kepentingan kunci dari keamanan, hukum, IT, dan C-suite. Faktanya, Gartner melaporkan bahwa 55% organisasi telah membentuk dewan AI, sementara 54% telah menunjuk kepala AI atau pemimpin AI khusus untuk mengawasi strategi dan implementasi.

Kelompok fungsional ini dapat mengevaluasi baik risiko maupun peluang yang ditawarkan oleh alat AI, baik yang disetujui maupun tidak, yang mulai menginfiltrasi lingkungan bisnis mereka. Mereka kemudian dapat membentuk kebijakan baru bersama yang menangani kebutuhan bisnis mereka dan menyeimbangkan risiko.

Misalnya, jika dewan mengidentifikasi alat AI populer yang digunakan tanpa persetujuan yang menimbulkan kekhawatiran keamanan, mereka dapat merekomendasikan untuk melarang aplikasi tersebut sambil menyetujui alternatif yang lebih aman. Kebijakan ini harus diperkuat dengan investasi pada kontrol keamanan dan platform AI yang disetujui yang memenuhi standar kepatuhan. Ketika kemajuan baru muncul, dewan juga dapat memperkenalkan proses formal untuk karyawan mengusulkan alat untuk diverifikasi, membantu organisasi tetap adaptif dan patuh dengan strategi AI mereka.

4. Perkuat Pendidikan AI

Mendidik dan berinteraksi dengan karyawan tentang AI akan menjadi bagian penting lainnya dalam memastikan penerimaan organisasi dan meredam penggunaan bayangan AI. Bahkan dengan model tata kelola yang tepat, kesuksesan bergantung pada seberapa baik karyawan memahami dan menerima mereka.

Dalam satu survei Pew Research, di antara pekerja yang telah menerima pelatihan di tempat kerja (51%), hanya seperempat (24%) mengatakan bahwa itu terkait dengan penggunaan AI. Organisasi harus memastikan bahwa mereka memiliki program pelatihan AI, karena dapat membantu karyawan memahami peluang dan fungsionalitas yang tersedia bagi mereka. Peningkatan keterampilan juga dapat membantu mereka tumbuh dalam karir mereka dan merasa lebih puas dengan posisi mereka.

Program pelatihan AI harus fokus tidak hanya pada penggunaan dasar dan kepatuhan, tetapi juga membantu tim memahami konteks yang lebih luas dari AI dan bagaimana AI beroperasi dalam ekosistem bisnis mereka. Topik yang perlu dibahas termasuk mengapa penggunaan AI yang bertanggung jawab penting, apa kebijakan yang ada untuk melindungi bisnis dan pelanggan, dan bagaimana mengidentifikasi potensi risiko pengolahan data atau privasi. Ketika karyawan dilengkapi dengan pengetahuan yang tepat, mereka dapat menjadi mitra aktif dalam berinovasi dengan aman.

Membentuk Masa Depan AI yang Bertanggung Jawab 

Bayangan AI tidak akan segera menghilang. Ketika teknologi generatif semakin tertanam dalam alur kerja sehari-hari, tantangan bagi organisasi hanya akan meningkat. Pemimpin sekarang menghadapi pilihan untuk memperlakukan bayangan AI sebagai ancaman yang tidak terkendali atau mengakui sebagai kesempatan untuk memaksimalkan efisiensi dan produktivitas, ketika dikelola dengan benar.

Mengembangkan kebijakan AI atau dewan bukanlah tindakan satu kali. Sama seperti AI yang berkembang pesat, strategi organisasi juga harus berkembang. AI dapat membantu memandu keputusan yang lebih cerdas, mempercepat inovasi, dan meningkatkan produktivitas di seluruh fungsi. Namun, untuk mempertahankan keuntungan tersebut, karyawan harus memahami alat apa yang tersedia bagi mereka dan bagaimana menggunakannya dengan bertanggung jawab. Mereka yang sukses akan tetap lincah, proaktif memperbarui kebijakan mereka untuk tetap di depan perubahan, bukan mengejar perubahan.