Menggunakan Generative AI: Mengungkap Implikasi Keamanan Sibernetik dari Alat Generative AI

Adil untuk mengatakan bahwa generative AI telah menarik perhatian setiap ruang rapat dan pemimpin bisnis di seluruh negeri. Sekarang, teknologi yang dulunya dianggap sebagai teknologi pinggiran yang sulit digunakan, telah menjadi lebih mudah diakses berkat aplikasi seperti ChatGPT atau DALL-E. Kami sekarang menyaksikan adopsi generative AI secara luas di semua industri dan kelompok usia, karena karyawan mencari cara untuk memanfaatkan teknologi ini untuk keuntungan mereka.

Survei terbaru menunjukkan bahwa 29% responden Gen Z, 28% responden Gen X, dan 27% responden Milenial sekarang menggunakan alat generative AI sebagai bagian dari pekerjaan sehari-hari mereka. Pada tahun 2022, adopsi generative AI skala besar berada pada 23%, dan angka ini diperkirakan akan meningkat menjadi 46% pada tahun 2025.

Generative AI adalah teknologi yang masih baru dan berkembang pesat, yang menggunakan model yang dilatih untuk menghasilkan konten asli dalam berbagai bentuk, dari teks tertulis dan gambar, hingga video, musik, dan bahkan kode perangkat lunak. Dengan menggunakan model bahasa besar (LLM) dan dataset yang besar, teknologi ini dapat secara instan menciptakan konten unik yang hampir tidak dapat dibedakan dari karya manusia, dan dalam banyak kasus lebih akurat dan menarik.

Namun, sementara bisnis semakin banyak menggunakan generative AI untuk mendukung operasi sehari-hari mereka, dan karyawan telah dengan cepat mengadopsi teknologi ini, kecepatan adopsi dan kurangnya regulasi telah menimbulkan kekhawatiran keamanan sibernetik dan kepatuhan regulasi yang signifikan.

Menurut survei terhadap masyarakat umum, lebih dari 80% orang khawatir tentang risiko keamanan yang ditimbulkan oleh ChatGPT dan generative AI, dan 52% responden ingin pengembangan generative AI dihentikan sementara sehingga regulasi dapat mengejar. Sentimen ini juga telah diulangi oleh bisnis itu sendiri, dengan 65% pemimpin IT senior tidak mau memberikan akses tanpa hambatan ke alat generative AI karena kekhawatiran keamanan.

Generative AI masih merupakan sesuatu yang tidak diketahui

Alat generative AI membutuhkan data. Model, seperti yang digunakan oleh ChatGPT dan DALL-E, dilatih pada data eksternal atau data yang tersedia secara gratis di internet, tetapi untuk mendapatkan hasil terbaik dari alat ini, pengguna perlu membagikan data yang sangat spesifik. Seringkali, ketika menggunakan alat seperti ChatGPT, pengguna akan membagikan informasi bisnis yang sensitif untuk mendapatkan hasil yang akurat dan komprehensif. Ini menciptakan banyak ketidakpastian bagi bisnis. Risiko akses tidak sah atau pengungkapan informasi sensitif yang tidak disengaja “terbaked” ketika menggunakan alat generative AI yang tersedia secara gratis.

Risiko ini pada dirinya sendiri tidak perlu menjadi hal yang buruk. Masalahnya adalah risiko ini belum sepenuhnya dieksplorasi. Sampai saat ini, belum ada analisis dampak bisnis yang nyata dari menggunakan alat generative AI yang tersedia secara luas, dan kerangka hukum dan regulasi global tentang penggunaan generative AI belum mencapai kematangan.

Regulasi masih dalam proses

Regulator sudah mengevaluasi alat generative AI dalam hal privasi, keamanan data, dan integritas data yang dihasilkan. Namun, seperti yang sering terjadi dengan teknologi yang muncul, aparatus regulasi untuk mendukung dan mengatur penggunaannya masih tertinggal beberapa langkah. Sementara teknologi ini digunakan oleh perusahaan dan karyawan secara luas, kerangka regulasi masih sangat banyak dalam tahap perencanaan.

Ini menciptakan risiko yang jelas dan nyata bagi bisnis yang, saat ini, tidak dianggap serius. Eksekutif secara alami tertarik dengan bagaimana platform ini akan memperkenalkan keuntungan bisnis yang signifikan seperti kesempatan untuk otomatisasi dan pertumbuhan, tetapi manajer risiko bertanya bagaimana teknologi ini akan diatur, apa implikasi hukum yang mungkin terjadi, dan bagaimana data perusahaan dapat dikompromikan atau terungkap. Banyak alat ini tersedia secara gratis untuk pengguna dengan browser dan koneksi internet, sehingga sementara mereka menunggu regulasi untuk mengejar, bisnis perlu mulai berpikir sangat hati-hati tentang “aturan rumah” mereka sendiri tentang penggunaan generative AI.

Peran CISO dalam mengatur generative AI

Dengan kerangka regulasi yang masih belum lengkap, Chief Information Security Officers (CISO) harus mengambil peran penting dalam mengelola penggunaan generative AI dalam organisasi mereka. Mereka perlu memahami siapa yang menggunakan teknologi ini dan untuk tujuan apa, bagaimana melindungi informasi perusahaan saat karyawan berinteraksi dengan alat generative AI, bagaimana mengelola risiko keamanan teknologi yang mendasarinya, dan bagaimana menyeimbangkan perdagangan keamanan dengan nilai yang ditawarkan teknologi ini.

Ini bukanlah tugas yang mudah. Penilaian risiko yang terperinci harus dilakukan untuk menentukan baik hasil negatif maupun positif sebagai akibat dari penerapan teknologi ini dalam kapasitas resmi, dan kedua, membiarkan karyawan menggunakan alat yang tersedia secara gratis tanpa pengawasan. Mengingat sifat akses mudah dari aplikasi generative AI, CISO perlu berpikir hati-hati tentang kebijakan perusahaan mengenai penggunaannya. Apakah karyawan harus bebas menggunakan alat seperti ChatGPT atau DALL-E untuk mempermudah pekerjaan mereka? Atau apakah akses ke alat ini harus dibatasi atau dimoderasi dengan beberapa cara, dengan pedoman internal dan kerangka tentang bagaimana mereka harus digunakan? Salah satu masalah yang jelas adalah bahwa bahkan jika pedoman penggunaan internal dibuat, mengingat kecepatan evolusi teknologi, mereka mungkin sudah usang sebelum mereka selesai.

Cara untuk mengatasi masalah ini mungkin sebenarnya adalah dengan memindahkan fokus dari alat generative AI itu sendiri, dan sebaliknya fokus pada klasifikasi dan perlindungan data. Klasifikasi data telah lama menjadi aspek penting dalam melindungi data dari pelanggaran atau kebocoran, dan ini berlaku juga dalam kasus ini. Ini melibatkan penugasan tingkat sensitivitas pada data, yang menentukan bagaimana data harus ditangani. Apakah harus dienkripsi? Apakah harus diblokir untuk dikandung? Apakah harus diberitahukan? Siapa yang harus memiliki akses ke data, dan di mana data diperbolehkan untuk dibagikan? Dengan fokus pada aliran data, bukan alat itu sendiri, CISO dan petugas keamanan akan memiliki kesempatan yang jauh lebih besar untuk memitigasi beberapa risiko yang disebutkan.

Seperti semua teknologi yang muncul, generative AI adalah baik berkah dan risiko bagi bisnis. Sementara menawarkan kemampuan baru yang menarik seperti otomatisasi dan konseptualisasi kreatif, juga memperkenalkan tantangan kompleks seputar keamanan data dan perlindungan kekayaan intelektual. Sementara kerangka hukum dan regulasi masih dalam proses, bisnis harus mengambil langkah untuk mengimbangkan antara kesempatan dan risiko, menerapkan kontrol kebijakan mereka sendiri yang mencerminkan postur keamanan mereka secara keseluruhan. Generative AI akan mendorong bisnis maju, tetapi kita harus berhati-hati untuk menjaga satu tangan di roda.